Mengapa tata kelola penting sekarang
Setiap organisasi di Teluk yang menggunakan AI, entah bank yang menilai permohonan pembiayaan, rumah sakit yang melakukan triase pasien, atau peritel yang merekomendasikan produk, sedang mengambil keputusan tentang manusia melalui mesin. Sebagian besar keputusan itu bermanfaat. Sebagian akan keliru, dan segelintir akan tidak adil, tidak transparan, atau merugikan. Tata kelola hanyalah disiplin untuk memastikan organisasi tahu apa yang dilakukan sistemnya, dapat menjelaskannya, dan dapat memperbaikinya.
Ini lebih penting sekarang karena tiga alasan. Sistem AI digunakan untuk keputusan yang berdampak besar, bukan sekadar rekomendasi. Regulator di seluruh kawasan telah bergerak dari panduan menjadi undang-undang, terutama soal data pribadi. Dan kepercayaan publik, sekali hilang, mahal untuk dipulihkan. Jika dilakukan dengan baik, tata kelola bukanlah rem bagi inovasi; ia justru yang memungkinkan organisasi bergerak cepat tanpa merusak hal-hal yang penting.
Lima prinsip dalam bahasa sederhana
Kerangka AI yang bertanggung jawab di seluruh dunia bermuara pada sekumpulan kecil gagasan, dan versi Teluk pun tidak terkecuali.
Keadilan berarti sistem tidak boleh memperlakukan orang secara berbeda berdasarkan karakteristik yang tidak relevan dengan keputusan, seperti kewarganegaraan atau jenis kelamin, kecuali ada alasan yang sah. Transparansi berarti orang yang terdampak oleh suatu keputusan harus dapat mengetahui bahwa AI terlibat dan, dalam istilah yang bermakna, mengapa hasilnya seperti itu. Privasi berarti data tentang orang dikumpulkan untuk tujuan yang dinyatakan, disimpan dengan aman, dan tidak digunakan untuk hal lain tanpa persetujuan atau dasar hukum. Akuntabilitas berarti ada orang atau fungsi yang ditunjuk sebagai penanggung jawab setiap sistem; "algoritmanya yang memutuskan" tidak pernah menjadi jawaban. Pengawasan manusia berarti, untuk keputusan yang berdampak nyata, seseorang dapat meninjau, menggugat, dan membatalkan keputusan sistem, dan memiliki waktu serta informasi untuk melakukannya.
Tak satu pun prinsip ini asing bagi nilai-nilai kawasan. Keadilan, kejujuran dalam bermuamalah, menjaga amanah, dan tanggung jawab pribadi berakar dalam pada etika Islam dan norma sosial Teluk. AI yang bertanggung jawab memberi prinsip-prinsip itu wujud teknis.
Arah kebijakan regional
UEA termasuk pemerintah paling awal di dunia yang memperlakukan AI sebagai prioritas nasional, dengan mengangkat menteri khusus untuk kecerdasan buatan dan menerbitkan strategi AI nasional dengan horizon jangka panjang. Dubai dan pemerintah federal sama-sama telah menerbitkan prinsip dan pedoman etika AI yang dapat dijadikan rujukan organisasi, dan negara ini memiliki undang-undang perlindungan data pribadi federal.
Arab Saudi mendirikan otoritas nasional untuk data dan kecerdasan buatan, yang telah menerbitkan prinsip-prinsip etika AI dan memimpin strategi nasional untuk data dan AI yang selaras dengan Visi 2030. Undang-undang perlindungan data pribadi Kerajaan menetapkan aturan pengumpulan dan pemrosesan data pribadi yang harus dihormati setiap organisasi yang menerapkan AI.
Rincian instrumen-instrumen ini terus berkembang, dan organisasi sebaiknya merujuk pada teks resmi terkini serta penasihat hukum mereka. Namun, arahnya jelas dan konsisten: kedua negara ingin AI diadopsi secara luas, dan keduanya mengharapkan AI diadopsi secara bertanggung jawab.
Di mana hal-hal berjalan keliru dalam praktik
Bias jarang hadir sebagai pilihan yang disengaja. Ia masuk melalui data pelatihan yang mencerminkan keputusan, pelanggan, atau pola perekrutan masa lalu. Model yang dilatih berdasarkan siapa yang disetujui sebelumnya akan belajar menyetujui orang-orang yang serupa dengan mereka. Penawarnya adalah memeriksa data sebelum model dibuat, menguji hasil di berbagai kelompok setelah model ada, dan terus mengujinya setelah penerapan karena perilaku bergeser seiring perubahan data.
Pengawasan sering gagal secara diam-diam. Peninjau manusia yang melihat tiga ratus rekomendasi AI sehari dan hanya punya tiga puluh detik untuk masing-masing tidak sedang mengawasi; mereka sedang membubuhkan tanda tangan. Pengawasan yang nyata memerlukan beban kerja yang dapat dikelola, wewenang, dan kemampuan untuk melihat penalaran sistem.
Vendor adalah titik lemah ketiga. Membeli produk AI tidak memindahkan tanggung jawab atas hasilnya. Organisasi sebaiknya bertanya kepada pemasok bagaimana model dilatih, pengujian apa yang dilakukan, dan data apa yang keluar dari negeri ini.
Daftar periksa tata kelola praktis
- Simpan inventaris setiap sistem AI yang digunakan, siapa pemiliknya, dan keputusan apa yang dipengaruhinya.
- Jenjangkan sistem berdasarkan risiko: chatbot yang menjawab pertanyaan tentang jam buka bukanlah sistem yang menyaring pelamar kerja.
- Untuk sistem berisiko lebih tinggi, dokumentasikan sumber data, uji disparitas antarkelompok, dan catat hasilnya.
- Tentukan siapa yang dapat membatalkan keputusan sistem dan pastikan mereka memiliki waktu serta informasi untuk melakukannya.
- Beri tahu orang ketika AI digunakan dalam keputusan yang menyangkut mereka dan sediakan jalur untuk mengajukan keberatan.
- Tinjau setiap sistem setidaknya setahun sekali dan setiap kali data atau penggunaannya berubah.
Bagaimana memulai
Mulailah dari inventaris; sebagian besar organisasi terkejut dengan apa yang mereka temukan. Tunjuk kelompok lintas fungsi kecil dari bagian teknologi, hukum, operasional, dan seseorang yang mewakili pihak yang terdampak, dengan mandat untuk menjenjangkan sistem dan menetapkan aturan bagi jenjang tertinggi. Tulis aturannya dalam beberapa halaman, bukan seratus. Kemudian terapkan pada satu sistem berisiko tinggi dari awal hingga akhir, petik pelajarannya, dan perluas. Tata kelola yang baik tidak terlalu soal dokumen, melainkan soal kebiasaan, dan kebiasaan dibangun satu sistem demi satu sistem.
