Bayangkan sebuah sistem seleksi lamaran yang pelan-pelan belajar bahwa kandidat yang bagus itu biasanya laki-laki, hanya karena itu pola dari data lama. Ini bukan skenario fiksi.
Dua kisah nyata
Menurut AIHub, Amazon mengembangkan alat penilai lamaran berbasis AI pada 2014 sampai 2017. Alat itu dilatih dengan data CV selama sekitar sepuluh tahun yang didominasi laki-laki, dan akhirnya cenderung memberi nilai lebih rendah pada lamaran perempuan, misalnya yang menyebut klub catur perempuan. Amazon menghentikan alat itu pada 2018.
Kasus lain datang dari sistem pengenalan wajah. Menurut Melékmedia, Robert Williams ditangkap di depan rumahnya pada Januari 2020 karena algoritma pengenalan wajah salah mengidentifikasinya sebagai pelaku pencurian. Panduan Dikti juga mengingatkan bahwa bias pada data pelatihan bisa membuat rekomendasi medis menjadi tidak akurat, bukan cuma soal rekrutmen atau penegakan hukum.
Bias AI tidak perlu ada niat jahat. Cukup data masa lalu yang timpang, lalu sistem meniru pola itu dengan sangat konsisten. Itu sebabnya hasil AI untuk keputusan yang menyangkut orang, seperti seleksi, penilaian, dan pinjaman, perlu pengawasan manusia.
Siapa yang mengatur di Indonesia
Menurut Artifisial, ada tiga lapisan kebijakan yang relevan. UU PDP No. 27 Tahun 2022 dan UU ITE mengikat dan punya sanksi, berlaku juga untuk sistem berbasis AI. Surat Edaran Menkominfo No. 9 Tahun 2023 berisi pedoman etika kecerdasan artifisial, tapi sifatnya imbauan tanpa sanksi. Dua rancangan Peraturan Presiden, Peta Jalan AI Nasional dan Etika AI, masih disiapkan per 27 Agustus 2026.
Wakil Menteri Komdigi Nezar Patria menyatakan Perpres AI tidak akan mengatur sanksi tersendiri, karena pelanggaran akan tetap merujuk ke aturan yang sudah ada seperti UU ITE dan UU Pornografi. Salah satu turunan pertama yang disiapkan adalah kewajiban pelabelan atau watermark pada konten buatan AI. Karena status regulasi ini masih bergerak, selalu cek apakah sudah terbit sebelum menganggapnya berlaku.
Bias AI itu seperti cermin yang memantulkan wajah kita apa adanya, termasuk noda yang tidak kita sadari. Cerminnya tidak salah, tapi kita perlu tahu apa yang sedang dipantulkan.