Sebuah penelitian baru yang dirilis Twitter pada Rabu (19/5) menemukan bahwa algoritma pemotongan gambar (image-cropping) miliknya ternyata cenderung bias terhadap orang kulit hitam dan laki-laki. Twitter juga menyatakan bahwa “keputusan untuk memotong gambar ternyata paling baik dilakukan oleh manusia.”
Studi ini dilakukan setelah pada tahun lalu pihaknya menerima banyak kritik terkait gambaran awal (image preview) di sejumlah unggahan yang ternyata menghilangkan wajah orang kulit hitam.
Hasil studi mendapati perbedaan paritas demografi sebesar 8 persen yang lebih memihak pada perempuan, dan 4 persen kepada orang kulit putih.
Beberapa kemungkinan penyebabnya, menurut studi ini, antara lain masalah di latar belakang gambar dan warna mata. Namun Twitter menegaskan bahwa dua hal tersebut bukan alasan.
“Mesin pemotong gambar memiliki kecacatan karena tak bisa membaca ekspresi dan tujuan pengguna terkait nilai dan identitas, mesin hanya menerapkan pandangan normatif tentang bagian mana dari gambar paling menarik,” tulis para peneliti.
Untuk mengatasi masalah tersebut, baru-baru ini Twitter mencoba menerapkan aspek standar rasio foto secara penuh – tanpa potongan – di aplikasi telepon genggamnya dan masih mencoba untuk menyempurnakan langkah itu.
Para peneliti juga menguji apakah pemotongan gambar lebih berpihak pada bagian tubuh wanita daripada bagian kepala, sebuah proses yang dikenal dengan istilah “pandangan pria”, tetapi mereka menemukan hal itu bukanlah masalah.
Temuan ini menjadi contoh lain tentang dampak berbeda dari sistem kecerdasan buatan, termasuk kecenderungan bias demografis yang ditemukan pada fungsi pengenalan wajah dan analisis teks.
Sebuah riset yang dilakukan di Microsoft Corp dan Massachusetts Institute of Technology pada 2018 dan kemudian studi lain dari pemerintah Amerika Serikat menemukan bahwa sistem analisis wajah lebih saring salah mengidentifikasi orang kulit berwarna daripada orang kulit putih.
Pada 2018, Amazon Inc menghapus program perekrutan berbasis kecerdasan buatan miliknya karena memiliki kecenderungan tidak berpihak terhadap perempuan.
