Bagi orang-orang seperti Heather Bollin, yang bertunangan dengan seorang pria yang saat ini dipenjara, pengawasan tanpa henti adalah bagian dari kehidupannya. Perempuan Texas berusia 43 tahun ini mengatakan, tiga pembicaraan telepon hariannya dengan tunangannya selalu dalam pemantauan petugas penjara.
“Kami tidak pernah bisa berkomunikasi tanpa diawasi,” katanya kepada Thomson Reuters Foundation dalam sebuah wawancara telepon, meminta agar nama tunangannya dirahasiakan karena takut akan ada pembalasan.
Penjara-penjara di Amerika Serikat mendapatkan lebih banyak bantuan teknologi tinggi untuk mengawasi apa yang dibicarakan para narapidana, setelah sebuah panel penting di DPR AS meminta adanya laporan yang mempelajari penggunaan kecerdasan buatan (artificial intelligence atau AI) untuk menganalisis panggilan telepon para tahanan.
Namun, para advokat hak-hak narapidana dan keluarga-keluarga narapidana mengatakan mengandalkan AI untuk mengungkap komunikasi para narapidana bisa menimbulkan kekeliruan, kesalahpahaman, dan bias rasial.
Seruan terhadap Departemen Kehakiman untuk mengeksplorasi lebih lanjut teknologi AI, untuk membantu mencegah kejahatan kekerasan dan bunuh diri, menuntut biaya yang tidak sedikit. Komisi Anggaran DPR bulan lalu menyetujui RUU anggaran sebesar 81 miliar dolar untuk mendanai Departemen Kehakiman dan lembaga-lembaga federal lainnya untuk menjalankan proyek itu pada tahun 2022 .
Teknologi AI dapat secara otomatis menyalin panggilan telepon narapidana, menganalisis nada suara mereka dan menandai kata atau frasa tertentu, termasuk bahasa gaul, yang telah diprogram sebelumnya ke dalam sistem.
Seorang Demokrat di panel DPR itu mengatakan dalam sebuah pernyataan emailnya bahwa ia dan panelnya mendorong Departemen Kehakiman untuk terlibat dengan para pemangku kepentingan dalam mengevaluasi kelayakan penggunaan sistem seperti itu.
Beberapa penjara negara bagian dan lokal di berbagai penjuru AS sudah mulai menggunakan teknologi ini, termasuk di Alabama, Georgia, dan New York.
Panel DPR itu ingin Departemen Kehakiman melihat potensi pemanfaatan teknologi itu untuk penggunaan federal dan untuk mengidentifikasi kesenjangan atau kekurangan informasi yang dihasilkannya.
“Ini sangat meresahkan. Bagaimana jika saya mengatakan sesuatu yang keliru saat menelepon?” kata Bollin, yang khawatir tunangannya akan mendapat masalah secara tidak sengaja. “Ini bisa disalahartikan oleh teknologi ini, dan kemudian tunangan saya bisa dihukum?.”
Kelompok-kelompok hak privasi mengatakan teknologi itu dapat meningkatkan bias rasial dalam sistem peradilan dan secara tidak adil membuat tahanan tunduk pada kecerdasan buatan yang hasil analisisnya tidak bisa dipertanggungjawabkan.
“Kongres ini seharusnya melarang teknologi yang memungkinkan terciptanya bias rasial, dan seharusnya tidak mendanainya,” kata Albert Fox Cahn, direktur eksekutif Proyek Pemantauan Teknologi Pengawasan (STOP), sebuah kelompok advokasi yang berbasis di New York.
“Orang-orang yang terperangkap dalam sistem peradilan pidana selalu menjadi subjek eksperimen untuk sistem-sistem teknologi baru.”
Para pendukung teknologi AI membantah kritik semacam itu, dengan mengatakan bahwa teknologi itu adalah penghemat waktu yang vital untuk penegakan hukum dan tidak menarget kelompok-kelompok tertentu.
Bill Partridge, kepala polisi di Oxford, Alabama, mengatakan timnya telah berhasil memecahkan kasus-kasus pembunuhan yang telah dibekukan sebelumnya setelah mentranskrip dan menganalisis pembicaraan telepon sejumlah tersangka.
Departemen yang dipimpin Partridge adalah salah satu dari segelintir lembaga di negara bagian itu yang telah memanfaatkan perangkat lunak dari LEO Technologies, sebuah perusahaan yang berbasis di California, yang menggunakan alat pemrosesan dan transkripsi bahasa Amazon Web Services (AWS) untuk memproses dan mengevaluasi panggilan telepon narapidana secara hampir seketika (real time).
Kepala polisi itu juga mengatakan teknologi AI, yang disebut Verus itu, sangat membantu dalam mencegah bunuh diri. “Saya pikir jika pemerintah federal mulai menggunakannya, mereka akan mencegah banyak kematian narapidana,” katanya.
Scott Kernan, CEO LEO Technologies dan mantan pejabat Departemen Pemasyarakatan dan Rehabilitasi California, mengatakan teknologi itu “menyelamatkan nyawa baik di dalam maupun di luar lingkungan penjara yang kami pantau.”
“Karena kami mendengarkan semua komunikasi, kami tidak menarget ras, jenis kelamin, atau kelompok yang dilindungi,” kata Kernan.
Orang-orang yang dipenjara memiliki sangat sedikit perlindungan hukum sewaktu mereka dianggap melanggar, kata Bianca Tylek, pendiri Worth Rises, sebuah organisasi nirlaba yang menangani masalah peradilan penjara.
“Saya pikir gagasan bahwa mesin dapat mendengar dan memahami apa yang dikatakan seseorang, dan itu menjadi semacam alat di pengadilan, adalah konyol,” katanya.
Menurut makalah tahun 2020 tentang lima sistem terkemuka oleh para peneliti di Universitas Stanford dan Universitas Georgetown, teknologi yang dapat mentranskrip percakapan suara memiliki kelemahan dan tingkat kesalahan yang sangat tinggi ketika diterapkan pada suara orang kulit hitam. “Teknologi ucapan-ke-teks tidak dapat digunakan untuk membuat keputusan peradilan pidan ,” kata Allison Koenecke, penulis utama studi tersebut.
Para peneliti menemukan bahwa perangkat lunak pengenalan suara otomatis Amazon memiliki tingkat kesalahan yang hampir dua kali lebih tinggi di kalangan orang-orang kulit hitam dibandingkan dengan orang-orang kulit putih.
Dalam sebuah pernyataan, juru bicara AWS mengatakan layanan Amazon Transcribe yang dikembangkan perusahaannya “sangat akurat” tetapi mengakui bahwa aksen yang berat atau kualitas audio yang buruk dapat menyebabkan berbagai penafsiran dalam kata-kata.
Orang-orang kulit hitam enam kali lebih mungkin berada di balik jeruji besi daripada orang-orang kulit putih di Amerika Serikat, menurut Sentencing Project, sebuah kelompok penelitian банки для потребительского кредита список.
Kentrell Owens, seorang ilmuwan komputer di University of Washington yang mempelajari pengawasan penjara, mengatakan pengawasan yang tepat terhadap sistem AI sangat penting.
“Sebelum Anda menerapkan teknologi yang dapat mengontrol kebebasan orang, Anda memerlukan penilaian dan audit independen terhadap teknologi tersebut untuk menentukan apakah teknologi tersebut membantu Anda mencapai tujuan Anda,” katanya.
