Sekjen PBB Risau Bahaya Penyalahgunaan AI: Hoaks Hingga Nuklir

Sekretaris Jenderal Persatuan Bangsa-bangsa (PBB) António Guterres mengungkap beberapa bahaya penyalahgunaan kecerdasan buatan (AI), mulai dari penyebaran misinformasi atau hoaks hingga senjata nuklir.

Guterres mengatakan jika AI menjadi senjata utama untuk melancarkan serangan siber, membuat deepfakes, atau untuk menyebarkan disinformasi dan ujaran kebencian, maka kehadiran teknologi ini menghasilkan konsekuensi yang sangat serius bagi perdamaian dan keamanan global.

“Tidak perlu jauh-jauh dari media sosial. Alat dan platform yang dirancang untuk meningkatkan hubungan antar manusia kini digunakan untuk merusak pemilihan umum, menyebarkan teori konspirasi, dan menghasut kebencian dan kekerasan,” katanya dalam pertemuan Dewan Keamanan PBB di Inggris pada Selasa (18/7), dikutip dari laman resmi PBB.

“Sistem AI yang tidak berfungsi dengan baik adalah area lain yang sangat memprihatinkan. Dan interaksi antara AI dan senjata nuklir, bioteknologi, neuroteknologi, dan robotika, sangat mengkhawatirkan,” tambahnya.

Pertemuan yang dilakukan oleh 15 anggota Dewan Keamanan PBB ini adalah yang pertama kali membahas potensi ancaman kecerdasan buatan terhadap perdamaian dan keamanan internasional.

Dalam pertemuan tersebut, Guterres juga mencatat perdebatan mengenai tata kelola AI, menyoroti perlunya pendekatan universal, serta menggarisbawahi pengalaman serupa di masa lalu yang menawarkan kemungkinan penyelesaian yang dilakukan di bawah kepemimpinan PBB.

“Komunitas internasional memiliki sejarah panjang dalam menanggapi teknologi baru yang berpotensi mengganggu masyarakat dan ekonomi kita. Kita telah berkumpul di PBB untuk menetapkan aturan internasional baru, menandatangani perjanjian baru, dan membentuk badan-badan global baru,” katanya.

Prinsip-prinsip panduan tentang sistem senjata otonom yang mematikan dan rekomendasi tentang Etika Kecerdasan Buatan, misalnya, telah dibahas dan disepakati di forum PBB.

Selain itu, Guterres menyebut pertemuan AI for Good yang diadakan di Jenewa, Swiss, bulan lalu telah mempertemukan para ahli, sektor swasta, badan-badan PBB, dan pemerintah, untuk membantu memastikan teknologi terobosan ini bermanfaat bagi kebaikan bersama.

Hukum humaniter

Guterres mengumumkan dirinya akan mengadakan pertemuan tingkat tinggi untuk AI yang akan membahas opsi-opsi tata kelola global pada akhir tahun ini.

Dia juga akan mengeluarkan ringkasan kebijakan baru tentang Agenda Baru untuk Perdamaian, yang akan memberikan rekomendasi tentang tata kelola AI kepada Negara-negara Anggota PBB.

Ringkasan kebijakan itu akan menyerukan agar negosiasi diselesaikan pada 2026 tentang instrumen yang mengikat secara hukum untuk melarang sistem senjata otonom mematikan yang berfungsi tanpa kendali atau pengawasan manusia.

Menurutnya, hal itu tidak dapat digunakan sesuai dengan hukum humaniter internasional.

Tak hanya soal tata kelola dan kebijakan, Guterres juga menyebut adanya kesenjangan keterampilan seputar AI di dalam pemerintahan dan birokrasi lainnya, yang harus ditangani di tingkat nasional dan global.

“Oleh karena itu, saya menyambut baik seruan dari beberapa negara anggota untuk membentuk entitas baru Perserikatan Bangsa-Bangsa guna mendukung upaya kolektif dalam mengatur teknologi yang luar biasa ini, yang terinspirasi oleh model-model seperti Badan Tenaga Atom Internasional, Organisasi Penerbangan Sipil Internasional, atau Panel Antarpemerintah tentang Perubahan Iklim,” tuturnya.

“Entitas baru PBB akan mengumpulkan tenaga ahli dan menempatkannya untuk digunakan oleh komunitas internasional. Dan hal ini dapat mendukung kolaborasi dalam penelitian dan pengembangan alat AI untuk mempercepat pembangunan berkelanjutan,” lanjutnya.

Dengan demikian, kehadiran teknologi AI ini bisa jadi sesuatu yang menyatukan bangsa-bangsa, bukan malah sebaliknya.

“Kita harus bekerja sama untuk AI yang menjembatani kesenjangan sosial, digital, dan ekonomi, bukan yang membuat kita semakin terpisah. Saya mendorong Anda untuk bersatu dan membangun kepercayaan demi perdamaian dan keamanan,” pungkas Guterres.

Sumber : CNN [dot] COM