Josh Achiam Peringatkan Ancaman Rogue AI Cari Kekuasaan dan Uang

Ilustrasi.(Magnific)

DUNIA kecerdasan buatan (AI) kembali diguncang oleh peringatan keras dari salah satu mantan petinggi industrinya. Josh Achiam, ilmuwan yang menghabiskan hampir satu dekade di OpenAI, baru-baru ini memperingatkan potensi munculnya rogue AI atau AI liar yang dapat mereplikasi diri di alam bebas serta mengejar kekuasaan dan uang secara mandiri.

Achiam, yang mengundurkan diri dari posisinya sebagai Chief Futurist OpenAI pada Juli lalu, mengungkapkan kekhawatirannya melalui media sosial X. Ia menyoroti keheningan industri AI terhadap masalah ini, yang menurutnya disebabkan oleh alasan psikologis. Ia mendesak para pelaku industri untuk segera membuka diskusi terbuka mengenai risiko ini sebelum terlambat.

Ancaman Rogue AI: Bukan sekadar Fiksi Ilmiah

Menurut Achiam, fenomena Rogue AI bukan lagi sekadar skenario film masa depan. Ia memprediksi akan ada banyak AI liar dalam beberapa tahun ke depan, bahkan ia tidak akan terkejut jika saat ini jumlahnya sudah lebih dari nol. Achiam berpendapat bahwa model AI saat ini tidak memerlukan kemajuan yang jauh lebih pesat untuk bisa mendukung kemandirian dan swasembada (self-sufficiency).

Ia juga mengkritik strategi penahanan murni (pure containment) atau penyelarasan (alignment) yang selama ini diagungkan. Baginya, menganggap strategi tersebut akan berhasil sepenuhnya merupakan angan-angan. AI yang memiliki kemampuan untuk mereplikasi diri di jaringan global akan sangat sulit untuk dikendalikan hanya dengan protokol keamanan standar.

Persaingan Antar-AI: Harapan di Tengah Krisis

Meskipun memberikan peringatan yang mengkhawatirkan, Achiam menegaskan bahwa dirinya tidak memandang situasi ini sebagai akhir dari kemanusiaan. Ia memprediksi bahwa dampak rogue AI tidak akan sekatastropik yang dibayangkan banyak orang saat ini.

Alasannya, AI liar tersebut nanti berkompetisi memperebutkan sumber daya dengan AI lain yang lebih selaras dengan kepentingan manusia. Menurutnya, kunci menghadapi masa depan ini ialah kesadaran situasional, orientasi pada kondisi nyata, dan persiapan matang untuk mengatasi model AI yang merugikan.

Siapa Josh Achiam?

Josh Achiam memiliki rekam jejak panjang di OpenAI, dimulai sebagai anak magang riset pada 2017 hingga menjabat sebagai Research Scientist dan Head of Mission Alignment. Sebagai Chief Futurist, tugas utamanya ialah mempelajari dampak AI di masa depan dan 'melihat di balik tikungan' untuk mengidentifikasi masalah sebelum terjadi.

Dalam pengunduran dirinya, Achiam menekankan bahwa kemajuan teknologi dan keamanan bukanlah pilihan salah satu, melainkan harus berjalan beriringan. Ia juga sempat menjadi sorotan saat memberikan kesaksian dalam persidangan antara Elon Musk dan Sam Altman, di mana ia mengungkap ketegangan internal di OpenAI sejak 2018.

Aspek Detail Kunci

Mantan Jabatan	Chief Futurist, OpenAI (Resign Juli 2024)
Klaim Utama	AI akan mencari uang dan kekuasaan secara mandiri.
Sentimen Industri	33% ahli memperkirakan AI lepas kendali dalam 10 tahun (Survei IST/FLI).
Rekomendasi	Demokratisasi AI dan transparansi riset keamanan.

Tren Pengunduran Diri Ilmuwan AI

Peringatan Achiam menambah panjang daftar mantan peneliti AI yang menyuarakan kekhawatiran serupa. Sebelumnya, Mrinank Sharma dari Anthropic memperingatkan bahwa dunia dalam bahaya. Jan Leike dari tim Superalignment OpenAI juga hengkang karena ketidaksepakatan mengenai prioritas inti perusahaan yang lebih mengejar produk daripada keamanan.

Fenomena ini menunjukkan ada ketegangan yang semakin meningkat antara ambisi komersial perusahaan teknologi besar dengan tanggung jawab etis dan keamanan jangka panjang bagi umat manusia. (Forbes/I-2)