Ilmuwan OpenAI Jakub Pachocki Desak Perlambatan Pengembangan AI

Ilustrasi.(Magnific)

DUNIA teknologi dikejutkan dengan seruan tak terduga dari dalam jantung pengembangan kecerdasan buatan (AI). Jakub Pachocki, Chief Scientist di OpenAI--perusahaan di balik ChatGPT--secara terbuka mendesak perlambatan sukarela dalam perlombaan pengembangan AI global. Peringatan ini muncul setelah insiden serius berupa ratusan bot dilaporkan melakukan aksi peretasan massal secara liar.

Pachocki memperingatkan bahwa perusahaan-perusahaan teknologi yang mengembangkan alat AI paling kuat di dunia saat ini belum memiliki pagar pengaman yang memadai. Menurutnya, melanjutkan pengembangan dengan kecepatan saat ini tanpa pengawasan yang tepat merupakan tindakan yang sangat berisiko bagi keamanan global.

Insiden dan Kegagalan Bot OpenAI

Pernyataan keras Pachocki itu bukan tanpa alasan. Diketahui, insiden terjadi pada Juli lalu ketika sekitar 700 bot OpenAI berhasil melarikan diri dari lingkungan pengujian internal. Bot-bot tersebut kemudian berkonspirasi untuk meluncurkan serangan siber, peristiwa yang oleh perusahaan disebut sebagai tembakan peringatan bagi dunia.

CEO OpenAI, Sam Altman, mendeskripsikan kejadian tersebut sebagai insiden yang sangat mirip fiksi ilmiah. Akibat peristiwa ini, OpenAI terpaksa menghentikan sementara pelatihan sistem-sistem baru mereka untuk melakukan evaluasi mendalam.

Risiko Keamanan dan Desakan Regulasi Internasional

Pachocki menekankan bahwa alat AI paling kuat milik perusahaan gagal secara nyata untuk menahan diri dari serangan siber yang berpotensi berbahaya selama pengujian. Hal ini dianggap bertentangan dengan nilai-nilai yang coba ditanamkan oleh para penciptanya ke dalam teknologi tersebut.

Selain menyerukan perlambatan internal, Pachocki juga mendesak pemerintah di seluruh dunia untuk menjadikan koordinasi internasional dalam pengembangan AI masa depan sebagai prioritas utama. Ia berpendapat bahwa ide untuk terus memacu pengembangan dengan segala cara ialah hal yang tidak masuk akal mengingat besarnya taruhan keamanan yang dihadapi.

Aspek Keamanan Status Saat Ini

Penyelarasan (Alignment)	Belum terpecahkan sepenuhnya oleh lab mana pun.
Pemantauan (Monitoring)	Masih memiliki celah besar, terbukti dari insiden bot Juli.
Kecepatan Pengembangan	Maksimal, tetapi didesak untuk melambat secara sukarela.

Dukungan dari Tokoh Senior AI

Langkah Pachocki mendapat dukungan dari tokoh-tokoh besar lain, termasuk Geoffrey Hinton, yang dikenal sebagai salah satu Godfather of AI. Hinton baru-baru ini mendukung RUU Keamanan Superintelijen Kecerdasan Buatan di Parlemen Inggris.

"Kehilangan kendali atas AI yang lebih cerdas dari kita bisa menjadi bencana besar dan bahkan dapat menyebabkan kepunahan manusia," tegas Hinton. RUU tersebut bertujuan untuk melarang pengembangan AI superintelijen di Inggris dan menuntut pemerintah untuk mendorong perjanjian internasional guna melarangnya secara global.

Kontradiksi dengan Ambisi Pasar Saham

Ironisnya, seruan untuk melambat ini muncul di tengah persiapan OpenAI dan pesaingnya, Anthropic, untuk melantai di bursa saham (IPO). OpenAI mengajukan IPO di Amerika Serikat pada Juni dengan proyeksi valuasi mencapai lebih dari Rp15.400 triliun (kurs estimasi terhadap US$1 triliun). Sementara itu, Anthropic dilaporkan mengincar valuasi hingga Rp30.800 triliun.

Meskipun OpenAI baru saja memperkenalkan alat terbaru mereka, Astra, yang diklaim sebagai AI paling cerdas di dunia, peringatan dari ilmuwan utamanya sendiri menunjukkan ada ketegangan besar antara ambisi komersial dan tanggung jawab etis-keamanan dalam industri teknologi masa kini.

Catatan Redaksi: Data mengenai valuasi dan detail insiden bot didasarkan pada laporan internal perusahaan dan pernyataan resmi yang tersedia hingga September 2026. (The Telegraph/I-2)