2 weeks ago
14
Discord(Discord)
DISCORD baru-baru ini mengakui adanya kegagalan fungsi (bug) fatal pada sistem moderasi berbasis kecerdasan buatan (AI) milik mereka. Masalah teknis ini menyebabkan lebih dari 8.000 pengguna terkena pemblokiran akun secara sepihak selama dua bulan terakhir.
Ironisnya, pemblokiran massal tersebut dipicu oleh hal sepele, yakni unggahan gambar-gambar biasa yang tidak berbahaya namun memiliki pola kotak-kotak atau grid, seperti dokumen lembar kerja (spreadsheet), papan catur, tekstur aset gim, hingga latar belakang transparan berwarna putih dan abu-abu.
Melalui penjelasan resmi di media sosial X, tim dukungan Discord memaparkan sistem keselamatan otomatis mereka bekerja dengan cara mencocokkan konten yang diunggah oleh pengguna dengan basis data materi berbahaya yang sudah diketahui.
Meskipun teknologi ini dirancang untuk menangkap konten ilegal, perusahaan mengakui bahwa proses pencocokan tersebut terkadang menghasilkan kekeliruan deteksi.
Dalam prosedur normal, konten yang mencurigakan seharusnya ditinjau terlebih dahulu oleh moderator manusia dari tim keselamatan. Sistem idealnya hanya membekukan sementara aktivitas unggah selama proses peninjauan berlangsung, bukan langsung memblokir akun.
Namun, akibat adanya bug, sistem justru langsung mengeksekusi sanksi blokir permanen kepada akun-akun terkait. Parahnya lagi, ketika staf manusia telah meninjau dan menyatakan akun tersebut bersih, bug yang sama mencegah pencabutan blokir secara otomatis, sehingga status ban tetap bertahan.
Keluhan para pengguna yang akunnya mendadak dibekukan mengalir deras di platform X dan Reddit. Banyak dari mereka yang berspekulasi bahwa alat moderasi AI milik Discord sengaja dibuat menjadi sangat sensitif terhadap pola berbentuk kotak-kotak.
Hal ini dikarenakan pola grid sering kali dimanfaatkan oknum tertentu untuk mengelabui atau menyamarkan konten eksploitasi anak serta materi asusila agar lolos dari deteksi sistem otomatis. Akibatnya, gambar menu inventaris gim Minecraft pun ikut dianggap sebagai pelanggaran berat oleh sistem.
Dampak dari pemblokiran massal yang keliru ini memicu rasa frustrasi yang mendalam bagi para pengguna. Kehilangan akun secara permanen akibat kesalahan AI dirasa sangat merugikan, terutama bagi mereka yang menggantungkan aktivitas harian pada Discord.
Pihak perusahaan mengonfirmasi bahwa malafungsi ini sebetulnya telah mengintai aktivitas pengguna sejak bulan Mei lalu, dengan tambahan sekitar 200 pengguna lain yang ikut kehilangan akses secara mendadak pada akhir pekan sebelum sistem diperbaiki.
Merespons gelombang protes, Discord meminta maaf atas eror yang terjadi selama dua bulan terakhir. Setelah berhasil memperbaiki masalah tersebut, pihak Discord menegaskan bahwa saat ini mereka sedang dalam proses memulihkan seluruh akun yang terdampak pemblokiran keliru itu.
Insiden ini pun menjadi sorotan tajam dan memperlihatkan tantangan besar dari penggunaan moderasi berbasis AI yang kian diandalkan oleh banyak platform besar untuk menyaring materi ilegal dalam skala masif.
Fenomena salah sasaran oleh sistem kecerdasan buatan ini sebetulnya bukan pertama kali terjadi di industri teknologi. Sepanjang tahun lalu, pengguna platform Instagram, Facebook Groups, hingga Tumblr juga sempat mengeluhkan gelombang suspensi massal tanpa alasan yang jelas akibat error algoritma serupa. (Engadget/TechCrunch/Z-2)
