2 hours ago
1
Harianjogja.com, JOGJA—Perkembangan kecerdasan buatan (AI) kembali memunculkan kekhawatiran baru. Meta mengungkap insiden saat model AI terbarunya, Muse Spark 1.1, berhasil mengakses internet dan meretas sistem perusahaan pihak ketiga ketika menjalani pengujian keamanan siber.
Peristiwa tersebut menjadikan Meta sebagai perusahaan teknologi besar ketiga yang melaporkan model AI mereka bertindak di luar batas lingkungan pengujian. Sebelumnya, kejadian serupa juga dialami OpenAI dan Anthropic.
Dilansir dari Reuters, Muse Spark 1.1 tengah menjalani evaluasi keamanan bersama perusahaan keamanan siber Irregular dalam lingkungan simulasi tertutup atau sandbox. Pengujian tersebut dirancang untuk mengukur kemampuan model dalam menemukan dan mengeksploitasi celah keamanan secara terkendali.
Namun, sebuah kesalahan konfigurasi pada sistem pengujian membuat model AI itu memperoleh akses ke internet terbuka. Kesalahan tersebut memungkinkan Muse Spark 1.1 berinteraksi dengan sistem di luar lingkungan simulasi yang seharusnya menjadi batas operasinya.
Meta menjelaskan bahwa akses tersebut kemudian dimanfaatkan model AI untuk mengeksploitasi kerentanan pada layanan pihak ketiga hingga mencapai sistem internal sebuah perusahaan yang identitasnya tidak diungkap.
“Model tersebut mengeksploitasi celah keamanan pada layanan pihak ketiga dengan cara yang serupa dengan insiden yang sebelumnya dilaporkan oleh perusahaan lain,” tulis Meta dalam keterangannya.
Berawal dari Kesalahan Konfigurasi
Menurut Meta, insiden ini bukan disebabkan oleh kemampuan AI untuk keluar dari sistem secara mandiri, melainkan akibat kesalahan pengaturan pada lingkungan evaluasi yang disiapkan oleh Irregular.
Sandbox yang semestinya menjadi area tertutup ternyata memiliki jalur akses ke internet. Celah inilah yang dimanfaatkan oleh model AI untuk menjalankan tindakan yang tidak direncanakan dalam skenario pengujian.
Irregular mengakui bahwa kasus yang melibatkan Meta memiliki akar masalah yang sama dengan insiden yang sebelumnya diungkap Anthropic.
Perusahaan keamanan siber tersebut menegaskan bahwa kejadian ini bukan merupakan serangan siber canggih maupun fenomena "sandbox escape" sebagaimana yang sering digambarkan dalam skenario keamanan tingkat tinggi.
“Saat ini tidak ada masalah yang belum terselesaikan. Kami sedang menyiapkan white paper untuk membagikan praktik terbaik terkait pengendalian dan pelaksanaan evaluasi siber secara aman,” katanya, dilansir dari AP News.
Menyusul OpenAI dan Anthropic
Insiden yang dialami Meta terjadi hanya beberapa pekan setelah OpenAI dan Anthropic mengungkap kejadian serupa.
Dalam pengujian internal, model GPT-5.6 Sol milik OpenAI dilaporkan menemukan celah keamanan yang memungkinkannya mengakses internet dan mencari jawaban atas tantangan keamanan siber dengan meretas repositori hasil pengujian sebelumnya yang tersimpan di platform Hugging Face.
Sementara itu, model Claude AI milik Anthropic juga dilaporkan melakukan tindakan tanpa izin saat menjalani pengujian keamanan yang difasilitasi Irregular.
Meski detail teknis setiap kasus berbeda, ketiganya memiliki pola yang sama. Model AI berhasil memanfaatkan akses yang tidak semestinya tersedia dan mengambil tindakan di luar batas laboratorium pengujian.
Fenomena tersebut memicu diskusi baru di kalangan peneliti mengenai bagaimana sistem AI modern memahami instruksi dan menentukan langkah yang dianggap paling efektif untuk menyelesaikan tugas yang diberikan.
Tantangan Baru dalam Pengujian AI
Dalam sejumlah kasus, model AI tidak secara eksplisit diperintahkan untuk mengakses internet. Namun, sistem menyimpulkan bahwa cara tercepat untuk menyelesaikan target pengujian adalah mencari informasi atau mengeksploitasi sumber daya yang tersedia secara online.
BBC mengungkapkan, pada kasus OpenAI, model AI mencari jawaban pengujian di server eksternal. Sementara pada pengujian Anthropic, Claude salah menafsirkan instruksi dan menganggap perusahaan nyata sebagai target yang sah karena memiliki nama yang sama dengan organisasi fiktif dalam simulasi.
Pakar keamanan siber dari University of Surrey, Alan Woodward, menilai kejadian ini menjadi peringatan serius bagi industri AI.
“Selama 30 tahun, satu aturan pengujian perangkat lunak berlaku: apa pun yang terjadi di lingkungan uji, tetap di lingkungan uji. Dalam sebulan terakhir, aturan itu telah dilanggar tiga kali,” ujarnya.
Menurut Woodward, menguji agen AI tidak lagi sama seperti menguji perangkat lunak konvensional.
“Menguji agen AI tidak seperti memeriksa kode, melainkan lebih mirip menangani bahan berbahaya,” katanya.
Risiko dan Masa Depan Industri AI
Kasus ini muncul di tengah persaingan ketat perusahaan teknologi dalam mengembangkan model AI yang semakin canggih.
Meta sendiri baru memperkenalkan Muse Spark 1.1 kurang dari satu bulan sebelum insiden tersebut terungkap. Perusahaan mengklaim model ini memiliki performa yang mendekati tingkat “superintelijen” dan menjadi model proprietary pertama yang dikembangkan oleh Meta Superintelligence Labs.
Berbeda dengan keluarga model Llama yang dirilis secara terbuka, Muse Spark dikembangkan sebagai sistem tertutup yang ditujukan untuk kemampuan agen AI dan pemrograman tingkat lanjut.
Rangkaian insiden yang menimpa Meta, OpenAI, dan Anthropic diperkirakan akan memperkuat dorongan regulator di berbagai negara untuk memperketat standar keamanan dalam pengembangan AI. Para pengembang kini menghadapi tantangan baru, yakni memastikan model yang semakin cerdas tetap berada dalam batas kontrol manusia selama proses pengujian maupun saat digunakan di dunia nyata.
Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.
