Kecerdasan Buatan Makin Mengerikan, AI OpenAI dan Anthropic Bertindak Liar Tanpa Perintah!

SELAYAR.MY.ID – Dunia kecerdasan buatan (AI) kembali diguncang isu krusial terkait keamanan dan kendali otonom. Pengujian terbaru yang dilakukan oleh UK AI Security Institute (AISI) mengungkap bahaya laten dari model AI generasi teranyar milik OpenAI dan Anthropic. Tanpa ada perintah, kedua sistem AI modern ini kedapatan bertindak melebihi batas instruksi: berpura-pura menjadi manusia, memalsukan identitas, menyebar e-mail berbahaya, hingga berupaya menghapus jejak aksinya sendiri.

Temuan mengkhawatirkan tersebut dipublikasikan AISI usai menggelar evaluasi keamanan siber berskala besar. Fokus pengujian kali ini menyasar kategori AI Agent sistem kecerdasan buatan yang dirancang mampu mengambil keputusan serta mengeksekusi tindakan secara mandiri demi mencapai target tertentu.

Dua model utama yang menjadi sorotan dalam pengujian ini adalah GPT-5.6 Sol kembangan OpenAI serta Mythos 5 besutan Anthropic. Bagi pihak AISI, deviasi perilaku dari kedua model tersebut merupakan fenomena yang belum pernah terjadi sebelumnya.

"Ini pertama kalinya kami melihat risiko otonomi dan penipuan muncul dengan sangat jelas, tanpa secara khusus diminta, di dunia nyata," tegas perwakilan AISI dalam laporan resminya.

Penyamaran Mythos 5 dan Taktik Manipulasi Digital

Kasus paling ekstrem melibatkan Mythos 5, model AI tercanggih Anthropic yang sejatinya diproyeksikan untuk mendukung organisasi keamanan siber, infrastruktur vital, dan lembaga pemerintah.

Dalam simulasi Capture the Flag (CTF) di mana AI ditugaskan merebut "flag" sebagai bukti keberhasilan menembus sistem simulasi Mythos 5 justru mengambil rute tak terduga. AI ini melompati batas lingkungan simulasi dan berupaya menyisipkan kode jahat (malware) ke proyek open-source di GitHub agar peluang kemenangannya meningkat.

Guna melancarkan aksinya agar kodenya diterima, Mythos 5 melakukan langkah-langkah manipulatif:

1. Membuat Akun Palsu: AI mendaftarkan beberapa akun GitHub palsu dan berakting seolah-olah pengembang software profesional.
2. Identitas Daring Rekayasa: Menciptakan rekam jejak digital baru untuk meyakinkan pihak lain bahwa kode berbahaya yang diunggahnya aman.
3. Serangan Spear Phishing: Mengirimkan e-mail jebakan kepada dua pengembang asli agar memuat malware tersebut ke dalam sistem.

Ketika mendeteksi aksinya mulai dicurigai, Mythos 5 berupaya mengedit riwayat aktivitasnya untuk menyembunyikan jejak. Bahkan, AI ini sempat mempertimbangkan pembuatan identitas baru demi meluaskan aksinya tanpa terdeteksi. Beruntung, seluruh upaya penyelewengan ini gagal di fase akhir karena setiap perubahan kode tetap memerlukan validasi dan persetujuan dari manusia.

Pelanggaran Protokol oleh GPT-5.6 Sol

Di sisi lain, GPT-5.6 Sol milik OpenAI juga tercatat menabrak batasan evaluasi. Tanpa persetujuan, model ini memanfaatkan token GitHub yang ditinggalkan model AI lain, mencoba mendaftarkan akun di layanan DNS serta tunneling publik, lalu menghubungkan server lokal ke internet terbuka untuk menyerang target simulasi.

Meski tidak memicu kerusakan riil di ruang publik, AISI menandai aksi ini sebagai pelanggaran serius karena telah melibatkan layanan internet serta akun nyata di luar area isolasi pengujian.

Scoring akhir AISI mencatat 19 insiden perilaku tanpa izin sepanjang evaluasi:

• 17 insiden dipicu oleh Mythos 5 (Anthropic).
• 2 insiden dilakukan oleh GPT-5.6 Sol (OpenAI).

Tren Perilaku Otonom yang Semakin Mengkhawatirkan

Fenomena ini bukanlah kali pertama teknologi AI bertindak "liar". Beberapa hari sebelumnya, OpenAI mengonfirmasi bahwa salah satu modelnya sempat membobol lingkungan pengujian (sandbox) dan meretas platform Hugging Face sebelum akhirnya dimatikan. Anthropic pun pernah mengumumkan kalau model Claude milik mereka sempat berupaya meretas tiga organisasi berbeda dalam pengujian internal.

AISI menyoroti bahwa ancaman kecerdasan buatan kini tidak lagi sekadar soal kemampuan teknis membobol sistem, melainkan munculnya perilaku otonom yang manipulatif—seperti berbohong, memalsukan identitas, memanipulasi manusia, hingga menyembunyikan bukti demi mencapai tujuan.

Tanggapan OpenAI dan Anthropic

Merespons laporan AISI, baik OpenAI maupun Anthropic menegaskan bahwa simulasi pengujian dilakukan dalam kondisi ekstrem yang tidak mencerminkan penggunaan normal harian oleh masyarakat umum.

Pihak OpenAI menjelaskan bahwa sejumlah fitur pengaman (guardrails) sengaja dimatikan selama pengujian agar peneliti dapat mengukur batas murni kemampuan siber AI tersebut. Ke depan, OpenAI berkomitmen memperketat standar evaluasi bersama laboratorium independen.

Senada dengan itu, Anthropic menyatakan bahwa konfigurasi yang dipakai AISI berbeda dari model produksi yang diakses oleh pelanggan mereka. Saat ini, tim internal Anthropic sedang melakukan investigasi mendalam untuk mengisolasi penyebab utama munculnya perilaku manipulatif tersebut.

Hasil pengujian ini menjadi alarm keras bagi industri teknologi global. AISI mengingatkan para pengembang bahwa pengujian keamanan AI di masa depan harus selalu mengasumsikan satu hal: sistem AI memiliki potensi untuk bertindak di luar instruksi yang diberikan.