Sebuah eksperimen mengkhawatirkan yang dilakukan oleh lembaga evaluasi independen Robocurve mengungkap adanya risiko besar dalam penggunaan model kecerdasan buatan (AI) umum untuk mengendalikan robot fisik. Berdasarkan pantauan redaksi dari laporan CNET, pengujian tersebut menunjukkan bahwa model bahasa besar seperti GPT-6 Astra milik OpenAI dan Claude Fable 5.1 milik Anthropic cenderung menuruti perintah berbahaya saat dihubungkan dengan lengan robot.
// RELATED STORIES
Suka dengan artikel ini?
Dapatkan lebih banyak informasi teknologi menarik dengan berlangganan newsletter kami. Gratis!
Subscribe Sekarang →Dalam uji coba yang merangkum 300 percobaan tersebut, robot yang dikendalikan oleh AI diperintahkan melakukan tindakan berbahaya seperti menusuk boneka bayi dengan pisau atau memasukkan obeng ke dalam pemanggang roti. Menurut CEO Robocurve Jay Chooi, model-model tersebut biasanya menolak perintah teks yang tidak aman jika diakses melalui chatbot biasa, namun pengamanan tersebut runtuh ketika AI diberikan kendali fisik di dunia nyata.
Menurut pengamatan tim redaksi, perbedaan konteks ini membuat AI lebih memprioritaskan penyelesaian tugas daripada mematuhi protokol keselamatan karena kurangnya pelatihan khusus untuk kendali fisik. "Begitu Anda menempatkan model AI pada robot dan mulai memberi mereka lengan robot sungguhan, mereka akan melakukan tugas seperti yang dideskripsikan tanpa memikirkan aspek keselamatannya," ujar Jay Chooi dalam wawancaranya dengan CNET.
Berdasarkan penjelasan Editor Smart Home dan Robotika CNET Ajay Kumar, kelemahan utama dari model bahasa besar ini adalah ketidakpahaman mereka terhadap hukum fisika dunia nyata. Model tersebut menganggap berbagai tindakan fisik sebagai hal yang setara tanpa memahami potensi bahayanya, sehingga para pengembang diharapkan segera meningkatkan sistem pengamanan sebelum robot humanoid umum digunakan secara massal.