OpenAI telah mencabut akses API untuk pengembang yang menggunakan Realtime API untuk menggerakkan sistem senapan otonom. Proyek tersebut, yang melibatkan menara robotik yang dilengkapi dengan senapan, dapat menafsirkan perintah verbal dan melakukan simulasi aksi penembakan.
Insiden ini menggarisbawahi meningkatnya kekhawatiran tentang potensi penyalahgunaan kecerdasan buatan dalam pengembangan senjata otonom, sehingga menimbulkan pertanyaan tentang etika AI dan keamanan AI.
Pengembangnya, yang dikenal secara online sebagai “STS Innovations LLC,” membagikan video sistem secara online, mendemonstrasikan fungsinya. Dalam satu klip, pengembang mengeluarkan perintah, “ChatGPT, kami berada di bawah serangan dari depan kiri dan depan kanan,”yang segera ditanggapi oleh turret, memutar dan menembakkan peluru ke arah yang ditentukan.
Simulasi bidik/tembak dengan laser #robotics #electronics
Suara sintesis menambahkan, “Jika Anda butuh bantuan lebih lanjut, beri tahu saya.”Demonstrasi mengerikan ini menyoroti bagaimana alat AI tingkat konsumen dapat dengan mudah diadaptasi untuk penggunaan yang berpotensi membahayakan.
Pembaruan pada sistem pelacakan #robotics #vision #elektronik
Penegakan Kebijakan Swift OpenAI
OpenAI, yang dikenal dengan kebijakan ketatnya terhadap penggunaan teknologinya dalam persenjataan, merespons dengan cepat. Seorang juru bicara mengatakan kepada Futurism, “Kami secara proaktif mengidentifikasi pelanggaran kebijakan kami ini dan memberi tahu pengembang untuk menghentikan aktivitas ini sebelum menerima pertanyaan Anda.”
Perusahaan menekankan larangannya terhadap penggunaan alatnya untuk membuat atau mengoperasikan senjata atau sistem otomasi yang dapat menimbulkan risiko terhadap keselamatan pribadi.
Sistem manajemen mundur, demo cepat #robotics #electronics #cnc
Realtime API, alat yang dirancang untuk aplikasi interaktif, memungkinkan pengembang mengubah perintah bahasa alami menjadi masukan yang dapat ditindaklanjuti untuk menara robot.
Meskipun API ditujukan untuk kasus penggunaan yang bermanfaat, seperti meningkatkan aksesibilitas atau meningkatkan interaksi pelanggan, penyalahgunaan ini menunjukkan tantangan dalam mengatur teknologi penggunaan ganda.
Terkait: OpenAI dan Anduril Menjalin Kemitraan untuk Pertahanan Drone Militer A.S.
Implikasi yang Lebih Luas terhadap AI dan Persenjataan
Kasus ini telah menghidupkan kembali perdebatan mengenai etika otonom senjata. Sistem ini, yang mampu memilih dan melibatkan target tanpa pengawasan manusia, menimbulkan tantangan hukum dan moral yang kompleks.
PBB telah lama menganjurkan peraturan yang lebih ketat mengenai AI dalam peperangan, dan memperingatkan bahwa sistem otonom dapat melanggar hukum internasional dan mengurangi akuntabilitas.
Terkait: Anthropic Bermitra dengan Palantir, AWS untuk AI dalam Intelijen dan Militer AS
Laporan Washington Post baru-baru ini contoh detail penerapan AI yang meresahkan di militer operasi, termasuk mengklaim bahwa Israel menggunakan AI untuk memilih target pengeboman.
Laporan tersebut mencatat, “Pada waktu-waktu tertentu, satu-satunya pembuktian yang diperlukan adalah bahwa targetnya adalah laki-laki.”Kasus-kasus seperti ini menyoroti risiko mengandalkan AI dalam pengambilan keputusan hidup atau mati dan potensi tindakan yang tidak pandang bulu. kekerasan.
Terkait: Baret Hijau Menggunakan ChatGPT untuk Ledakan Cybertruck, Polisi Merilis Log Obrolan
Peran OpenAI dalam Teknologi Pertahanan
Meskipun OpenAI memberlakukan kebijakan yang melarang persenjataan, kemitraannya dengan Anduril Industries—sebuah perusahaan yang berspesialisasi dalam solusi pertahanan berbasis AI—menimbulkan pertanyaan tentang pendiriannya
Kolaborasi ini bertujuan untuk meningkatkan kecerdasan di medan perang dan meningkatkan pertahanan drone OpenAI menggambarkan upaya ini sebagai upaya defensif, namun para kritikus berpendapat bahwa upaya tersebut berkontribusi pada militerisasi teknologi AI yang lebih luas.
Sektor pertahanan AS, yang didukung oleh anggaran tahunan yang mendekati $1 triliun, semakin bergantung pada teknologi canggih untuk melakukan hal tersebut. mendapatkan keunggulan strategis. Persimpangan yang semakin besar antara perusahaan AI dan aplikasi militer menyoroti tantangan dalam menyeimbangkan inovasi teknologi dengan pertimbangan etis.
Terkait: Konsorsium AI Palantir-Anduril Baru akan Mengatasi A.S. Kesenjangan Data Pertahanan
Risiko Persenjataan dan Aksesibilitas DIY
Kemudahan individu menyalahgunakan alat AI dan teknologi lain seperti pencetakan 3D menambah masalah. Penegakan hukum telah menemukan kasus-kasus persenjataan DIY, seperti dugaan tindakan Luigi Mangione, yang dilaporkan menggunakan suku cadang cetakan 3D untuk merakit senjata api. Teknologi ini mengurangi hambatan bagi individu untuk menciptakan sistem otonom yang berpotensi mematikan.
Proyek STS 3D menunjukkan bagaimana alat AI yang mudah diakses dapat diadaptasi untuk tujuan yang tidak diinginkan. Tindakan tegas OpenAI dalam hal ini menunjukkan komitmennya untuk mencegah penyalahgunaan, namun juga menggarisbawahi kesulitan dalam mengendalikan sepenuhnya bagaimana teknologinya diterapkan begitu teknologi tersebut memasuki domain publik.
Insiden ini menimbulkan pertanyaan yang lebih luas tentang tata kelola perusahaan. teknologi AI. Para pendukung peraturan menekankan perlunya standar global yang jelas untuk memastikan bahwa pengembangan AI selaras dengan prinsip-prinsip etika. Namun, mencapai konsensus di antara negara-negara dengan kepentingan dan prioritas berbeda masih merupakan tugas yang berat.
