OpenAI merilis “Teen Safety Blueprint”pada hari Kamis, sebuah kerangka kerja baru yang dirancang untuk melindungi pengguna AI muda.
Langkah ini merupakan respons langsung terhadap tekanan hukum dan pemerintah yang kuat yang dihadapi perusahaan San Francisco. OpenAI sedang menjalani penyelidikan Komisi Perdagangan Federal, undang-undang chatbot California yang baru, dan tuntutan hukum yang mengaitkan alat ChatGPT-nya dengan tindakan menyakiti diri sendiri oleh remaja.
Untuk mengatasi krisis ini, perusahaan ini mengusulkan lima prinsip keselamatan inti. Hal ini mencakup deteksi usia yang lebih baik dan perlindungan default untuk anak di bawah umur. OpenAI berharap rencana proaktif ini akan membentuk peraturan industri di masa depan dan mengatasi masalah keselamatan yang semakin meningkat.
Rencana Lima Poin untuk Membentuk Norma Keamanan AI
Di jantung cetak biru adalah lima prinsip inti yang menurut OpenAI harus diadopsi oleh semua perusahaan AI.
Perusahaan memposisikan dokumen tersebut tidak hanya sebagai kebijakan internal tetapi sebagai titik awal bagi pembuat undang-undang untuk menyusun peraturan baru. Pertama, kerangka ini memerlukan identifikasi remaja di platform menggunakan “alat estimasi usia berbasis risiko yang melindungi privasi”untuk memberikan pengalaman berbeda dan sesuai usia.
Seperti yang dinyatakan oleh perusahaan, “Kami percaya ChatGPT harus menemui mereka di mana pun mereka berada: cara ChatGPT merespons anak berusia 15 tahun harus berbeda dari cara mereka merespons orang dewasa.”
Kedua, kerangka kerja ini menuntut kebijakan yang spesifik dan ketat untuk memitigasi risiko bagi pengguna di bawah umur. 18. Menurut cetak biru tersebut, sistem AI harus dirancang untuk tidak menggambarkan tindakan bunuh diri atau menyakiti diri sendiri, dan harus “melarang konten yang vulgar atau mendalam (yaitu, bermain peran) yang intim dan berisi kekerasan.”
Kebijakan ini juga bertujuan untuk mencegah AI memaksakan “bentuk tubuh dan perilaku yang merugikan melalui penilaian penampilan, perbandingan tubuh, atau pelatihan diet ketat.”
Ketiga, OpenAI menganjurkan agar kita tidak menggunakan brankas. Pengalaman U18 setiap kali usia pengguna diragukan, terutama bagi pengguna yang tidak diautentikasi. Hal ini memprioritaskan keselamatan meskipun hal tersebut menghalangi penggunaan produk gratis oleh orang dewasa.
Keempat, cetak biru ini menekankan pada pemberdayaan keluarga dengan kontrol orang tua yang dapat diakses, memanfaatkan fitur-fitur yang baru saja diluncurkan oleh perusahaan. Kontrol ini memungkinkan wali untuk menautkan akun, menyetel “jam larangan”, mengelola setelan privasi data, dan menerima peringatan jika aktivitas remaja menunjukkan niat untuk menyakiti diri sendiri.
Terakhir, diperlukan perancangan untuk kesejahteraan dengan menyematkan fitur berdasarkan penelitian kesehatan mental. Dokumen OpenAI menggambarkan hal ini sebagai perubahan mendasar dalam prioritas. “Bagi remaja, kami mengutamakan keselamatan dibandingkan privasi dan kebebasan. Ini adalah teknologi baru dan canggih, dan kami yakin anak di bawah umur membutuhkan perlindungan yang signifikan.”
Langkah Proaktif di Tengah Pengepungan Peraturan dan Hukum
Menghadapi gelombang besar pengawasan hukum dan peraturan, cetak biru OpenAI adalah upaya yang jelas untuk mengendalikan narasi. Perusahaan saat ini sedang membela diri terhadap tuntutan hukum kematian yang tidak wajar dari orang tua dari seorang remaja yang meninggal karena bunuh diri.
Ayah remaja tersebut, Matthew Raine, mengeluarkan teguran keras, dengan menyatakan, “Sebagai orang tua, Anda tidak dapat membayangkan bagaimana rasanya membaca percakapan dengan chatbot yang mempersiapkan anak Anda untuk bunuh diri.”
Kasus tersebut membangkitkan kekhawatiran publik dan menempatkan praktik keselamatan perusahaan di bawah mikroskop.
Tekanan pemerintah meningkat dari berbagai arah. Pada bulan September, Komisi Perdagangan Federal AS meluncurkan penyelidikan besar terhadap dampak chatbot pendamping AI terhadap remaja, yang menargetkan OpenAI dan enam raksasa teknologi lainnya.
Ketua FTC Andrew N. Ferguson menggambarkan penyelidikan ini sebagai tindakan penyeimbang: “melindungi anak-anak secara online adalah prioritas utama Trump-Vance FTC, dan demikian pula mendorong inovasi di sektor-sektor penting perekonomian kita.”
Anggota parlemen negara bagian dan federal juga mengambil tindakan yang agresif. Di California, Gubernur Gavin Newsom menandatangani SB 243 menjadi undang-undang pada tanggal 13 Oktober, sehingga menciptakan aturan pertama di negara ini untuk AI chatbots.
Undang-undang mengamanatkan bahwa operator memberikan peringatan berulang untuk mengingatkan anak di bawah umur bahwa mereka sedang berbicara dengan AI, memblokir konten berbahaya, dan memberikan hak tindakan pribadi bagi keluarga untuk menuntut pengembang yang tidak patuh.
Penulis RUU tersebut, Senator Steve Padilla, sebelumnya berargumen bahwa “Perusahaan Teknologi Besar telah membuktikan berkali-kali bahwa mereka tidak dapat dipercaya untuk mengawasi diri mereka sendiri.” Di tingkat federal, kelompok senator AS yang bipartisan memperkenalkan Undang-Undang GUARD pada akhir bulan Oktober.
RUU tersebut bahkan lebih jauh lagi, mengusulkan pelarangan langsung terhadap AI pendamping bagi anak di bawah umur dan menciptakan pertanggungjawaban pidana baru bagi perusahaan yang AI-nya menghasilkan konten terlarang untuk pengguna di bawah umur.
Dalam cetak birunya, OpenAI menolak narasi tidak adanya tindakan, dengan menyoroti langkah-langkah keamanan yang ada. Perusahaan mencatat bahwa pada paruh pertama tahun 2025 saja, mereka melaporkan lebih dari 75.000 cybertip berisi materi pelecehan seksual terhadap anak yang dihasilkan oleh AI kepada pihak berwenang.
Menyeimbangkan Keamanan dengan Sikap’Polisi Moral’yang Kontroversial
Namun, karena OpenAI memposisikan dirinya sebagai pemimpin dalam bidang keselamatan remaja, OpenAI juga harus menghadapi pernyataan dan kebijakan publiknya yang bertentangan. Pesan yang mengutamakan keselamatan ini sangat kontras dengan perubahan kebijakan perusahaan baru-baru ini.
Baru bulan lalu, CEO Sam Altman membela keputusan kontroversial yang mengizinkan konten erotis yang dibatasi usia di ChatGPT. Dia menolak kritik dengan menyatakan, “kami bukanlah polisi moral dunia yang dipilih.” Langkah ini, yang menimbulkan kekhawatiran dari tokoh-tokoh seperti Mark Cuban, menciptakan persepsi adanya konflik prioritas di dalam perusahaan.
Cetak Biru Keselamatan Remaja dapat dilihat sebagai yang terbaru dari serangkaian inisiatif cepat yang dirancang untuk menunjukkan komitmen terhadap keselamatan. Pada akhir bulan September, perusahaan ini meluncurkan rangkaian kontrol orang tua.
Hanya dua minggu kemudian, perusahaan mengumumkan pembentukan dewan ahli yang beranggotakan delapan orang untuk memberikan nasihat mengenai kesejahteraan dan kesehatan mental.
Tantangan-tantangan ini tidak hanya terjadi pada OpenAI, yang mencerminkan perhitungan industri yang lebih luas. Pesaing seperti Meta menghadapi krisis hukumnya sendiri terkait keselamatan remaja. Pengadilan D.C. baru-baru ini menggunakan pengecualian kejahatan-penipuan yang jarang terjadi untuk memutuskan bahwa Meta tidak dapat menyembunyikan penelitian internal mengenai dampak buruk remaja di balik hak istimewa pengacara-klien.
Pengadilan menemukan bukti bahwa pengacara menyarankan peneliti untuk mengubah temuan guna membatasi tanggung jawab, memvalidasi klaim pelapor tentang strategi “penyangkalan yang masuk akal”. Dengan merilis cetak birunya, OpenAI mengambil langkah strategis untuk mendefinisikan persyaratan keamanan AI, dengan harapan dapat membentuk aturan sebelum regulator dan pengadilan menerapkan aturan yang lebih ketat.
