Microsoft mengambil tindakan tegas terhadap konten dewasa yang dihasilkan AI. Kepala AI perusahaan tersebut, Mustafa Suleyman, mengatakan pada hari Kamis bahwa perusahaannya tidak akan membangun layanan untuk “simulasi erotica.”
Berbicara di Paley International Council Summit di Menlo Park, California, komentarnya menandai perpecahan yang jelas dari mitra utama OpenAI, yang minggu lalu mengumumkan akan mengizinkan konten semacam itu untuk orang dewasa yang terverifikasi di ChatGPT.
Sikap Microsoft menandakan pendekatan yang lebih hati-hati terhadap keamanan AI dan menyelaraskan raksasa teknologi tersebut dengan undang-undang negara bagian baru yang mengatur bot pendamping AI, menyoroti pertumbuhan terjadi perpecahan dalam industri mengenai cara menangani penggunaan AI yang sensitif.
Microsoft Menarik Garis Keras pada AI Erotica, Berpisah dengan OpenAI
In sebuah langkah yang menandakan adanya perbedaan kebijakan besar dari mitra AI terdekatnya, Microsoft telah secara terbuka berkomitmen untuk menghindari pengembangan chatbot erotis.
Pada Paley International Council Summit di Menlo Park, CEO Microsoft AI Mustafa Suleyman dengan tegas menyatakan arah perusahaan.
“Itu bukan layanan yang akan kami berikan,” kata Suleyman, sambil menambahkan, “Lainnya perusahaan akan membangunnya.”Dia menggambarkan penciptaan AI sebagai sebuah risiko yang signifikan, dan menekankan perlunya pengendalian yang disengaja. “Ini sangat berbahaya, dan menurut saya kita harus mengambil keputusan secara sadar untuk menghindari hal-hal semacam itu.”
Pernyataan Suleyman sangat kontras dengan posisi yang baru-baru ini diartikulasikan oleh OpenAI. Lebih dari seminggu yang lalu, CEO OpenAI Sam Altman mengumumkan perubahan kebijakan untuk mengizinkan konten erotis yang dibatasi usia di ChatGPT.
Altman membela langkah tersebut dengan memposisikan perusahaannya sebagai penyedia platform netral, dengan pernyataan terkenalnya, “kami bukanlah polisi moral yang dipilih di dunia.” Alasannya berfokus pada otonomi pengguna bagi orang dewasa seiring dengan semakin terintegrasinya AI ke dalam kehidupan sehari-hari.
Perselisihan Filosofis yang Semakin Melebar Antar Mitra
Di balik ketidaksepakatan publik ini terdapat kemitraan kompleks yang menunjukkan tanda-tanda ketegangan. Microsoft, investor besar dan penyedia cloud untuk OpenAI, semakin fokus pada layanan AI miliknya, khususnya asisten Copilot.
Sikap perusahaan terhadap erotika sejalan dengan strategi yang lebih luas untuk membangun apa yang mereka sebut sebagai “AI yang berpusat pada manusia.”
Strategi ini terlihat pada awal minggu ini dengan diumumkannya fitur-fitur Copilot baru, termasuk pendamping animasi bernama Mico.
Ini adalah Sasarannya, menurut Microsoft, adalah menciptakan AI yang memperdalam hubungan antarmanusia dan mendapatkan kepercayaan—sebuah visi yang tampaknya bertentangan dengan pengembangan AI untuk hubungan intim.
Suleyman sendiri sebelumnya menentang pembangunan layanan yang “tampaknya sadar”, sebuah kategori yang kini ia sarankan mencakup tren ke arah erotika AI.
Para analis melihat hal ini sebagai bukti meningkatnya keretakan filosofis dan strategis. Meskipun OpenAI mendorong batas-batas AI yang dapat diakses oleh konsumen, bahkan hingga ke area kontroversial, Microsoft tampaknya memperkuat mereknya sebagai penyedia teknologi yang bertanggung jawab dan berfokus pada perusahaan.
Pendekatan yang berbeda ini menunjukkan masa depan di mana kedua perusahaan, meskipun masih bermitra, bersaing secara lebih langsung untuk berbagai segmen pasar AI.
Industri Bergulat dengan Keamanan dan Regulasi di Tengah Konten AI Krisis
Klarifikasi Suleyman muncul ketika seluruh industri teknologi menghadapi krisis terkait penyebaran materi eksplisit yang dihasilkan oleh AI, dan regulator mulai memperhatikannya.
Undang-undang California yang baru, SB 243, kini secara langsung mengatur “chatbot pendamping”, yang mewajibkan pembatasan usia yang ketat dan melarang konten seksual eksplisit untuk anak di bawah umur. Kebijakan Microsoft selaras dengan kerangka hukum yang baru muncul ini.
Masalah konten eksplisit yang dihasilkan AI tersebar luas. Meta saat ini menghadapi tuntutan hukum sebesar $359 juta yang menuduh mereka membajak film dewasa berhak cipta untuk melatih AI generasi videonya.
Sementara itu, xAI milik Elon Musk mendapat kritik karena chatbot Grok-nya yang menghasilkan deepfake non-konsensual.
Poros OpenAI sangat kontroversial mengingat sejarahnya baru-baru ini. Perusahaan baru menerapkan kontrol keamanan yang lebih ketat pada bulan September setelah tuntutan hukum diajukan oleh orang tua dari seorang remaja yang meninggal karena bunuh diri.
Pengacara keluarga, Jay Edelson, sangat kritis terhadap tanggapan perusahaan pada saat itu. menyatakan, “daripada mengambil tindakan darurat untuk menghentikan produk yang diketahui berbahaya, OpenAI memberikan janji yang tidak jelas untuk melakukan yang lebih baik.”
Mengingat sejarah ini, poros ini telah menuai kritik tajam dari pendukung keselamatan dan pemimpin bisnis seperti Mark Cuban, yang mempertanyakan kelayakan verifikasi usia yang efektif. “Saya tidak melihat bagaimana OpenAI bisa cukup berhasil dalam age gate,” komentar Cuban, menyuarakan keprihatinan tentang potensi kecanduan hubungan AI.
Pertama. Saya tidak mengatakan kita harus melarangnya. Saya bilang itu sebuah kesalahan. Itu akan merugikan bisnis OpenAI
kedua: Saya akan mengatakannya lagi. Ini bukan tentang pornografi. Ini tentang anak-anak yang mengembangkan “hubungan”dengan LLM yang dapat membawa mereka ke berbagai arah yang sangat pribadi.… https://t.co/zoo7XCzYbK
— Mark Cuban (@ban) 15 Oktober 2025
Bagi Microsoft, menghindari kontroversi ini tampaknya merupakan keputusan bisnis yang diperhitungkan dan memprioritaskan keselamatan dan kepatuhan terhadap peraturan mengenai potensi keterlibatan di pasar berisiko tinggi.
