YouTube meluncurkan alat baru pada hari Selasa untuk melawan deepfake AI, sehingga memberikan kontrol lebih besar kepada pembuat konten atas identitas digital mereka.
Sistem deteksi kemiripan memungkinkan pengguna menemukan dan meminta penghapusan video yang menyalahgunakan wajah atau suara mereka. Langkah dari platform milik Google ini terjadi setelah berminggu-minggu kontroversi seputar aplikasi Sora 2 OpenAI.
Peluncuran Sora 2 memicu reaksi balik dari Hollywood dan keluarga selebritas atas deepfake yang tidak sah. Hal ini memaksa OpenAI untuk segera mengubah peraturannya dan bermitra dengan serikat aktor untuk meningkatkan keselamatan, hal ini menyoroti persaingan yang semakin meningkat di seluruh industri atas kendali konten yang dihasilkan AI.
YouTube Meluncurkan Alat Baru untuk Kreator Perlindungan
Sebagai langkah signifikan untuk memberdayakan komunitasnya, YouTube telah secara resmi meluncurkan teknologi pendeteksi kemiripannya untuk kreator yang memenuhi syarat dalam Program Mitra YouTube.
Sistem ini dirancang untuk mengidentifikasi konten yang dibuat atau diubah oleh AI yang menggunakan wajah atau suara kreator tanpa persetujuan mereka. Alat ini menawarkan pertahanan proaktif terhadap gelombang deepfake yang meyakinkan.
Untuk mengakses alat ini, pembuat konten harus menyelesaikan proses verifikasi identitas satu kali, yang memerlukan tanda pengenal pemerintah dan video selfie singkat untuk mencegah penipuan gunakan.
Setelah orientasi, sistem, yang fungsinya mirip dengan ID Konten YouTube untuk hak cipta, memindai upload baru untuk mencari kemungkinan kecocokan.
Jika ada kemungkinan penyalahgunaan ditandai, pembuat konten dapat meninjau video tersebut dan memilih untuk mengajukan permintaan penghapusan melalui proses keluhan privasi YouTube atau klaim hak cipta standar.
Hal ini memberikan pembuat mekanisme langsung untuk melindungi merek dan identitas pribadi mereka, mengatasi ketakutan lama dalam perekonomian pembuat konten tentang potensi peniruan identitas digital yang dapat menyebabkan kerusakan reputasi.
[konten tersemat]
Tanggapan Langsung terhadap Deepfake OpenAI Firestorm
Peluncuran YouTube yang metodis sangat kontras dengan debut pembuat video Sora 2 OpenAI yang kacau balau.
Diluncurkan pada awal Oktober, kebijakan awal “tidak ikut serta” Sora 2 untuk tokoh masyarakat dan karakter berhak cipta langsung menjadi bumerang. Desain platform tersebut, yang mendorong pembuatan video yang cepat dan viral, berarti pengguna membanjiri aplikasi sosial pendampingnya dengan deepfake yang tidak sah dan sering kali menyinggung, sehingga memicu kemarahan publik yang sengit.
Kritik paling keras datang dari keluarga tokoh masyarakat yang telah meninggal. Zelda Williams, putri aktor Robin Williams, menggambarkan kepedihan saat melihat “warisan orang-orang nyata diringkas menjadi… mengerikan, kecerobohan TikTok yang mendalangi mereka sungguh menjengkelkan.”
Pimpinan hak-hak sipil Malcolm X dan Martin Luther King Jr. juga mengutuk penggambaran yang “tidak sopan”dan “menyakitkan”. Bernice King, putri Dr. King, membuat permohonan sederhana namun bergema di media sosial agar video ayahnya dihentikan.
Hollywood dengan cepat melakukan gerakan menentang platform tersebut. Creative Artists Agency (CAA) yang berpengaruh menyebut aplikasi tersebut sebagai “risiko signifikan” bagi kliennya. Sementara itu, Motion Picture Association (MPA) membebankan tanggung jawab hukum atas penyalahgunaan tersebut kepada perusahaan AI. CEO MPA Charles Rivkin menyatakan bahwa “…itu tetap menjadi tanggung jawab mereka – bukan pemegang hak – untuk mencegah pelanggaran pada layanan Sora 2.”
Front terpadu dari industri kreatif ini menciptakan krisis PR besar-besaran untuk OpenAI.
Menghadapi tekanan yang kuat, perusahaan bergegas untuk membalikkan keadaan. CEO Sam Altman mengumumkan peralihan ke sistem “keikutsertaan” yang lebih terperinci untuk karakter yang dilindungi hanya beberapa hari setelah peluncuran.
Perusahaan kemudian mengubah peraturannya untuk memungkinkan perwakilan dari tokoh yang “baru saja meninggal” memblokir kemiripan mereka. Kebijakan ini diterapkan ketika OpenAI menghentikan semua generasi Martin Luther King Jr. atas permintaan pemilik propertinya.
Dalam sebuah pernyataan, OpenAI mengakui kesulitan dalam menyeimbangkan pendapatnya, dengan mengatakan, “Meskipun ada kepentingan kebebasan berpendapat yang kuat dalam menggambarkan tokoh sejarah, OpenAI percaya bahwa tokoh masyarakat dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana kemiripan mereka digunakan.”
Serangkaian tindakan reaktif mencapai puncaknya pada 20 Oktober, ketika OpenAI mengumumkan kemitraan formal dengan aktor Bryan Cranston dan serikat pekerja SAG-AFTRA untuk memperkuat pagar keselamatannya, sebuah langkah penting yang melihat pengembang AI terkemuka berkolaborasi langsung dengan serikat pekerja kreatif untuk membentuk kebijakan.
Menavigasi Wilayah Hukum dan Etika AI yang Belum Dipetakan
Kontroversi Sora 2 dan Alat baru YouTube menyoroti area abu-abu hukum dan etika yang luas seputar AI generatif. Undang-undang pencemaran nama baik yang tradisional sering kali tidak berlaku bagi orang yang meninggal, sehingga keluarga hanya memiliki hak publisitas postmortem di tingkat negara bagian yang tidak konsisten.
Kekosongan hukum ini, tanpa mengesampingkan standar federal, telah memungkinkan penyebaran konten yang, meskipun tidak selalu ilegal, menyebabkan tekanan emosional yang signifikan dan menciptakan ketidakpastian bagi platform dan keluarga.
Perdebatan ini juga memunculkan kembali pertanyaan mendasar tentang pencemaran nama baik. bagaimana model AI dilatih. Kritikus berpendapat bahwa ketergantungan industri pada pengambilan data web dalam jumlah besar tanpa izin jelas merupakan masalah mendasar yang belum terselesaikan.
Meskipun OpenAI telah menyuarakan dukungannya terhadap undang-undang federal seperti UU NO FAKES, para pendukung hak digital khawatir undang-undang tersebut dapat menghambat kebebasan berpendapat dan parodi jika tidak dirancang dengan hati-hati.
Dalam lingkungan yang penuh gejolak ini, alat YouTube yang berpusat pada kreator menawarkan hal yang berbeda jalan ke depan. Dengan menyediakan mekanisme yang jelas dan dapat diakses oleh individu untuk mengontrol kemiripan mereka, platform ini memposisikan dirinya sebagai pengelola identitas digital yang lebih bertanggung jawab.
Bagi aktor Bryan Cranston, yang menjadi subjek klip Sora yang tidak sah, tindakan proaktif seperti itu sangat penting. “Saya berterima kasih kepada OpenAI atas kebijakannya dan untuk meningkatkan batasannya, dan berharap bahwa mereka dan semua perusahaan yang terlibat dalam pekerjaan ini, menghormati hak pribadi dan profesional kita untuk mengelola replikasi suara dan kemiripan kita.”
Saat industri bergulat dengan teknologi baru ini, perbedaan antara kekacauan “build in public” OpenAI dan pendekatan terstruktur dan berbasis alat dari YouTube menghadirkan dua filosofi yang sangat berbeda dalam mengelola masa depan teknologi yang dihasilkan AI. konten.
Hasil dari strategi yang berbeda-beda ini kemungkinan besar akan menjadi preseden penting bagi penerapan AI yang bertanggung jawab di seluruh lanskap teknologi.
