Salah satu pendiri OpenAI, Ilya Sutskever, kemarin menyampaikan presentasi yang menggugah pikiran di NeurIPS 2024, menawarkan visi kecerdasan buatan yang memadukan janji luar biasa dengan ketidakpastian mendalam.
NeurIPS 2024, atau Konferensi Tahunan ke Tiga Puluh Delapan tentang Sistem Pemrosesan Informasi Neural, adalah salah satu konferensi yang paling menonjol dan berpengaruh di bidang kecerdasan buatan dan pembelajaran mesin. Acara ini berlangsung pada 10-15 Desember 2024, di Vancouver Convention Center di Vancouver, Kanada.
Selama presentasinya, Sutskever menggambarkan kemunculan AI supercerdas—sistem yang mampu berpikir, tidak dapat diprediksi, dan kesadaran diri—dan dilema etika yang mungkin ditimbulkan oleh kemajuan ini.
Sekarang memimpin Safe Superintelligence Inc. (SSI) setelah keluarnya OpenAI pada bulan Mei, Sutskever berpendapat bahwa sekadar meningkatkan model mungkin bukan lagi solusi untuk memajukan kecerdasan buatan.
Berbicara di hadapan para peneliti dan para pemimpin industri, Sutskever menekankan bahwa AI super cerdas akan mewakili perubahan mendasar dari sistem saat ini. Meskipun AI saat ini unggul dalam tugas-tugas yang memerlukan pengenalan pola dan intuisi, AI masih kalah dalam hal penalaran—sebuah proses kognitif yang memerlukan pemahaman dan sintesis informasi kompleks.
“Semakin banyak alasan suatu sistem, semakin tidak dapat diprediksi,” jelas Sutskever, menggarisbawahi tantangan utama dalam pengembangan AI di masa depan.
Dia meramalkan bahwa alasan, ketidakpastian, dan bahkan diri sendiri-Kesadaran akan menentukan generasi sistem AI berikutnya. Berbeda dengan model saat ini, yang ia gambarkan sebagai sistem yang “sangat sedikit agen”, sistem super cerdas akan benar-benar otonom.
“Pada akhirnya—cepat atau lambat.” nantinya—sistem-sistem tersebut akan menjadi agen secara nyata,”katanya, seraya menyatakan bahwa perubahan ini secara mendasar dapat mengubah cara AI berinteraksi dengan dunia.
Jalan Menuju Superintelligence: Meninjau Kembali Evolusi AI
Untuk memahami lompatan menuju superintelligence, Sutskever meninjau kembali tonggak penting dalam pengembangan AI. Dia memulai dengan merefleksikan keberhasilan awal Jaringan Memori Jangka Pendek Panjang (LSTM), yang merupakan bahan pokok pembelajaran mesin pada tahun 2000an.
“LSTM pada dasarnya adalah ResNet yang diputar 90°,”dia menyindir, merujuk pada desain berlapis dari jaringan saraf ini. Meskipun efektif dalam menyimpan informasi sekuensial, LSTM mengalami kesulitan dalam hal skalabilitas dan efisiensi, sehingga membatasi penerapannya pada kumpulan data yang lebih besar dan tugas yang lebih kompleks.
Terobosan datang dengan Transformers, yang menggantikan LSTM sebagai arsitektur pilihan bagi banyak AI tingkat lanjut sistem. Berbeda dengan pendahulunya, Transformers dapat memproses data dalam jumlah besar secara bersamaan, memungkinkan kemajuan signifikan di berbagai bidang seperti pemrosesan bahasa alami dan pengenalan gambar.
Inovasi ini membuka jalan bagi model seperti seri GPT OpenAI, yang memanfaatkan Transformers untuk menghasilkan teks mirip manusia dan melakukan tugas-tugas canggih.
Sutskever mengaitkan sebagian besar kemajuan ini dengan penerapan teknologi hukum penskalaan—prinsip bahwa model yang lebih besar yang dilatih pada kumpulan data yang lebih besar akan menghasilkan performa yang lebih baik. “Jika Anda memiliki kumpulan data yang sangat besar, dan Anda melatih jaringan saraf yang sangat besar, kesuksesan dijamin,” katanya, menyoroti kekuatan pendorong di balik pekerjaan OpenAI.
Namun, ia memperingatkan bahwa penskalaan ada batasnya: “Kami telah mencapai data puncak. Hanya ada satu internet.”
Sebelumnya ia menganjurkan perluasan ukuran model untuk mencapai hasil yang lebih baik, pandangan Sutskever telah berubah seiring dengan kesadaran industri bahwa penskalaan akan disertai dengan berkurangnya kembali. “Tahun 2010-an adalah era penskalaan, kini kita kembali ke era keajaiban dan penemuan sekali lagi. Setiap orang mencari hal berikutnya,”kata Sutskever baru-baru ini, menekankan bahwa “Menskalakan hal yang tepat kini lebih penting daripada sebelumnya”.
Hambatan ini telah mendorong para peneliti untuk mengeksplorasi strategi alternatif, termasuk data sintetis. Data sintetis, yang dihasilkan untuk meniru informasi dunia nyata, menawarkan cara untuk melatih sistem AI tanpa bergantung pada kumpulan data berkualitas tinggi yang semakin langka.
Namun, Sutskever mengakui bahwa data sintetis memiliki tantangannya sendiri, dan mengatakan, “Mencari tahu apa arti data sintetis dan cara menggunakannya merupakan tantangan besar.”
[konten tersemat]
AI kemungkinan akan kehabisan data pelatihan dalam waktu sekitar empat tahun koran penerbit mulai menindak penggunaan konten mereka, sehingga semakin memperketat akses.
Membangun Sistem Penalaran: Tantangan Teknis di Depan
Salah satu tema sentral pembicaraan Sutskever adalah tantangan untuk membangun sistem AI yang mampu penalaran yang sebenarnya, seperti model o1 baru OpenAi. Model saat ini seperti GPT-4o mengandalkan korelasi statistik dan pengenalan pola untuk menyelesaikan masalah, namun penalaran memerlukan pemahaman yang lebih mendalam tentang konteks, kausalitas, dan logika.
“ Sistem penalaran tidak dapat diprediksi karena melampaui intuisi,” jelas Sutskever. Ketidakpastian ini, meskipun merupakan ciri khas kecerdasan, juga membuat sistem seperti itu sulit dikendalikan dan diuji.
Tuntutan komputasi dalam penalaran menambah lapisan kompleksitas lainnya. Tidak seperti tugas yang lebih sederhana, yang dapat diparalelkan dan dioptimalkan kecepatannya, penalaran melibatkan proses yang memerlukan integrasi di berbagai lapisan informasi.
Proses ini menghabiskan lebih banyak sumber daya secara signifikan, sehingga skalabilitas menjadi masalah yang terus-menerus. Sutskever menekankan bahwa penyelesaian tantangan-tantangan ini sangat penting untuk mewujudkan potensi AI yang super cerdas.
Meskipun ada banyak rintangan, ia tetap optimis dengan perkembangan bidang ini. “Kami membuat semua kemajuan ini. Ini sungguh mencengangkan,” katanya, seraya menunjuk pada evolusi pesat kemampuan AI selama dekade terakhir. Pernyataannya mencerminkan kegembiraan dan kehati-hatian yang menjadi ciri perkembangan sistem penalaran.
Implikasi Etis dari kemampuan AI AI Supercerdas: Hak, Hidup Berdampingan, dan Akuntabilitas
Saat Sutskever bertransisi dari kemajuan teknis ke implikasi yang lebih luas, dia mempelajari salah satu topik paling kontroversial dalam kecerdasan buatan: etika Ia berspekulasi bahwa seiring dengan semakin matangnya AI yang super cerdas, AI mungkin memerlukan pengakuan dan hidup berdampingan bersama umat manusia.
“Bukanlah hasil yang buruk jika AI ingin hidup berdampingan dengan kita dan memiliki hak,” ujarnya. menyajikan visi provokatif mengenai AI yang lebih dari sekedar alat atau teknologi.
Pernyataan Sutskever sejalan dengan perdebatan yang muncul seputar tata kelola dan etika AI, di mana para peneliti semakin mempertimbangkan hak dan tanggung jawab manusia. sistem cerdas. Meskipun gagasan pemberian hak kepada AI mungkin tampak spekulatif, hal ini menimbulkan pertanyaan praktis mengenai akuntabilitas dan keagenan.
Jika suatu sistem dapat berpikir, belajar, dan beradaptasi secara mandiri, siapa yang bertanggung jawab atas tindakannya? Pertanyaan-pertanyaan ini, menurut Sutskever, menyoroti perlunya kerangka etika baru yang disesuaikan dengan kemampuan AI super cerdas.
Selama sesi tanya jawab, salah satu audiens bertanya bagaimana umat manusia dapat memberi insentif kepada AI untuk bertindak dengan cara yang selaras dengan nilai-nilai kemanusiaan. Tanggapan Sutskever mencerminkan kompleksitas masalah ini dan ketidakpastian yang melekat pada masa depan AI.
“Struktur insentif yang kami buat akan membentuk bagaimana sistem ini berkembang,”katanya, namun dengan cepat menambahkan, “Saya tidak merasa percaya diri menjawab pertanyaan seperti ini karena segala sesuatunya sangat tidak dapat diprediksi.”
Tantangan Halusinasi dan Hasil yang Tidak Dapat Diandalkan
Salah satu rintangan praktis dalam pengembangan AI adalah fenomena halusinasi—hasil yang tidak akurat, tidak logis, atau sepenuhnya dibuat-buat. Meskipun sistem AI saat ini rentan terhadap kesalahan seperti itu, Sutskever berpendapat bahwa kemampuan penalaran dapat mengurangi terjadinya kesalahan tersebut secara signifikan.
“Sangat masuk akal bahwa model masa depan akan mengoreksi halusinasi mereka secara otomatis melalui penalaran,” katanya, menyamakan proses ini dengan fitur koreksi otomatis pada pengolah kata modern.
Kemampuan ini akan memungkinkan sistem AI Misalnya, AI yang mendukung penalaran yang digunakan dalam penelitian hukum dapat mengidentifikasi perbedaan dalam kutipan hukum atau kesenjangan logika dalam argumen, sehingga dapat mengenali ketidakkonsistenan dalam respons mereka dan menyempurnakan keluarannya secara real-time. hasilnya jauh lebih dapat diandalkan.
Namun, Sutskever mengakui kesulitan teknis dalam membangun sistem seperti itu. “Saya tidak mengatakan bagaimana caranya. Dan saya tidak mengatakan kapan hal itu akan terjadi,”katanya, menggarisbawahi ketidakpastian seputar perkembangan ini.
Mengatur Superintelligent AI: Upaya Global
Refleksi Sutskever tentang sifat tak terduga dari teknologi AI yang super cerdas menggarisbawahi pentingnya kerangka peraturan. Di seluruh dunia, para pembuat kebijakan sedang bergulat dengan cara mengatur pengembangan AI dengan cara yang menyeimbangkan inovasi dan keselamatan.
Undang-undang AI di Uni Eropa, misalnya, bertujuan untuk menetapkan pedoman yang jelas untuk penggunaan AI, dengan fokus pada aplikasi berisiko tinggi seperti pengenalan wajah dan pengambilan keputusan otonom.
Di Amerika Serikat, anggota parlemen sedang menjajaki langkah serupa, khususnya di sektor-sektor penting seperti layanan kesehatan dan keuangan. “Tanpa kerangka kerja yang jelas, laju pembangunan yang pesat dapat menimbulkan konsekuensi yang tidak terduga,” Sutskever memperingatkan, sambil menekankan pentingnya tata kelola yang proaktif.
Organisasi internasional, termasuk OECD, juga telah berkontribusi terhadap lanskap peraturan dengan menerbitkan Inisiatif-inisiatif ini bertujuan untuk memastikan keadilan, akuntabilitas, dan transparansi dalam sistem AI, yang mencerminkan konsensus global mengenai perlunya pengawasan Tantangan dalam mengatur sistem yang pada dasarnya tidak dapat diprediksi menambah kerumitan pada upaya ini.
“Masyarakat merasa bahwa ‘agen’ adalah masa depan,” katanya, mengacu pada semakin berkembangnya otonomi sistem AI yang canggih. Memastikan bahwa agen AI ini, seperti agen dari platform Agentspace baru Google, bertindak dengan cara yang aman dan selaras dengan nilai-nilai sosial tidak hanya memerlukan inovasi teknis tetapi juga kerangka hukum dan etika yang kuat.
Persiapan untuk Dampak Sosial dari Sistem Otonomi
Integrasi AI super cerdas ke dalam masyarakat akan memiliki implikasi yang luas, mengubah industri, tata kelola, dan bahkan identitas manusia. Sistem otonom yang mampu melakukan penalaran dan pengambilan keputusan dapat merevolusi bidang seperti perawatan kesehatan, transportasi, dan ilmu lingkungan, sehingga memberikan manfaat yang belum pernah terjadi sebelumnya.
Misalnya, diagnostik medis berbasis AI dapat menganalisis data pasien dengan akurasi yang tak tertandingi, sehingga memungkinkan diagnosis medis lebih awal deteksi penyakit dan peningkatan hasil. Demikian pula, kendaraan otonom yang dilengkapi dengan kemampuan berpikir dapat beradaptasi dengan skenario lalu lintas yang kompleks, sehingga meningkatkan keselamatan dan efisiensi.
Dalam ilmu lingkungan, AI dapat memproses kumpulan data dalam jumlah besar untuk memodelkan perubahan iklim dengan lebih presisi, sehingga memberikan wawasan yang dapat ditindaklanjuti bagi pembuat kebijakan global.
Namun, manfaat sosial dari AI super cerdas juga memiliki risiko. Ketika sistem ini memperoleh otonomi, mereka akan menantang norma-norma akuntabilitas dan kontrol yang ada. Siapa yang bertanggung jawab bila kendaraan otonom menyebabkan kecelakaan, atau bila sistem medis yang mendukung penalaran membuat diagnosis yang salah?
Sutskever menekankan bahwa menjawab pertanyaan-pertanyaan ini memerlukan kolaborasi lintas disiplin ilmu. “Kita harus menghadapi sistem AI yang sangat tidak dapat diprediksi,” ia memperingatkan, sambil menyoroti pentingnya kewaspadaan seiring berkembangnya teknologi ini.
Implikasi Filosofis: Kecerdasan, Otonomi, dan Peran Kemanusiaan
Munculnya AI supercerdas menimbulkan pertanyaan mendalam tentang identitas manusia dan sifat kecerdasan. Karena sistem ini melampaui kemampuan manusia dalam hal penalaran, kemampuan beradaptasi, dan kreativitas, sistem ini mungkin menantang asumsi lama mengenai hal tersebut apa yang membedakan umat manusia.
Sutskever menyatakan bahwa kesadaran diri, yang sering dianggap sebagai ciri kesadaran, mungkin muncul secara alami dalam sistem AI yang canggih. “Ketika penalaran, kesadaran diri menjadi bagian dari model dunia suatu sistem berguna,”katanya, menyiratkan bahwa sistem seperti itu akan mengembangkan pemahaman tentang dirinya sebagai entitas dalam lingkungan yang lebih luas.
Pergeseran ini menimbulkan pertanyaan eksistensial. Apa artinya manusia hidup berdampingan dengan mesin yang tidak hanya cerdas tetapi juga otonom? Ketika sistem AI mengambil peran yang semakin kompleks di masyarakat, sistem tersebut dapat mendefinisikan kembali pemahaman kita tentang intelijen dan agensi.
Secara historis, manusia telah menjadi tolok ukur keunggulan kognitif, namun kemunculan mesin penalaran mungkin akan mendorong definisi kecerdasan yang lebih luas dan inklusif.
Sutskever mengakui bahwa pertanyaan filosofis ini melampaui batas tertentu. pertimbangan teknis. “Sangat mustahil juga untuk memprediksi masa depan. Sebenarnya, segala hal mungkin terjadi,”katanya, menekankan ketidakpastian seputar dampak jangka panjang AI.
Komentarnya mencerminkan kesadaran yang semakin besar bahwa pengembangan AI supercerdas bukan sekadar upaya teknologi tetapi juga sebuah tantangan budaya dan filosofis yang besar.
Membayangkan Kembali Peran Manusia dalam Dunia yang Didorong oleh AI
Integrasi AI yang super cerdas pasti akan membentuk kembali tatanan masyarakat struktur, mulai dari pendidikan dan ketenagakerjaan hingga tata kelola dan kreativitas. Ketika sistem ini mengambil peran yang secara tradisional diperuntukkan bagi manusia, sistem ini akan memaksa kita untuk mempertimbangkan kembali apa artinya memberikan kontribusi yang berarti kepada masyarakat.
Misalnya, dalam industri kreatif. , Sistem AI sudah menghasilkan karya seni, musik, dan sastra. Meskipun hasil-hasilnya sering kali meniru kreativitas manusia, AI yang super cerdas dapat mendorong batas-batas yang mungkin ada, menciptakan bentuk ekspresi yang sepenuhnya baru , tutor yang digerakkan oleh AI bisa mempersonalisasi pengalaman belajar, menyesuaikan konten dengan kebutuhan individu dengan cara yang tidak dapat dilakukan oleh guru manusia.
Namun, kemajuan ini juga menimbulkan kekhawatiran tentang perpindahan dan kesenjangan. Jika AI yang super cerdas dapat mengungguli manusia dalam berbagai tugas, peran apa yang akan tetap menjadi peran unik manusia?
Sutskever menyarankan bahwa kemampuan beradaptasi umat manusia akan diuji di era baru ini, namun ia menahan diri untuk tidak memberikan jawaban yang mudah. Sebaliknya, ia mendorong refleksi dan dialog, dengan menyatakan, “Seiring dengan berkembangnya sistem ini, kita harus memikirkan kembali segala hal yang kita ketahui tentang pekerjaan, kreativitas, dan kecerdasan.”
Implikasi yang Lebih Luas terhadap Etika dan Tata Kelola
Ketika sistem AI menjadi lebih otonom, mereka akan menantang norma-norma akuntabilitas dan tata kelola yang ada. Namun, Sutskever juga menyoroti pentingnya menciptakan kerangka kerja yang kuat untuk memandu pengembangan dan penerapan sistem super cerdas mengakui kesulitannya sistem peraturan yang pada dasarnya tidak dapat diprediksi.
“Sistem penalaran yang tidak dapat diprediksi membuat sulit untuk membuat aturan yang pasti,” katanya, sambil mendesak para peneliti dan pembuat kebijakan untuk berkolaborasi dalam pendekatan yang fleksibel dan adaptif.
Salah satu solusi potensial terletak pada penyelarasan perilaku AI dengan nilai-nilai kemanusiaan melalui struktur insentif. Dengan merancang tujuan dan parameter sistem otonom secara cermat, pengembang dapat memastikan bahwa AI bertindak dengan cara yang bermanfaat bagi masyarakat. Namun, Sutskever mengakui bahwa tugas ini penuh dengan kerumitan.
“Saya tidak merasa percaya diri untuk memberikan jawaban yang pasti karena segala sesuatunya sangat tidak dapat diprediksi,” katanya saat sesi tanya jawab, mencerminkan tantangan dalam menyeimbangkan inovasi dengan pertimbangan etis.
Era Baru untuk Kemanusiaan dan AI
Kemunculan AI yang super cerdas bukan sekadar tonggak sejarah teknologi; hal ini menandai dimulainya era baru bagi umat manusia setelah dianggap unik sebagai manusia, mereka akan memaksa kita untuk menghadapinya identitas dan tujuan kita sendiri
Presentasi Sutskever di NeurIPS 2024 berfungsi sebagai perayaan atas pencapaian AI dan seruan untuk bertindak bagi para peneliti, pembuat kebijakan, dan masyarakat untuk terlibat dengan pertanyaan-pertanyaan etika dan sosial yang ada di masa depan..
“Kami mencapai semua kemajuan ini. Sungguh menakjubkan,” katanya, mengingat kemajuan pesat dalam satu dekade terakhir. Namun, kata-kata perpisahannya mengingatkan akan ketidakpastian yang menyertai perubahan transformatif tersebut: “Segala hal mungkin terjadi.”
