Penyelidik Microsoft telah baru-baru ini menerbitkan kertas yang mengejutkan yang menegaskan bahawa sistem kecerdasan buatan (AI) baharu mereka memaparkan keupayaan untuk memahami dunia dengan cara yang serupa dengan manusia, mencetuskan perdebatan hangat dalam industri teknologi.
Tahun lepas, komputer Microsoft saintis menguji sistem AI mereka dengan masalah dunia sebenar: menyusun buku, sembilan telur, komputer riba, botol dan paku dengan cara yang stabil. Penyelesaian yang dicadangkan oleh AI itu dianggap bijak, mendorong para penyelidik untuk merenung jika mereka memerhatikan satu bentuk kecerdasan yang baru.
Kertas penyelidikan 155 halaman, bertajuk “Sparks of Artificial General Intelligence”, berpendapat bahawa sistem AI ini mungkin merupakan langkah pertama ke arah mencapai kecerdasan am buatan (AGI), sebuah mesin dengan keupayaan untuk melaksanakan sebarang tugas yang boleh dilakukan oleh otak manusia. Dakwaan ini telah mencetuskan kontroversi, dengan pengkritik mencadangkan bahawa penyelidik mungkin melampaui batas.
Penyelidik Terkejut dengan Kuasa GPT-4
Peter Lee, yang mengetuai penyelidikan di Microsoft, mengakui pada mulanya berasa ragu-ragu tentang kebolehan AI”Saya mula menjadi sangat skeptikal — dan itu berkembang menjadi rasa kecewa, kegusaran, bahkan mungkin ketakutan”, Lee memberitahu New York Times.
Tuntutan berani yang dibuat oleh Microsoft, firma teknologi utama pertama yang menerbitkan karya sedemikian, telah menghidupkan semula salah satu perdebatan paling kontroversi dalam dunia teknologi: Adakah industri di ambang mencipta sesuatu yang serupa dengan kecerdasan manusia?
Sistem AI yang digunakan oleh penyelidik Microsoft, OpenAI’s GPT-4, secara meluas dianggap paling berkuasa daripadanya baik hati. Microsoft telah melabur $13 bilion dalam OpenAI dan merupakan rakan kongsi rapat syarikat itu. GPT-4 juga memperkasakan penyesuaian Microsoft Bing untuk Bing Chat dan Bing Compose, kedua-duanya sudah tersedia melalui pelayar web Microsoft Edge.
Sébastien Bubeck, pengarang utama pada kertas Microsoft AGI, mendokumentasikan tingkah laku kompleks yang dipamerkan oleh sistem selama beberapa bulan.”Semua perkara yang saya fikir ia tidak akan dapat dilakukan? Ia pasti dapat melakukan banyak daripada mereka — jika tidak kebanyakan daripada mereka”Bubeck dipetik oleh NYT. Dalam kertas kerja mereka, penulis membuat kesimpulan:
“Tuntutan utama kerja kami ialah GPT-4 mencapai satu bentuk kecerdasan am, sememangnya menunjukkan percikan kecerdasan am buatan. Ini ditunjukkan oleh keupayaan mental terasnya (seperti penaakulan, kreativiti, dan deduksi), julat topik yang ia telah memperoleh kepakaran (seperti kesusasteraan, perubatan, dan pengekodan), dan pelbagai tugas yang mampu dilakukannya (cth., bermain permainan, menggunakan alatan, menerangkan dirinya sendiri, …)..”
Walau bagaimanapun, tidak semua orang yakin. Pengkritik, seperti Maarten Sap, seorang penyelidik, dan profesor di Carnegie Mellon University, berpendapat bahawa tuntutan AGI boleh menjadi bahaya reputasi. Sap malah mencadangkan bahawa kertas’Sparks of AGI’boleh dilihat sebagai padang perhubungan awam yang menyamar sebagai kertas penyelidikan.
Penyelidik Microsoft mengakui bahawa tingkah laku AI kadangkala tidak konsisten. Ece Kamar, seorang penyelidik Microsoft, berkata,”Tingkah laku ini tidak selalu konsisten”.
Walaupun kertas itu telah mencetuskan tipu daya dalam kalangan komuniti penyelidikan, perdebatan tentang sama ada sistem AI seperti GPT-4 menunjukkan kecerdasan tulen atau semata-mata meniru penaakulan manusia berterusan.
Di mana GPT-4 dan ChatGPT Pada Masa Ini Gagal
Di mana GPT-4 datang ke takrifan yang diterima secara lebih meluas tentang perkara yang akan dianggap sebagai kecerdasan am buatan (AGI), pengarang mengenal pasti pelbagai bidang penambahbaikan:
Penentukuran Keyakinan: Model selalunya dengan yakin menyatakan maklumat yang tidak betul atau dibuat-buat, dirujuk sebagai halusinasi. Ini boleh membawa kepada ralat dan ketidakpercayaan, terutamanya dalam bidang berisiko tinggi seperti penjagaan kesihatan. Penyelesaian termasuk meningkatkan penentukuran model, memasukkan maklumat yang hilang ke dalam gesaan, menjalankan semakan post-hoc dan mereka bentuk pengalaman pengguna dengan potensi halusinasi dalam fikiran.
Memori Jangka Panjang: GPT-4 beroperasi dalam cara tanpa kewarganegaraan, tidak dapat mengekalkan maklumat baharu atau memahami konteks yang berkembang, seperti mengikuti plot buku.
Pembelajaran Berterusan: Model tidak boleh mengemas kini atau menyesuaikan dirinya dengan persekitaran yang berubah-ubah. Walaupun penalaan halus boleh dilakukan, ia boleh merendahkan prestasi atau menyebabkan terlalu pasang. Oleh itu, model itu mungkin kekurangan pengetahuan terkini selepas kitaran latihan terbaharunya.
Pemperibadian: GPT-4 bergelut untuk menyesuaikan diri dengan organisasi atau individu tertentu, tidak mempunyai mekanisme untuk memasukkan maklumat yang diperibadikan ke dalam responsnya, kecuali melalui gesaan meta yang terhad dan tidak cekap.
Perancangan dan Lompatan Konseptual: Model menghadapi kesukaran dengan tugas yang memerlukan perancangan ke hadapan atau detik”Eureka”, yang biasa genius manusia.
Ketelusan, Kebolehtafsiran dan Ketekalan: Output GPT-4 boleh menjadi tidak konsisten atau dibuat-buat, dan ia bergelut untuk mengesahkan ketekalannya sendiri dengan data latihan. Hadnya menyukarkan untuk mewujudkan kepercayaan atau kerjasama yang berkesan dengan pengguna.
Kekeliruan dan Ketidakrasionalan Kognitif: Model ini mungkin meniru bias kognitif manusia dan kesilapan statistik yang terdapat dalam data latihannya, yang berpotensi mencerminkan penyimpangan perspektif.
Sensitiviti kepada Input: Respons model boleh berbeza-beza dengan ketara bergantung pada pembingkaian atau perkataan gesaan, mencadangkan keperluan untuk kejuruteraan yang teliti bagi gesaan dan penjujukannya.
Makalah itu menyimpulkan, …
“Mekanisme di sebalik keupayaan GPT-4 untuk menaakul, merancang dan mencipta, walaupun merupakan gabungan mudah keturunan kecerunan, transformer berskala besar dan data yang luas, masih menjadi misteri. Rasa ingin tahu ini mendorong penyelidikan lanjut ke dalam fenomena kemunculan dalam model bahasa besar (LLM).
Hipotesis semasa mencadangkan input data yang luas dan pelbagai memaksa rangkaian saraf untuk mempelajari”litar saraf”generik dan berguna. Saiz model yang besar membenarkan litar ini mengkhusus dan menyesuaikan diri dengan tugas tertentu. Teori lain mencadangkan bahawa saiz model meningkatkan keberkesanan keturunan kecerunan atau membolehkan pemadanan data berdimensi tinggi yang lebih lancar.
Walau bagaimanapun, membuktikan hipotesis ini untuk model berskala besar adalah mencabar, dan berkemungkinan mereka hanya menerangkan sebahagian keupayaan model. Memahami sifat dan mekanisme sistem AI seperti GPT-4 ialah cabaran yang mendesak dan kompleks. Pengarang mengucapkan terima kasih kepada OpenAI dan rakan sekerja atas sumbangan dan maklum balas mereka terhadap kerja ini.”
