OpenAI 共同創辦人 Ilya Sutskever 昨天在 NeurIPS 2024 上發表了發人深省的演講，提出了人工智慧的願景，將非凡的前景與巨大的不確定性融為一體。
NeurIPS 2024，即第三十八屆神經資訊處理系統年會，是最著名和最有影響力的會議之一在人工智慧和機器學習領域。該活動將於2024 年12 月10 日至15 日在加拿大溫哥華的溫哥華會議中心舉行。 、和自我意識，以及這些進步可能帶來的道德困境。-1;base64,PHN2ZyB2aWV3Qm94PSIwIDAgNzUxIDcwMCIgd2lkdGg9Ijc1MSIgaGVpZ2h0PSI3MDAiIHhtbG5zPSJodHRwOi8vd3d3LnczKid3d3LnczOm penAI 後，Sutskever 認為僅僅擴大模型規模可能不再是推動人工智慧的解決方案。 p>
Sutskever 在向研究人員和產業領導者發表演說時強調，超級智慧人工智慧將代表著與當今系統的根本背離。雖然目前的人工智慧在需要模式識別和直覺的任務方面表現出色，但在推理方面卻表現不佳，推理是一種需要理解和綜合複雜資訊的認知過程。
「系統推理越多，它就越不可預測，」Sutskever 解釋道，強調了人工智慧未來發展的一個關鍵挑戰。甚至自我-意識將定義下一代人工智慧系統。 ，這些系統實際上是自治的。超級智慧之路:重新審視人工智慧的進化
為了了解超級智慧的飛躍，Sutskever 回顧了人工智慧發展的主要里程碑，他首先回顧了
這一瓶頸促使研究人員探索替代策略，包括合成數據。為模仿現實世界資訊而產生的合成資料提供了一種訓練人工智慧系統的方法，而無需依賴日益稀缺的高品質資料集。
然而，Sutskever 承認合成數據也有其自身的挑戰，並指出，「弄清楚合成數據的含義以及如何使用它是一個巨大的挑戰。」
[嵌入內容]
人工智慧可能
幻覺和不可靠輸出的挑戰
人工智慧開發的實際障礙之一是幻覺現象，即不準確、不合邏輯或完全捏造的輸出。 Sutskever 認為，雖然目前的人工智慧系統很容易出現此類錯誤，但推理能力可以顯著減少此類錯誤的發生。
「未來的模型很可能會透過推理自動糾正他們的幻覺，」他說，並將這個過程比作現代文字處理器中的自動更正功能。這種能力將使人工智慧系統能夠例如，法律研究中使用的推理人工智慧可以識別判例法引用中的差異或論證中的邏輯差距，從而使其輸出更加可靠。這類系統有技術困難，「順便說一句，我並不是說它會發生。」強調了圍繞這一發展的不確定性。
Sutskever 對超級智慧人工智慧不可預測性的反思強調了監管框架的迫切性。在世界各地，政策制定者都在努力解決如何以平衡創新與安全的方式來管理人工智慧的發展。指導方針，重點在於人臉辨識、自主決策等高風險應用。
在美國，立法者正在探索類似的措施，特別是在醫療保健和金融等關鍵領域。 Sutskever 警告說:「如果沒有明確的框架，快速的發展可能會導致不可預見的後果。」他強調了主動治理的重要性。發布法規為監管環境做出了貢獻。的那樣，監管系統面臨著挑戰。先進人工智慧系統日益增強的自主性。確保這些人工智慧代理商（例如來自Google 新Agentspace 平台的人工智慧代理商）以安全且符合社會價值觀的方式行事，不僅需要技術創新，還需要強大的法律和道德框架。 >準備自治系統的社會影響
超級智慧人工智慧融入社會將產生深遠的影響，重塑產業、治理，甚至人類認同。能夠推理和決策的自主系統可以徹底改變醫療保健、交通和環境科學等領域，帶來前所未有的好處。 ，從而能夠更早診斷出患者的症狀。同樣，配備推理能力的自動駕駛汽車可以適應複雜的交通場景，提高安全性和效率。
在環境科學中，人工智慧可以處理大量資料集，以更精確地模擬氣候變化，為全球政策制定者提供可行的見解。智能的社會效益也伴隨著風險。隨著這些系統獲得自主權，它們將挑戰現有的問責和控制規範。當自動駕駛汽車引發事故或推理醫療系統做出錯誤診斷時，誰該負責?
Sutskever 強調，解決這些問題需要跨領域合作。 「我們將不得不應對極其不可預測的人工智慧系統，」他警告說，並強調隨著這些技術的發展保持警惕的重要性。人類的角色
超級人工智慧的興起對人類身分和智慧本質提出了深刻的問題，因為這些系統在推理、適應能力和創造力方面超越了人類的能力，它們可能會挑戰長期以來關於什麼的假設。這很有用。人類與不僅智慧而且自主的機器共存意味著什麼?隨著人工智慧系統在社會中扮演越來越複雜的角色，它們可能會重新定義我們對智慧和代理的理解。
從歷史上看，人類一直是卓越認知的基準，但推理機器的出現可能會促使對智慧進行更廣泛、更具包容性的定義。承認，這些哲學問題超越了技術考量。 「預測未來也是絕對不可能的。真的，一切皆有可能。項技術努力，而且是一項技術進步。超級智慧人工智慧的整合將不可避免地重塑社會結構，從教育到社會結構隨著這些系統承擔起傳統上為人類保留的角色，它們將迫使我們重新考慮對社會做出有意義的貢獻意味著什麼。 >
同樣，在人工智慧驅動的教育領域。對流離失所和不平等的擔憂。如果超級智慧人工智慧可以在廣泛的任務中超越人類，那麼什麼角色將仍然是人類獨有的?
Sutskever 表示，人類的適應能力將在這個新時代受到考驗，但他沒有提供簡單的答案。相反，他鼓勵反思和對話，並表示:「隨著這些系統的發展，我們將不得不重新思考我們所知道的有關工作、創造力和智力的一切。」
對道德和治理的更廣泛影響
隨著人工智慧系統變得更加自主，它們將挑戰現有的問責和治理規範。框架來指導超級智慧系統的開發和部署的重要性。說，並敦促研究人員和政策制定者合作制定靈活、適應性強的方法。 。透過仔細設計自主系統的目標和參數，開發人員可以確保人工智慧以造福社會的方式行事。然而，蘇茨克韋爾承認這項任務充滿了複雜性。
「我沒有信心提供明確的答案，因為事情是如此不可預測，」他在問答環節中說道，這反映了平衡創新與道德考慮的挑戰。 strong>人類和人工智慧的新時代
超級智慧人工智慧的出現不僅僅是一個技術里程碑；它標誌著人類新時代的開始，因為機器扮演了過去的角色。一旦被認為是人類獨有的，它們將迫使我們面對自己的身份和目的
Sutskever 在NeurIPS 2024 上的演講既是對人工智慧成就的慶祝，也是對研究人員、政策制定者和公眾採取行動的呼籲。然而，他的臨別贈言提醒人們，這種變革伴隨著不確定性:「一切皆有可能。」
