關於火遍全網的Sora，你應該知道這些- 大数跨境

联合出版集团

2024-02-26

Sora火了，距離2月16日OpenAI發布文生視頻大模型Sora已經過去快兩周，但討論依舊熱烈。馬斯克、楊立昆、賈揚清、Jim Fan、謝賽寧等各路大佬都在討論，周鴻禕更是喊出，Sora的誕生意味着AGI（通用人工智慧）的實現或從10年縮短至1、2年。

（圖源網絡）

自媒體時代，人人都是創作者。Sora的出現標誌着人工智能在模擬和理解現實世界方面的能力有了顯著提升，大大降低短視頻創作門檻，豐富短視頻平台的內容供給。人工智能的每次革新，都會引發其潛在影響的討論。

人工智能一旦強大到一定地步，或者「失控」，會威脅人類生存嗎？

2016年AlphaGo贏得圍棋比賽，這樣的問題再一次牽動人們的神經。本來，比爾·蓋茨、史蒂芬·霍金等大牛就警告說人工智能的發展可能意味着人類的滅亡。2015年1月，比爾·蓋茨在Reddit的「Ask Me Anything」論壇上表示，人類應該敬畏人工智能的崛起。蓋茨認為，人工智能將最終構成一個現實性的威脅，雖然在此之前，它會使我們的生活更輕鬆。

圖 | Sora生成的視頻截圖（截自官網）

這種擔心可以理解，並且這種警醒也並非多餘。只是，像「機器人會消滅人類嗎」之類的問題，在我看來都不過是暴露了人們由於概念混亂而導致的摸不着北的狀態，這種狀態又與不合時宜的思維陋習結合，才將人們帶入無根基的焦慮或者恐懼之中。

我們要看到，所有的人造機器，包括AlphaGo，都是某些方面的能力高於人類。這本來就是人造機器的目的。在現有條件下，它還不會失控，以後真失控了的話，與飛機高鐵大壩火箭核能之類的失控基本屬同類性質。無論是無人駕駛技術，還是如今的AlphaGo下棋程序，這些智能機器的發明，複雜程度日益提升、智能日趨強大，但與人們驚呼的「人類將要被機器消滅」之間，並不存在甚麼客觀的聯繫。

AlphaGo沒有感官系統、沒有主體內可體驗內容、沒有主觀意向、沒有情緒湧動——這些相對於人的缺陷，正是它能贏棋的重要因素。現在，我們又要反過來想想，又正是這些缺憾，使得它只能在「弱人工智能」的領地中徘徊，充當純粹的工具。這種「弱人工智能」很可能通過圖靈測試，但這與人的意向性（intentionality）及主體感受內容（qualia）不相干，也不會有愛恨情仇、自由意志，而沒有這些，它就不可能產生「征服」或「消滅」誰誰誰的動機。

圖 | Sora生成的視頻截圖（截自官網）

在學界和業界，早就有「強人工智能」相對「弱人工智能」的概念，雖然初聽起來好像這裡只有強弱程度的差別，但這種區別具有分立的性質，而不只是程度問題。所謂的「強」，其實指的是超越工具型智能而達到第一人稱主體世界內容的湧現，還包括剛才提到的意向性、自由意志等的發生。

哲學家尼克·博斯特羅姆（Nick Bostrom）在美國《連線》（Wired）雜誌2016年1月刊針對AlphaGo的新技術直接發表了看法。在波斯特姆看來，這（指此前AlphaGo的發展）並不一定是一次巨大飛躍。波斯特姆指出，多年來，系統背後的技術一直處於穩定提升中，其中包括有過諸多討論的人工智能技術，比如深度學習和強化學習。波斯特姆說，「過去和現在，最先進的人工智能都取得了很多進展」，「（谷歌）的基礎技術與過去幾年中的技術發展密切相連。」

看起來，AlphaGo的表現在波斯特姆意料之中。在《超級智能：路線圖、危險性與應對策略》一書中，他曾經這樣表述：「專業國際象棋比賽曾被認為是人類智能活動的集中體現。20世紀50年代後期的一些專家認為，『如果能造出成功的下棋機器，那麼就一定能夠找到人類智能的本質所在』。但現在，我們卻不這麼認為了。」

圖 | Sora生成的視頻截圖（截自官網）

也就是說，下棋能贏人類的機器，終究還是機器，與人類智能的本質無甚關聯，曾經那麼宣稱的人，不是神化了下棋技藝的智力本質，就是幻想了下棋程序的「人性」特質。波斯特姆看來也不會認為AlphaGo與「強人工智能」有何相干。

我去年剛在《哲學研究》發過一篇文章，論證按照現在這種思路來搞人工智能，搞出來的東西是不可能有自我意識和意志的。按照量子力學的基本構架來進行，倒有可能。

早先我提出了一個針對強人工智能的判準，為了與圖靈測試相對照，叫作「逆向圖靈人工智能認證判準」：

任何不以已經具有意識功能的材料為基質的人工系統，除非能有充足理由斷定在其人工生成過程中引入並隨之留駐了意識的機制或內容，否則我們必須認為該系統像原先的基質材料那樣不具備意識，不管其行為看起來多麼接近人類意識主體的行為。

基於以上看法，我認為「強人工智能」實現以後，這種造物就不能被當作純粹的工具了，因為它們具有人格結構，正常人類成員所擁有的權利地位、道德地位、社會尊嚴等等，他們應該平等地擁有。與我們平起平坐的具有獨立人格的「機器人」，還是機器人嗎？不是了，這才是真正的突破。

最為關鍵的是，這樣的「強人工智能」主體，不就真的可以與人類對抗、毀滅人類嗎？要理解這種擔憂的實質，就需要我們好好自我反思一下，我們在這裡如何把基於個人經歷形成的一己情懷當作有效的價值判斷了。

圖 | Sora生成的視頻截圖（截自官網）

我們主動地設計製造了這種新型主體存在，不就等於以新的途徑創生了我們的後代嗎？長江後浪推前浪，青出於藍而勝於藍，人類過往的歷史不都是這樣的，或至少是我們希望的嗎？一旦徹底做到了，為何又恐懼了呢？所以，我們看待它們的最好和最合理的態度是：他們是我們自己進化了的後代，只是繁殖方式改變了而已。退一萬步講，假如它們真聯合起來向前輩造反並將前輩「征服」，那也不過就像以往發生過的征服一樣，新人類征服了舊人類，而不是人類的末日。

其實，對人工智能的過度期待或深度憂慮，大多基於缺乏學理根據的科幻想像或人們對自身的身份認同前景的恐慌。100年前小說家講述的科學怪人「弗蘭肯斯坦」創造了怪物，最後自己被怪物控制的故事，確實讓我們覺得，與一般的自然災難相比，我們自造的怪物「失控」了並回過頭來對付我們，的確讓人更加懊惱。但是，目前這種人工智能，再怎麼自動學習自我改善，都不會有「征服」的意志，也不會有「利益」訴求和「權利」意識，這是我多年研究後得出的結論。

新書推介

《虛擬現實的哲學探險》

作者：翟振明

出版社：開明書店

出版時間：2024年2月

這不是一部預言技術的發展對不遠的將來會產生甚麼影響的書，也不是一部推理性的科技幻想作品：本書中採用虛構故事的目的，是要幫助我們理解虛擬現實在其邏輯極限處的狀況。通過對這些扣人心弦的故事的分析，我們將認識到，如果數碼模擬、感覺浸蘊以及功能性遙距操作等技術的恰當結合發展到它的頂點，將會出現甚麼樣的情形。因此，現在的技術能夠對此做到甚麼程度不是真正的問題。關鍵是，一方面，虛擬現實的發明為我們更深刻地理解實在的本性提供了一個契機；另一方面，對實在本性的充分理解將打開我們的眼睛，使我們能夠看到虛擬現實技術——儘管還處於其原始形式——如何正在促使我們做一個基本抉擇。

END

（本文轉載並改編自開明書店微信公眾號，原文作者為本書作者，編者略有增補。）

購買途徑

「中商進口商城」小程序，點擊上方圖書封面可進入購買鏈接。

「一本」官方網站，識別下方二維碼，進入購買頁面。