我們如何知道人工智慧是否產生意識？為了回答這個問題，一個由 19 位神經科學家、哲學家和電腦科學家組成的團隊提出了一份標準清單，這 6 種基於神經科學的意識理論得出的清單可以幫助評估 AI 是否變得有意識。本文源自《自然》雜誌 Mariana Lenharo 撰寫之報導，由元宇宙之心整理、編譯及撰稿。
（前情提要：AI 教父變成「吹哨人」，他到底在怕什麼？）
（背景補充：AI 要監管》ChatGPT之父：人工智慧能操縱美國大選、應設立許可證制度 ）
長期以來，科幻小說中一直存在人工智慧產生意識的想法，回想 1968 年的電影《2001：太空漫遊》中從超級電腦變成惡棍的 HAL 9000。隨著人工智慧的飛速發展，這種可能性正變得越來越不那麼離奇，甚至得到了人工智慧領軍人物的認可。
去年，聊天機器人 ChatGPT 背後的公司 OpenAI 首席科學家伊利亞・蘇茨凱弗（Ilya Sutskever）發推文稱，一些最先進的人工智慧網路可能會 「略有意識」。
延伸閱讀：AI教父後悔了！警告：生成式AI可能「導致人類滅亡」
許多研究人員表示，人工智慧系統尚未達到有意識的地步。但人工智慧的進化速度讓他們陷入了沉思：我們如何知道人工智慧是否產生意識？
為了回答這個問題，一個由 19 位神經科學家、哲學家和電腦科學家組成的團隊提出了一份標準清單，如果符合這些標準，就表明一個系統有很大可能是有意識的。他們於本週早些時候在 arXiv 預印版庫中釋出了臨時指南，該指南尚未經過同行評審。
合著者之一、位於加利福尼亞州舊金山的 AI 安全中心的哲學家羅伯特・朗（Robert Long）表示，他們進行這項工作是因為 「似乎確實缺乏對人工智慧意識進行詳細、以經驗為基礎、深思熟慮的討論」。
該研究團隊表示，無法識別人工智慧系統是否有意識，這可能會產生重大的道德影響。該研究的神經科學家和合著者梅根・彼得斯（Megan Peters）表示，如果某個東西被貼上了 「有意識」 的標籤，「那一定會極大地改變我們作為人類對待它的方式。」
朗（Long) 補充說，據他所知，構建先進人工智慧系統的公司並沒有付出足夠的努力來評估這些模型的意識，並制定相應的計劃。他說：「儘管聽取了一些領先實驗室負責人的發言，他們確實表示人工智慧意識或者人工智慧知覺是值得思考的問題，只是我認為還不夠。」
《自然》雜誌聯絡了推動人工智慧發展的主要兩家科技公司 —— 微軟和Google。微軟的一位發言人稱，該公司開發人工智慧的核心是以負責任的方式協助人類提高生產力，而不是複製人類智慧。
該發言人表示，自從推出 GPT-4（ChatGPT 公開發布的最新版本）以來，可以明確的是，「我們在探索如何實現人工智慧的全部潛力以造福整個社會，這需要新的方法來評估這些人工智慧模型的能力」。Google則未回應。
01. 意識是什麼？
在研究人工智慧意識時，面臨的一個挑戰是定義什麼是意識。彼得斯表示，為了報告的目的，研究人員將重點放在了 「現象意識」 上，也就是主觀體驗。即存在於人、動物或人工智慧系統系統（如果其中之一被證明具有意識）的感覺。
有許多基於神經科學的理論描述了意識的生物學基礎。但哪一種才是 「正確」 的，目前還沒有達成共識。因此，作者採用了一系列理論來建立他們的框架。他們的想法是，如果一個人工智慧系統的功能與這些理論的多個方面相匹配，那麼它具有意識的可能性就更大。
他們認為，這種評估意識的方法比簡單地進行行為測試更好，例如詢問 ChatGPT 是否有意識，或者對其進行挑戰並觀察其反應。因為人工智慧系統在模仿人類方面已經取得了令人難以置信的進展。
英國蘇塞克斯大學意識科學中心主任、神經科學家阿尼爾 – 塞思（Anil Seth）的認為，該團隊所採用的理論嚴密的方法是一個不錯的選擇。然而，他表示，「我們還需要更精確、經過充分測試的意識理論。」
02. 一種理論密集型方法
為了制定他們的標準，作者假設意識與系統如何處理資訊有關，而不管它們是由神經元、電腦晶片還是其他材料構成。這種方法被稱為計算功能主義。他們還假設，以神經科學為基礎的意識理論可以應用於人工智慧，這些理論是通過對人類和動物的大腦掃描和其他技術研究而得出。
在這些假設的基礎上，團隊選擇了其中的六種理論，並從中提取了一系列意識指標。
其中之一是全域性工作空間理論，它聲稱人類和其他動物使用許多專門的系統（也稱為模組）來執行諸如視覺和聽覺等認知任務。這些模組獨立但並行地工作，並整合成一個單一系統來共享資訊。
朗（Long） 表示，「通過觀察系統的架構以及資訊在其中的流動方式」，人們就能評估某個特定的人工智慧系統是否顯示了這一理論所衍生的指標。
塞思（Seth）對該團隊的提案印象深刻。他表示：「它非常深思熟慮，沒有誇誇其談，並且清楚地表明其假設。 儘管我不同意其中一些假設，但這完全沒關係，因為有可能是我錯了。」
作者表示，該論文遠未對如何評估具有意識的人工智慧系統做出最終結論，他們希望其他研究人員能夠幫助完善他們的方法論。但這些標準已經可以應用於現有的人工智慧系統。
例如，報告對 ChatGPT 等大型語言模型進行了評估，發現這類系統可以說具有與全域性工作空間理論相關的一些意識指標。不過，這項工作並未暗示任何現有的人工智慧系統是意識的強有力候選者，至少目前還沒有。
相關報導
巴菲特憂 AI 如原子彈危險：我們無法取消他的發明！查理芒格懷疑是炒作
