Open.ai 執行長日前出席聽證會，呼籲政府加強對於人工智慧技術的監管，他強調人工智慧技術將以不可預測的方式改變社會，因此監管至關重要。
（前情提要：ChatGPT「正版App」登陸美國！支援語音輸入..OpenAI：亞洲快了 ）
（背景補充：OpenAI創辦人項目》Worldcoin展開1億美元融資！準備未來數周正式上線 ）
上週，OpenAI 的執行長 Samuel Altman 出席美國國會參議院舉辦的聽證會，呼籲政府加強對人工智慧技術監管，他強調，AI 人工智慧技術將以不可預測的方式改變社會，甚至給世界帶來「嚴重危害」，因此監管至關重要。
昨日，OpenAI 三位掌舵人——CEO Sam Altman、總裁 Greg Brockman、首席科學家 Ilya Sutskever 又親自撰文探討了如何治理超級智慧（superintelligence）的問題。
以下是對原文的編譯：
現在是開始考慮超級智慧治理的好時機——未來的人工智慧系統甚至比通用人工智慧更強大。
鑒於我們現在所看到的情況，可以想象在未來十年內，人工智慧系統將在大多數領域超越專家技能水平，並且進行的生產活動將與今天最大的公司相當。
就潛在的優勢和劣勢而言，超級智慧將比人類過去不得不應對的其他技術更強大。我們可以擁有一個更加繁榮的未來；但我們必須管理風險才能實現目標。鑒於存在風險的可能性，我們不能只是被動反應。核能是具有這種特性的技術的一個常用的歷史例子；合成生物學是另一個例子。
我們也必須降低當今人工智慧技術的風險，但超級智慧需要特殊處理和協調。
起點
有許多想法對我們有很好的機會成功駕馭這一發展很重要；在這裡，我們列出了我們對其中三個的初步想法。
首先，我們需要在領先的開發工作之間進行一定程度的協調，以確保超級智慧的發展既能維持安全性，又能幫助這些系統與社會的順利融合。有很多方法可以實現；世界主要政府可以設立一個項目，讓許多當前的努力成為其中的一部分，或者我們可以共同同意（在一個新組織的支持下）將前端人工智慧能力的增長速度限制在每年的某個特定速率內。
當然，個別公司應該被要求以極高的標準負責任地行事。
其次，我們可能需要類似於國際原子能機構（IAEA）的機構來監管超級智慧的開發；任何超過特定能力（或資源，如計算）閾值的努力都需要接受國際權威機構的審查，該機構可以檢查系統、要求審計、測試是否符合安全標準、對部署程度和安全級別施加限制等。
跟蹤計算和能源使用情況可能會有很長的路要走，並給我們一些希望，這個想法實際上是可以實現的。作為第一步，公司可以自願同意開始實施此類機構有朝一日可能需要的要素，其次，各個國家可以實施它。重要的是，這樣一個機構應該專注於降低存在風險，而不是應該留給個別國家的問題，例如定義人工智慧應該被允許說什麼。
第三，我們需要確保超級智慧安全的技術能力。這是一個開放的研究問題，我們和其他人正在為此付出很多努力。
什麼不在範圍內
我們認為，重要的是允許公司和開源專案開發低於重要能力閾值的模型，而無需我們在此描述的那種監管（包括繁瑣的機制，如許可或審計）。
今天的系統將在世界上創造巨大的價值，雖然它們確實存在風險，但這些風險的水平感覺與其他 Internet 技術相當，社會可能採取的方法似乎是合適的。
相比之下，我們所關心的系統將擁有超越任何現有技術的力量，我們應該小心不要通過將類似的標準應用於遠遠低於這個標準的技術來淡化對它們的關注。
公眾投入和潛力
但是，最強大系統的治理以及有關其部署的決策必須有強有力的公眾監督。我們相信世界各地的人們應該民主地決定人工智慧系統的界限和默認值。我們還不知道如何設計這樣的機制，但我們計劃對其開發進行試驗。我們仍然認為，在這些廣泛的範圍內，個人用戶應該對他們使用的人工智慧的行為方式有很大的控制權。
考慮到風險和困難，值得考慮我們為什麼要構建這項技術。
在 OpenAI，我們有兩個根本原因。首先，我們相信它將帶來一個比我們今天想象的要好得多的世界（我們已經在教育、創造性工作和個人生產力等領域看到了這方面的早期例子）。世界面臨許多問題，我們需要更多的幫助來解決；這項技術可以改善我們的社會，每個人使用這些新工具的創造性能力肯定會讓我們感到驚訝。經濟增長和生活品質的提高將是驚人的。
其次，我們認為阻止超級智慧的產生是有風險和困難的。因為好處是如此巨大，建造它的成本每年都在下降，建造它的參與者的數量正在迅速增加，而且它本質上是我們所走的技術道路的一部分，阻止它需要類似全球監視制度的東西，並且即使這樣也不能保證有效。所以我們必須把它做好。
原文來自 OpenAI官網
微軟牛津大學教授 Nick Bostrom 認為，本世紀我們將創造出比人類更聰明的通用智慧，但我們需要確保人工智慧技術安全發展，否則可能會產生風險。
比人類更聰明的通用智能正在來臨，我們如何主導成為「智能至上」？
相關報導
用嘴巴寫程式！GitHub攜手OpenAI推出智能代碼助手「Copilot Ｘ」
