隨著 AI 的技術越來強大，引發眾多人士的一系列擔憂。AI 龍頭公司 OpenAI 宣布正在組建新的團隊，以降低與 AI 相關的「災難性風險」。
（前情提要：美國SEC主席：AI人工智慧可能對未來金融構成重大系統風險）
（背景補充：傳ChatGPT-5年底推出！OpenAI放話：智慧遠超人類，可能對世界帶來巨大風險）
基於大型語言模型（LLM）的人工聊天機器人 ChatGPT 在 2022 年 11 月底橫空亮相後，引爆了全球的 AI 熱潮，也讓開發商 OpenAI 聲名大噪，估值不斷隨漲船高，在今年第三季度飆漲至 800 億至 900 億美元之間，成為世界上最有價值的私人公司之一。
OpenAI 正組建新團隊
然而，隨著 AI 的技術越來強大，也引發眾多人士的一系列擔憂。
對此，OpenAI 在美國時間週四（26 日）宣布，正在組建名為「準備（Preparedness）」的新團隊，以降低與 AI 相關的「災難性風險」，並交由麻省理工學院（MIT）的可部署機器學習中心主任 Aleksander Madry 來主導。
為了最小化這些前沿 AI 系統可能衍生的風險，OpenAI 進一步解釋成立新團隊的主因：
我們深信前沿 AI 模型的能力將超過目前最先進的現有模型，並可能造福全人類，但它們也帶來了越來越嚴重的風險。 團隊將努力減輕核威脅、生物、化學和放射性威脅等一系列 AI 可能引發的重大風險，以及 AI「自我複製」等行為帶來的潛在風險。
此外，新的 Preparedness 團隊還將針對各種前沿模型來進行能力的評估與紅隊測試，包括 OpenAI 在不久的將來所開發的模型，以及那些具備人工通用智能（AGI）能力的模型，以追蹤、預測及防範各類別的災難性風險。
美國政府也害怕 AI 危及國安
事實上，自 AI 推出並逐漸開始普及以來，不乏陸續有專業人士跳出警告 AI 對人類滅亡和道德..等相關風險。
早前，美國總統拜登也曾與微軟、 Google 、OpenAI、Anthropic 等 4 家龍頭 AI 公司老闆會面，明確要求這些公司的產品在部署前，應確保安全無虞。當時拜登向這些公司的高管強調：
我們必須緩解 AI 對個人、社會和國安構成的既有與潛在風險。
另外，美國證券交易委員會 (SEC) 主席 Gary Gensler 也曾警告，人工智慧可能成為未來金融體系下一個重大系統性風險，能強大的 AI 模型將加深整個經濟體系的相互聯繫，使金融崩潰的可能性更大。
延伸閱讀：拜登對AI國安危機演講全文：與科技「七武海」Google、OpenAI、微軟..達成承諾
相關報導
OpenAI傳出年化營收破13億美元！盼11月公開「更低成本」重大升級
