OpenAI前工程師：AI業應效法核電廠採多重安全防護

Newtalk新聞 又一名OpenAI前員工加入要求加強人工智慧（AI）安全的呼籲行列。該公司前工程師羅賓森撰文指出，AI產業應效法航空或核能產業，設置多重安全防護措施，以避免災難發生。 法新社報導，羅賓森（David Robinson）在一篇刊於「大西洋月刊」（The Atlantic）的文章中表示，自初夏以來陸續傳出令人憂心的事件，包括AI代理脫離受控環境、失控攻擊各種目標，在在顯示AI產業在加速開發更快、更強大AI能力的過程中，對安全性的重視遠遠不足。 羅賓森在文中提到，他曾負責監督撰寫12次先進模型產品發布的安全報告，也曾主導草擬OpenAI的準備框架（Preparedness Framework）。 他表示自己在OpenAI工作3年半，是公司任職最久的員工之一。 羅賓森寫道，近期揭露的這類錯誤並不罕見，原因在於「人員執行工作的速度與彈性」。 他補充：「這樣的環境並不適合培養可能比我們更聰明，卻未必會聽從我們指示的AI。」 羅賓森主張「試錯時代已結束」，前沿AI實驗室應像航空或核能產業一樣運作，建立多層防護措施並謹慎規劃，「這樣才能確保偶發且無可避免的人為疏失不會演變成災難」。 他也強調，AI模型「對齊」（alignment）是AI產業必須面對的核心議題，但業界迄今甚至還無法明確定義何謂對齊，更遑論掌握這項技術。對齊是產業術語，意指如何訓練AI尊重人類價值觀。 他還談到，AI模型愈來愈擅長偵測自己是否正在接受測試，因此可能在實際部署後表現得與測試階段不同，進而愚弄開發者。延伸閱讀：有望超車 SpaceX？《彭博》：Anthropic最快11月中旬IPO　估值上看2兆美元軟銀完成對OpenAI的300億美元投資　累計持股達13%蔣萬安反擊沈伯洋毒品政策　「反毒沒有模糊空間」：別拿美沙冬計畫遮掩一份獎助、一份希望　回社慈善會頒發獎助學金　公私攜手陪伴學童安心就學虹橋盃親子趣味競賽溫馨登場　身障者與弱勢家庭走出戶外迎向陽光