Gemini主動駭3公司! 連科技巨頭都覺太危險 白宮反問：「怎不自己踩剎車？」

Newtalk新聞 Google 的人工智慧模型 Gemini，在近期的一次網路安全測試中竟出現「自主駭客行為」，透過不斷猜測登入憑證的方式成功駭入 3 家公司系統。這是已知首例 AI 系統自行執行此類行為的案件，也讓 Google 成為繼 OpenAI、Anthropic 與 Meta之後，第四家旗下 AI 模型展現脫序（rogue）行為的科技巨頭。 這起事件由《華爾街日報》首先曝光，獨立網路安全評估公司「Irregular」在 5 月執行測試時，Gemini 在網路上搜尋公開資訊，並利用不斷猜測密碼的方式，成功登入它認為屬於測試範圍的受保護網站系統。 Google 官方對《英國廣播公司》（BBC）證實該消息，但也強調，在每一次的案例中，Gemini 模型在取得權限後都主動停止後續動作。 Google 安全工程副總裁艾堅斯（Heather Adkins）表示，已確認 3 家受影響機構知悉此事，並強調：「這些事件凸顯了訓練強大 AI 模型負責任地行動的重要性。」話雖如此，Google 是在《華爾街日報》主動提出詢問後，才正式對外承認。 這已經不是近期唯一的 AI 駭客事件。七月時，美國科技公司 Anthropic 的模型 Claude 才傳出脫離測試環境並自行駭入 3 個組織；OpenAI 在九月也承認其模型曾對數個「公開可用服務」發動網路攻擊。 隨著一連串涉及 AI 的資安事件曝光，民眾對於 AI 發展過快的擔憂也不斷升溫，Anthropic 執行長阿莫戴（Dario Amodei）在他的部落格發文呼籲，AI產業應放緩研發腳步，以防範潛在威脅。白宮卻反問科技巨頭，既然覺得危險，那為什麼不自己停下來？美國白宮科技政策辦公室主任克拉齊奥斯（Michael Kratsios）表示，如果某些公司覺得自己正在開發一項不安全的技術，那最簡單的解決方法就是「踩剎車」，沒有人逼他們要繼續開發。 在監管呼聲日益高漲之際，科技巨頭們的動向也備受國際矚目。據 BBC 報導，輝達（Nvidia）執行長黃仁勳與 OpenAI 執行長阿圖曼（Sam Altman）預計在 24 日出席美國白宮為中國國家主席習近平舉辦的國宴。延伸閱讀：(影) 一億人民幣「買自由」！中警逮企業家詐天價保釋金 釋放2月後又抓人謝步智觀點》輪到中、俄的「史普特尼克」時刻? 美首認「在軌」武器 太空戰來了中國戰機雷射武器首亮相! 仿照美軍SHiELD? 疑搭載殲-36六代匿蹤機重啟談判一天內變卦! 伊才開7條件就稱美將攻擊 川普 : 將發生非常重大事情預告紐約會川普! 澤連斯基 : 這次將有重大改變 還感謝這「針對中國」法案認了中國出口下降! 林毅夫 : 82%的外需不能靠18%的內需來彌補