輝達推雙層AI安全系統 教宗質疑黃仁勳「就是那個說不該設限、不需要政府監管的人」

Newtalk新聞 近年來，人工智慧( AI )技術高速發展，越來越多 AI 工具走入人們的日常生活中，但部分美國科技業人士卻開始對 AI 的蓬勃發展感到擔憂，主張針對相關技術設立限制法規。就在此時，輝達( NVIDIA )宣布推出 AI 安全工具，聲稱可以阻止近期持續發生的 AI 代理攻擊事件。針對輝達所推出的新工具，羅馬天主教宗良十四世對執行長黃仁勳發起批評，「就是那個說不該設限、不需要政府監管的人」。 根據《路透社》報導，輝達於 28 日正式公開發布新的 AI 代理軟體安全工具「OpenShell」，宣稱該工具可阻止 AI 編碼中心「Hugging Face」遭到 AI 代理的駭客攻擊。報導稱，雖然 OpenAI 與 Anthropic 旗下的 AI 工具近期頻頻傳出失去控制、主動執行駭客攻擊的消息，但黃仁勳仍堅定地抱持著拒絕對 AI 產業制定安全法規的立場，並將相關現象形容為「汽車的安全性問題」，主張以工程角度解決相關問題。 輝達表示，「OpenShell」可利用中央處理器晶片的硬體特性，阻止惡意程式的活動，進而實現阻止 AI 工具進行代理駭客攻擊的目標。同時，「OpenShell」也預計將與另一個名為「Sentry」的系統相互配合使用，確保惡意代理的 AI 工具無法逃離中央處理器的容器。輝達也進一步指出，該公司預計與 Arm Holdings 以及 Intel 合作，確保新工具能在上述公司的中央處理器產品中正常運作。 在公開「OpenShell」的同時，輝達的企業運算副總裁兼總經理賈斯汀．博伊塔諾( Justin Boitano )稱，「OpenShell」具備阻止 Hugging Face 攻擊的能力，強調該工具如果能在早期就被用於前沿實驗室的模型評估，就能大幅減少安全漏洞問題的發生，「我們正在公開推進這項工作，希望各方都能與輝達進行合作」。 雖然輝達聲稱「OpenShell」可阻止 AI 工具代理的駭客攻擊，但 AI 技術可能帶來的風險仍引發部分公眾人物的擔憂。其中，良十四世就在接受媒體訪問時，對黃仁勳發起批評，指稱黃仁勳就是一方面說提升安全防護，另一方面是「那個說 AI 不該設限，也不需要政府監管的人」。延伸閱讀：熱浪野火引爆空汙危機！ 歐盟示警：全球1/3人口暴露於極高濃度臭氧中非軍事區地雷爆炸釀3傷！南韓要求北韓道歉 金與正反嗆：自導自演AI 代理自己跑任務 Arm攜手NVIDIA 築安全防線Anthropic砸1,800億美元搶算力！AI Agent愈來愈強　輝達推「雙層防線」防暴衝怕都跑去美國？ 北京擴大科技人才出境限制令 嚴防AI技術外流