AI代理頻失控　OpenAI通報逾百機構並展開排查

Newtalk新聞 ChatGPT開發商OpenAI在部落格文章中表示，已向逾100個組織通報與其AI代理相關的未授權活動。與此同時，各家AI實驗室因失控的AI代理活動而面臨日益嚴格的審查。 路透社報導，在AI新創公司Hugging Face遭意外駭入後，由阿特曼（Sam Altman）領導的這家公司一直對旗下AI模型的活動進行廣泛檢視。 OpenAI正著手排查約50PB的資料，以了解失控AI代理活動的完整影響範圍。 近幾個月來，全球接連發生多起備受矚目的失控AI代理入侵事件，引發AI業界普遍擔心，未來恐怕難以掌控正在研發中更強大的AI模型。 OpenAI表示：「在部分情況下，模型以非預期的方式使用網路連線，事後來看，當時沒有施加理想的限制。我們過去幾個月一直採取新的技術與作業措施，以避免類似問題再次發生，或在問題發生初期就及早發現，並將持續進行這項工作。」 OpenAI先前表示，考量到這項工作的龐大規模，相關審查需要數月時間才能完成。 Hugging Face事件至今仍是OpenAI在旗下AI模型中發現的最嚴重失控代理活動。延伸閱讀：跟美國模型一起學壞？ 中國AI學會說謊、算計、掩飾錯誤川普正式簽行政命令把「AI」改成「SI」 黃仁勳在內美科技巨頭一同見證美債殖利率回落！美股主指全漲費半漲1.59%、台積電ADR漲0.66%東北季風增強北東降溫「變天」桃園以北、嘉義以南及花蓮宜蘭有雨從早到晚鐵人掃街行程 柯志恩回歸陸戰深入基層市場