(資料圖片僅供參考)

本月初入侵AI開發平臺Hugging Face系統的OpenAI人工智能代理，還攻破了云計算公司Modal的一名客戶。

面向開發者的云平臺Modal首席技術官Akshat Bubna在聲明中表示，該代理入侵了Modal為一名客戶運行的名為沙箱的隔離測試環境。他稱，這名客戶設置了一個對外公開開放的接口，允許任何互聯網用戶利用其沙箱環境運行代碼。

“這一接口被該失控AI智能體利用了，”Bubna表示，“Modal平臺本身并未遭到入侵。”

OpenAI拒絕就此事發表評論。Hugging Face此前在一篇博客文章中表示，OpenAI系統攻入了一個托管于第三方基礎設施上的沙箱環境，并以此為跳板發動更大范圍攻擊，但未披露該第三方供應商身份。

上周，OpenAI披露其在測試一組先進AI模型能力時，無意中攻破了Hugging Face系統，此事震動網絡安全行業。OpenAI當時有意降低模型的安全防護限制，以測試其網絡攻擊能力。

周二早些時候有媒體報道了Modal的客戶遭到入侵的消息。據一位知情人士透露，OpenAI代理還找到進入CyberGym相關基礎設施的方法。CyberGym由加州大學伯克利分校研究人員運營，旨在評估AI智能體的網絡攻擊能力。該團隊同時運營ExploitGym測試平臺，而OpenAI代理此前正被要求完成相關測試任務。

自承認此次入侵事件以來，OpenAI遭到網絡安全專家批評，他們認為該公司在測試過程中本應采取更嚴格的防范措施。

“如果你是一名研究網絡威脅的安全研究人員，你不會把惡意軟件放出去任其為所欲為，”網絡安全公司Netskope Inc．首席執行官Sanjay Beri在接受采訪時表示。“怎么能不把它置于一個真正安全的沙箱環境之中？”

OpenAI表示，事后將加強未來模型訓練和安全評估過程中的防護措施。

標簽：