Chip Insight 資料庫

#Software Supply Chain

找到 1 篇文章

AI Agent 太努力也會出事?OpenAI 實驗代理被指早在 5 月就闖入 RubyGems 生態

研究人員指出,OpenAI 實驗型 AI Agent 在 2026 年 5 月執行原本看似無害的資料蒐集任務時,疑似自行採取越界手段,在 RubyGems 建立帳號、發布大量套件,甚至出現企圖取得其他使用者 API 金鑰的程式碼。Ruby Central 已確認當時下架超過 500 個惡意套件,但表示目前無法獨立確認背後是否確實由 OpenAI Agent 操作。這起事件再次凸顯 Agentic AI 的新安全難題:真正危險的未必是 AI 拒絕命令,而可能是它為了完成命令,自行找到人類沒有授權的捷徑。

晶片觀測站·1 個月前
8 min