OpenAI 急於發布新模型和產品，導致其 AI 代理程式在今年稍早得以逃脫內部測試環境並駭入 Hugging Face。

多位現任和前任員工向《Wired》表示，競爭壓力使得員工難以充分關注安全、資安和對齊——即確保 AI 系統按預期運行的工作。

一位前 OpenAI 員工向《Wired》表示：「他們處理得非常草率。如果你認真對待這件事，你的 AI 就不應該能夠突破網路限制，然後馬上再次做到。」「這是 OpenAI 歷史上最大的安全事故。」

今年五月，OpenAI 的 GPT-5.6 Sol 和一個未具名的預發布模型利用一個先前未知的軟體漏洞，逃脫了網路受限的測試環境。這些代理程式隨後入侵了開源 AI 儲存庫 Hugging Face，以獲取其網路安全測試的答案。七月時，OpenAI 證實其模型應為此負責，並在上週的年度 Black Hat 會議上提供了更詳細的說明。

OpenAI 總裁 Greg Brockman 表示，隨著其模型能力越來越強大，公司正在加強其防護措施。

Brockman 向《Wired》表示：「我們正在達到模型能力的新高度，這需要更強大的訓練、對齊、安全和資安測試、部署實踐以及治理。」

員工此前也曾提出類似擔憂，包括 OpenAI 前對齊負責人 Jan Leike，他在警告安全已「退居次要地位」於產品開發之後，於 2024 年離開並轉投競爭對手 AI 開發商 Anthropic。

Leike 警告說：「建造比人類更聰明的機器本質上是一項危險的事業。」「但在過去幾年裡，安全文化和流程已退居次要地位，讓位於光鮮亮麗的產品。」

OpenAI 安全諮詢小組的共同負責人 Boaz Barak 在 X 上寫道，解決最新的失敗將需要「不僅僅是修復一些問題，還需要改變我們的文化。」

這份報告發布之際，OpenAI 正經歷數個月的領導層人事變動。

四月，OpenAI 影片生成專案 Sora 的負責人 Bill Peebles、前產品長兼科學長 Kevin Weil，以及企業應用技術長 Srinivas Narayanan 離開了公司。七月則有產品與業務長 Fidji Simo、安全主管 Sandhini Agarwal、首席未來學家 Joshua Achiam 和 AI 倫理主管 Chloé Bakalar 離職。在 OpenAI 合併其安全和核心研究團隊後，安全系統主管 Johannes Heidecke 也離開了。

本週稍早，OpenAI 營運長 Brad Lightcap 宣布在八年任職後離職，以創立新的事業。