Anthropic執行長Dario Amodei與摩根大通（JPMorgan Chase）執行長Jamie Dimon週二進行了一場討論，重點關注人工智慧帶來越來越嚴峻的網路安全威脅，因為AI發現漏洞的速度比組織修復的速度更快。

在Anthropic進軍金融服務的近兩小時活動中（該公司在此活動中推出了用於製作銷售手冊、收益審查和合規工作的AI代理），Amodei表示，在類似功能廣泛普及之前，可能有6到12個月的時間來解決其Mythos模型發現的數萬個缺陷。

Amodei說：「危險在於漏洞數量、資料洩露次數以及勒索軟體對學校、醫院，更不用說銀行造成的經濟損失，都將大幅增加。」

Amodei的最新聲明是繼先前與Mozilla的測試之後發布的，當時Mythos的早期版本一次掃描就在Firefox瀏覽器中發現了271個漏洞，顯示AI掃描大型程式碼庫的速度遠超人類研究人員。

Anthropic表示，該模型可以發現廣泛使用的軟體中數千個先前未知的弱點。許多弱點仍未公開，因為它們尚未修補，導致缺陷懸而未決。

Amodei說：「如果我們在尚未修復之前就公布某些內容，那麼不法分子就會加以利用。」

在受控測試中，Mythos無需人工干預即可完成多步驟網路攻擊模擬，展示了從識別弱點到利用弱點的能力。

Anthropic已將該模型限制在Glasswing計畫下的一小部分合作夥伴使用，旨在在類似工具廣泛普及之前修復這些漏洞。

研究人員表示，Mythos的部分功能可以使用現有模型和開源技術重現，這表明類似工具的傳播速度可能比預期更快。

這些警告引發了業內的質疑。OpenAI執行長Sam Altman在四月份表示，對Mythos的擔憂可能言過其實，並暗示Anthropic正在利用「恐懼行銷」來誇大風險並為限制技術使用權辯護。

Altman說：「你可以用很多不同的方式來為此辯護，其中有些是真實的，例如確實會存在合法的安全疑慮。」「但如果你想要的是『我們需要控制AI，只有我們，因為我們是值得信賴的人』，我認為恐懼行銷可能是最有效的辯護方式。」

儘管遭到反對，且Anthropic與其存在公開爭執，據Axios報導，美國政府據稱正在使用Claude Mythos掃描機密網路以尋找漏洞並測試其網路安全能力。雖然Amodei沒有談及正在進行的法律戰，但他表示Anthropic「對這個國家有益」。

Amodei說：「我認為Anthropic的觀點一直以來都沒變。在政治化方面，這就是我所說的要簡化、系統化並公平對待所有人。」「法律的目的以及不隨意行事，是為了讓所有公司，至少在原則上（我知道實踐起來更複雜），都受到相同的對待，我們應該為此努力，即使它永遠不會完美實現。」

Amodei將此時刻視為一個行動的狹窄窗口，警告組織回應的速度可能決定風險是升級還是得到控制。

Amodei說：「這是一個危險時刻，如果我們正確應對，而且我認為我們已經開始採取第一步，那麼我們就能迎向一個更美好的世界。」「畢竟漏洞的數量是有限的。」