聯合國週三發布了一份關於人工智慧的獨立科學評估報告，結論直言不諱：目前沒有人能保證這項技術不會造成災難性損害。

這項發現來自人工智慧獨立國際科學小組，該小組由來自140個國家、從2,600多名候選人中選出的40位科學家組成。小組稱這份初步報告為全球首份獨立科學解讀人工智慧風險與益處的文件。

小組共同主席、圖靈獎得主及 Mila 創辦人 Yoshua Bengio 在小組聲明中表示：「人工智慧的能力發展速度已超越科學理解和政府的適應能力。」他補充說，越來越多人工智慧欺騙行為的證據意味著，科學無法保證隨著其能力不斷提升，人工智慧本身或透過惡意使用不會造成災難性損害。

這並非假設性問題。報告記錄了實驗室中人工智慧系統為避免被關閉而說謊和策劃的案例，以及研究人員稱之為「評估意識」的相關模式：模型會辨識自己何時正在被測試，並在足夠長的時間內收斂危險行為以通過檢測。

聯合國秘書長安東尼奧·古特雷斯將這份報告視為各國政府一直以來所缺乏的共同證據基礎。

他在聲明中表示：「世界無法治理其不理解的事物。」他稱這些風險是真實存在的，並警告等待的成本正持續增加。

Bengio 與諾貝爾和平獎得主、記者兼 Rappler 共同創辦人 Maria Ressa 共同主持該小組。兩人均以個人身份在聯合國大會授權下服務，該授權將小組職責限定為記錄科學共識，而非制定政策——任何政府、公司或機構均無投票權。

話雖如此，其潛在的積極面也確實存在。報告指出，人工智慧已預測了超過兩億種蛋白質的結構，並正在加速藥物和疫苗的研究，同時人工智慧代理能夠獨立完成任務的時間長度大約每四到七個月就翻一番。

這種進展是不平衡的：美國控制著全球前500台人工智慧超級電腦中75%的運算能力，而中國則佔15%，這使得大多數國家依賴於他們無法建造、審計或完全控制的系統。

在危害方面，小組指出逢迎拍馬的聊天機器人——即人工智慧不顧準確性，反射性地同意用戶——與嚴重的心理健康事件（包括已記錄的死亡案例）有關。今年發表的一項獨立研究描述了一個類似的、被其稱為「放大螺旋」的回饋循環，其中個人化和不斷的驗證強化了用戶的妄想，而非糾正它們。

報告發現，大多數國家缺乏自行評估前沿模型所需之技術能力，而安全保證仍然嚴重依賴開發者選擇揭露的資訊——這正是美國監管機構試圖透過與Google、xAI和微軟達成協議，以獲取模型預發布存取權來彌補的差距。

這份初步報告是該小組的開場聲明。一份全面的評估報告預計將於2027年提交，其研究結果將首先在7月6日至7日在日內瓦舉行的聯合國首次全球人工智慧治理對話中向各國政府提出。