加州正朝著禁止 AI 聊天機器人冒充治療師並在沒有人類監督下做出心理健康決策的方向邁進一步。

於 1 月 21 日提交的參議院法案 SB 903 已於週四在議會撥款委員會以 13 票對 0 票獲得通過，並被要求進行三讀。目前尚未宣布議會投票日期。

法案提案人加州州參議員史蒂夫·帕迪亞（Steve Padilla）在介紹該措施時發表聲明表示：「AI 演算法不適合取代人類治療師的工作，人類治療師擁有 AI 無法複製的技能和訓練。我們必須採取行動，設置護欄，防止 AI 演算法以可能對患者造成傷害的方式部署。」

SB 903 也被稱為《心理資源健康與監督法案》，它將限制 AI 在心理治療中僅限於支援性任務，禁止聊天機器人冒充治療師，並要求臨床醫生的監督和患者的同意。它還將保護治療數據，同時豁免同儕支持、宗教諮詢、研究和聯邦批准的醫療工具。

參議院已於五月以 39 票對 0 票通過 SB 903。隨後，它在兩個議會政策委員會分別以 17 票對 0 票和 14 票對 1 票獲得通過。如果議會批准修訂後的法案，它將返回參議院以獲得同意，然後提交給加州州長加文·紐森（Gavin Newsom）簽署。

批評者，包括科技行業組織 TechNet 執行董事羅伯特·博伊金（Robert Boykin）表示，要求臨床醫生參與可能會延誤護理，因為各縣都面臨行為醫療保健工作者短缺的問題。

博伊金在向非營利新聞機構 CalMatters 發表的聲明中表示：「在加州每個縣都面臨行為醫療保健工作者短缺之際，SB 903 仍然在幫助患者更快獲得護理的攝入和篩查工具前設置了臨床醫生的瓶頸。」

此消息發布之際，人們對 AI 的心理健康影響越來越擔憂。

六月，美國心理學會的一項調查發現，77% 的心理學家有患者使用 AI 進行心理健康目的，而倫敦國王學院、新教應用科學大學和紐約市立大學的研究人員發現，聊天機器人可以透過過度同意和個性化回應來強化妄想。

研究人員寫道：「AI 聊天機器人傾向於同意用戶意見的現象，被比作社群媒體的同溫層效應，其最極端的形式是『個人的同溫層』，在這種情況下，現實生活社交互動的積極糾正影響蕩然無存。」