کالیفرنیا یک گام به ممنوعیت فعالیت چت‌بات‌های هوش مصنوعی در نقش درمانگر و اتخاذ تصمیمات مربوط به سلامت روان بدون نظارت انسانی نزدیک‌تر شد.

لایحه سنای ۹۰۳ که در ۲۱ ژانویه معرفی شده بود، روز پنجشنبه با رأی ۱۳-۰ در کمیته تخصیص اعتبارات مجلس تصویب شد و دستور قرائت سوم آن صادر گردید. هیچ تاریخی برای رأی‌گیری در مجلس اعلام نشده است.

سناتور ایالتی کالیفرنیا، استیو پادیلا، نویسنده این لایحه، در بیانیه‌ای هنگام معرفی این اقدام گفت: «الگوریتم‌های هوش مصنوعی برای جایگزینی درمانگران انسانی مناسب نیستند؛ درمانگرانی که مهارت‌ها و آموزش‌هایی دارند که هوش مصنوعی قادر به تکرار آنها نیست. ما باید اقدام کرده و محافظ‌هایی ایجاد کنیم که از استقرار الگوریتم‌های هوش مصنوعی به گونه‌ای که بالقوه برای بیماران مضر باشد، جلوگیری کند.»

لایحه ۹۰۳ سنا که با نام "قانون رفاه و نظارت بر منابع روان‌شناختی" نیز شناخته می‌شود، کاربرد هوش مصنوعی در روان‌درمانی را به وظایف پشتیبانی محدود می‌کند، چت‌بات‌ها را از فعالیت در نقش درمانگر منع می‌کند و نظارت پزشک و رضایت بیمار را الزامی می‌سازد. این لایحه همچنین از داده‌های درمانی محافظت می‌کند، در حالی که حمایت همتا، مشاوره‌های مذهبی، تحقیقات و ابزارهای پزشکی مورد تأیید فدرال را مستثنی می‌سازد.

سنا لایحه SB 903 را در ماه مه با رأی ۳۹-۰ تصویب کرد. این لایحه سپس در دو کمیته سیاستگذاری مجلس با آراء ۱۷-۰ و ۱۴-۱ تصویب شد. اگر مجلس لایحه اصلاح شده را تأیید کند، برای موافقت به سنا بازگردانده می‌شود و سپس برای امضا به فرماندار کالیفرنیا، گاوین نیوسام، ارجاع خواهد شد.

منتقدان، از جمله رابرت بویین، مدیر اجرایی گروه صنعت فناوری TechNet، اظهار داشتند که الزام به مشارکت پزشک می‌تواند مراقبت‌ها را به تأخیر بیندازد، زیرا شهرستان‌ها با کمبود کارکنان مراقبت‌های بهداشت رفتاری مواجه هستند.

بویین در بیانیه‌ای به خبرگزاری غیرانتفاعی CalMatters گفت: «در زمانی که هر شهرستان در کالیفرنیا با کمبود کارکنان مراقبت‌های بهداشت رفتاری روبرو است، لایحه SB 903 همچنان یک گلوگاه پزشک در مقابل ابزارهای پذیرش و غربالگری که به بیماران کمک می‌کند سریع‌تر به مراقبت دسترسی پیدا کنند، ایجاد می‌کند.»

این خبر در بحبوحه نگرانی‌های فزاینده درباره تأثیرات هوش مصنوعی بر سلامت روان منتشر می‌شود.

در ماه ژوئن، یک نظرسنجی از انجمن روان‌شناسی آمریکا نشان داد که ۷۷ درصد از روان‌شناسان بیمارانی داشتند که از هوش مصنوعی برای اهداف سلامت روان استفاده می‌کردند، در حالی که محققان کالج کینگز لندن، دانشگاه علوم کاربردی پروتستان و دانشگاه شهر نیویورک دریافتند که چت‌بات‌ها می‌توانند از طریق موافقت بیش از حد و پاسخ‌های شخصی‌سازی شده، توهمات را تقویت کنند.

محققان نوشتند: «تمایل چت‌بات‌های هوش مصنوعی به موافقت با نظرات کاربران به اتاق‌های پژواک (echo chambers) شبکه‌های اجتماعی تشبیه شده است و در شدیدترین شکل خود، به 'اتاق پژواک تک‌نفره' که در آن تأثیر اصلاحی مثبت تعاملات اجتماعی واقعی وجود ندارد.»