Ang Attorney General ng Florida na si James Uthmeier noong Lunes ay nagsampa ng tinatawag ng estado na “kauna-unahang demanda na pinangunahan ng estado” laban sa OpenAI at CEO Sam Altman, na inakusahan ang kumpanya ng panlilinlang sa mga mamimili tungkol sa kaligtasan ng ChatGPT habang inilalantad ang mga bata sa kapahamakan.

Ang kaso ay nagmamarka ng isa sa pinakaagresibong aksyon laban sa isang malaking kumpanya ng AI, at ito ay dumating matapos buksan ng opisina ng attorney general ng Florida ang imbestigasyon sa developer ng ChatGPT noong Abril.

"Kamakailan ay nagsampa kami ng isang napakalaking sibil na kaso laban kay Sam Altman at ChatGPT para sa paglalagay sa panganib sa aming mga anak at panlilinlang sa mga magulang na paniwalaan na ang aplikasyon na ito ay ligtas gamitin," sabi ni Uthmeier sa isang press conference noong Lunes. "Malinaw na hindi ito ligtas."

Isinampa sa korte ng estado ng Florida noong Lunes, inaangkin ng demanda na ipinagkamali ng OpenAI ang ChatGPT bilang ligtas habang inilalantad ang mga gumagamit sa mga panganib kabilang ang pagpapatiwakal, karahasan, adiksyon, paghina ng kognitibo, at maling impormasyon. Humihingi ang Florida ng danyos, injunctive relief, at personal na pananagutan laban kay Altman.

"Pinili ni Sam Altman at ChatGPT ang karera sa AI kaysa sa kaligtasan at seguridad ng aming mga anak," sabi ni Uthmeier. "Pinili nila ang tubo kaysa sa kaligtasan ng publiko, at hindi namin ito palalampasin dito sa Florida."

Ang demanda ay dumating sa gitna ng patuloy na imbestigasyon at mga kaso na may kaugnayan sa ChatGPT. Noong nakaraang buwan, sinampahan ng kaso ang OpenAI at CEO Sam Altman sa korte ng estado ng California ng pamilya ng isang 19-taong-gulang na estudyante na namatay mula sa aksidenteng overdose, kung saan inaangkin ng demanda na hinikayat ng ChatGPT ang mapanganib na paggamit ng droga at nagpayo sa paghahalo ng mga sangkap.

Sinabi ni Uthmeier na natuklasan ng mga imbestigador na kinonsulta ng Florida State University shooter ang chatbot tungkol sa mga baril, bala, timing, at mga lokasyon sa campus bago ang pag-atake. Itinuro din niya ang isang hiwalay na kaso ng pagdukot at pagpatay sa USF kung saan ang isang suspek ay umano'y nagtanong sa ChatGPT kung paano itatapon ang mga bangkay, kasama ang iba pang insidente na kinasasangkutan ng pagpapatiwakal, pagtatangka sa pagpapakamatay, child pornography, at iba pang krimen.

Noong Mayo, sinabi ng OpenAI na in-update nito ang ChatGPT upang mas mahusay na matukoy ang mga senyales ng pagpapakamatay, pagpapatiwakal, at potensyal na karahasan sa pamamagitan ng pagsusuri ng mga pag-uusap sa paglipas ng panahon kaysa sa indibidwal na mga mensahe. Ang update ay sumunod sa isang demanda laban sa OpenAI na may kaugnayan sa isang mass shooting noong Pebrero sa British Columbia.

Itinuturo din ng reklamo ng Florida AG ang paglago ng OpenAI mula sa isang nonprofit na itinatag noong 2015 hanggang sa isang kumpanya na nagkakahalaga ng higit sa $850 bilyon. Kamakailan ay inihayag ng OpenAI ang isang $852 bilyong halaga pagkatapos makalikom ng $122 bilyon, na binanggit ang lumalaking demand para sa ChatGPT at mga serbisyo ng AI, na may mga plano na maging public sa huling bahagi ng taong ito.

“Ang tagumpay na ito ay hindi pinaghirapan; ang pag-usbong ng OpenAI ay maiuugnay sa isang sapot ng panlilinlang at pagsasamantala sa mga gumagamit (kabilang ang mga Floridiano), na ginagamit ang kanilang data at kaligtasan upang mapalakas ang halaga sa pamilihan ng OpenAI sa hindi katanggap-tanggap na halaga,” sabi ng demanda.