Sinabi ni Anthropic CEO Dario Amodei nitong Miyerkules na hindi na maaaring ituring ng mga gobyerno ang regulasyon ng AI bilang isang problemang pag-aaralan at kailangan ng Estados Unidos ang mga nagbubuklod na kinakailangan sa kaligtasan para sa pinakamakapangyarihang mga modelo ng AI.

Sa sanaysay, na pinamagatang "Patakaran sa AI Exponential," iginiit ni Amodei na hindi na sapat ang mga kinakailangan sa transparency at nanawagan siya para sa nagbubuklod na regulasyon ng mga frontier AI system.

“Ang AI ay umuusad nang napakabilis—sa loob lamang ng apat na taon, ang mga modelo ng AI ay nagmula sa halos hindi makasulat ng isang magkakaugnay na linya ng code hanggang sa pagsusulat ng karamihan sa code sa mga pangunahing kumpanya ng AI,” isinulat ni Amodei.

Dumating ang sanaysay ni Amodei habang pinalalawak ng Anthropic ang access sa Claude Mythos sa paglulunsad ng Mythos 5 noong Martes, ang restricted frontier AI model nito para sa mga organisasyon ng cybersecurity at mga kasosyo sa gobyerno. Natuklasan ng mga mananaliksik, kabilang ang UK’s AI Security Institute, na kaya nitong autonomous na magsagawa ng kumplikadong cyber attacks.

Ayon kay Amodei, ang kanyang panukala ay hiniram mula sa regulatory structure na ginagamit ng Federal Aviation Administration.

“Ang mga frontier AI model, tulad ng mga eroplano, ay dapat dumaan sa teknikal na pagsubok at pag-audit, at ang kanilang paglabas ay dapat hadlangan o baligtarin bilang banta sa kaligtasan ng publiko kung hindi sila makakatugon sa matataas na pamantayan ng kaligtasan,” isinulat niya. “Nagpapasalamat ako na makita ang Executive Order ng administrasyong Trump na unti-unting lumalapit sa isang mas malaking papel para sa gobyerno sa AI, bagaman inirerekomenda ng panukala ng Anthropic ang mas marami pang aksyon.”

Sa ilalim ng panukala ni Amodei, ang isang regulatory framework ay mangangailangan ng mandatoryong third-party testing ng mga advanced na AI model, awtoridad ng gobyerno na harangan ang mga hindi ligtas na deployment, at mga kinakailangan na protektahan ng mga kumpanya ang model weights, magsagawa ng safety testing, at mag-ulat ng mga seryosong insidente. Nanawagan din siya sa mga gobyerno na maghanda para sa AI-driven job displacement at mga pag-unlad sa drug development, limitahan ang surveillance at autonomous weapons sa domestic law enforcement, at palakasin ang kooperasyon sa pagitan ng mga demokratikong bansa sa mga kritikal na teknolohiya ng AI.

“Una, ang matagalang job displacement ay hindi kanais-nais at mapanganib, at dapat nating gawin ang lahat upang mabawasan o mapigilan ito, hindi upang maging sanhi nito,” isinulat niya, tinutukoy ang mga nakaraang pagkakataon kung saan siya nagbabala tungkol sa job displacement. “Pangalawa, ang anumang tugon sa AI-driven job displacement ay kailangang tugunan ang pangangailangan na magbigay para sa lahat sa ekonomiya, at ang pangangailangan para sa mga tao na makahanap ng kahulugan, layunin, at ahensya.”

Dumating din ang sanaysay sa parehong linggo nang ilunsad ng Anthropic ang Claude Fable 5, isang public-facing na bersyon ng Claude Mythos 5, na nagruruta ng ilang request na kinasasangkutan ng cybersecurity, biology, chemistry, at AI development sa mas mababang kakayahang Claude Opus 4.8 bilang pananggalang laban sa maling paggamit. Nakakuha ng kritisismo ang paglulunsad mula sa mga developer at mananaliksik dahil sa mas mataas na token usage ng Fable, mandatoryong 30-araw na data-retention requirements, at mga pananggalang na maaaring bawasan ang mga kakayahan ng modelo nang hindi inaabisuhan ang mga user.

Ang panawagan ni Amodei para sa mga pagbabago sa patakaran sa pagpapaunlad ng AI ay dumating din habang naghahanda ang Anthropic na maging public. Mas maaga ngayong buwan, naghain ang kumpanya ng paperwork sa U.S. Securities and Exchange Commission para sa isang initial public offering matapos magtaas ng iniulat na $65 bilyong Series H round sa iniulat na $965 bilyong valuation.

Bagaman inilarawan ni Amodei ang isyu bilang isang karera sa pagitan ng teknolohikal na pag-unlad at pampublikong patakaran, kinukwestiyon ng mga kritiko kung ang mga panawagan para sa mas mahigpit na regulasyon ng AI ay talagang nagsisilbi sa kabutihan ng publiko. Noong Abril, inakusahan ni OpenAI CEO Sam Altman ang Anthropic ng paggamit ng "fear-based marketing" upang i-promote ang Claude Mythos, na nangangatwiran na ang mga alalahanin tungkol sa advanced AI ay maaaring gamitin upang bigyang-katwiran ang pagpukpok ng kontrol ng teknolohiya sa isang maliit na bilang ng mga kumpanya.

“Maaari mong bigyang-katwiran iyon sa maraming iba’t ibang paraan, at ang ilan sa mga ito ay totoo, tulad ng magkakaroon ng lehitimong alalahanin sa kaligtasan,” sabi ni Altman. “Ngunit kung ang gusto mo ay 'kailangan natin ng kontrol sa AI, tayo lang, dahil tayo ang mga mapagkakatiwalaang tao', sa palagay ko ang fear-based marketing ang marahil ang pinakamabisang paraan upang bigyang-katwiran iyon.”

Tinanggihan ni Amodei ang ideya na ang mga alalahanin tungkol sa advanced AI ay pangunahing problema sa public relations, na iginiit sa halip na ang mga takot tungkol sa teknolohiya ay sumasalamin sa lehitimong alalahanin na dapat tugunan.

“Nag-aalala ang mga tao tungkol sa AI dahil tama nilang napagtanto na totoo ang mga panganib nito, hindi dahil ang mga CEO ng AI ay hindi sapat na Panglossian,” sabi niya, na tumutukoy sa kathang-isip na pilosopo na si Pangloss mula sa Candide ni Voltaire, na kilala sa pagpapanatili ng walang pag-aalinlangan na optimismo na ang lahat ay para sa ikabubuti anuman ang sitwasyon.

“Naniniwala ako na tungkulin ko bilang isang lider ng AI na patuloy na maging transparent tungkol sa mga panganib na ito, at ang pag-aalala ng publiko bilang tugon sa transparency na ito ay bumubuo ng demokratikong pananagutan na gumagana tulad ng nararapat,” sabi niya.