Ginugol ng Anthropic ang halos 48 oras bilang kontrabida ng linggo ng industriya ng AI bago sumuko.

Inilunsad ng kumpanya ang Claude Fable 5 ngayong linggo at kaagad na umani ng pagtutol dahil sa isang pananggalang na nakabaon sa 319-pahinang system card nito: Ang modelo, ang una sa bagong Mythos class ng kumpanya, ay lihim na pabababain ang kalidad ng sarili nitong mga tugon para sa mga user na pinaghihinalaan nitong gumagawa ng nakikipagkumpitensyang mga AI model—walang babala, walang mensahe ng paglipat, tahimik lang na mas masamang output. Pagsapit ng Huwebes, humihingi na ng tawad ang Anthropic.

"Ang di-nakikitang mga pananggalang ay maaaring targetin nang mas tiyak, na nagbibigay-daan sa amin na mabilis na magpadala na may napakakaunting maling positibo. Pinili namin ang di-nakikitang mga pananggalang sa dahilang ito—at iyon ay maling desisyon," post ng kumpanya sa X. "Dapat ay may kaalaman kayo sa mga pananggalang na mayroon kami, at kung bakit.”

“Patawad kung hindi namin nakuha ang tamang balanse."

Simula ngayong linggo, ang mga kahilingang namarkahan ay hayag na ididirekta sa Claude Opus 4.8, isang hindi gaanong mahusay na modelo, sa halip na tahimik na magbigay ng pinababang output ng Fable. Makakatanggap ang mga user ng API ng nakasaad na dahilan kapag tinanggihan ang isang kahilingan. Sinabi ng Anthropic na ilalabas ang mga server-side fallback notification sa loob ng ilang araw.

Ano ang talagang nangyayari

Para sa mga hindi teknikal na mambabasa, narito ang tungkol sa kontrobersiya. Mayroon nang nakikitang mga pananggalang ang Claude Fable 5 para sa cybersecurity at pananaliksik sa biology—kung magtatanong ka ng isang bagay na nag-trigger sa mga filter na iyon, makakatanggap ka ng abiso na ang iyong kahilingan ay idinidirekta sa mas lumang modelong Opus 4.8. Alam mong may nagbago. Maaari mong ayusin ang iyong prompt o gumamit ng ibang tool.

Gayunpaman, ang mga pananggalang na ito ay masyadong matindi, ayon sa ilang mananaliksik sa bio.

Gayunpaman, ang pananggalang sa pagpapaunlad ng LLM ay gumana nang naiiba. Kung na-detect ng Fable 5 na nagtatrabaho ka sa mga bagay tulad ng pretraining ng mga AI system, pagbuo ng distributed training infrastructure, o pagdidisenyo ng machine learning chips, tahimik na babaguhin ng modelo ang sarili nitong pag-uugali—sa pamamagitan ng pagbabago ng prompt, steering vectors, o pagbabago ng parameter—para bigyan ka ng mas masamang sagot nang hindi sinasabi sa iyo. Makakakuha ka ng tugon. Hindi lang ito manggagaling sa Fable 5 na binayaran mo.

Ang Fable 5 ay itinatanghal bilang mukha ng publiko ng pinakamahusay na Mythos-class na modelo ng Anthropic, at ang mga mananaliksik na gumagamit nito para sa lehitimong trabaho sa machine learning ay walang paraan para malaman na ang kanilang mga resulta ay apektado. Ang isang nabigong eksperimento ay pareho lang ang itsura kung mali ang iyong hypothesis o tahimik na inutusan ang modelo na bumaba ang performance. Iyan ang problema sa reproducibility na nagdulot ng matinding pagkabahala sa komunidad ng pananaliksik sa AI.

Ang problema ay hindi gaanong tumpak ang classifier. Ang AI research firm na SemiAnalysis ay kabilang sa mga unang hayagang pumuna sa kanila matapos nilang makitang namarkahan ang kanilang GPU inference research.

Ang nakatagong isyu sa solusyon

Ang pagbaliktad ng Anthropic ay may direktang pag-amin sa kompromiso na tinatanggap nito. Ang paggawa ng mga pananggalang na nakikita ay mas madali itong malusutan, na nangangahulugang ang classifier ay kailangang magtakda ng mas malawak na saklaw upang manatiling epektibo.

Mas maraming maling positibo—lehitimong trabaho sa machine-learning na nahuhuli at idinidirekta sa iba—ang darating habang inaayos ng kumpanya ang mga sistema nito. Sinabi ng Anthropic na nagsusumikap silang bawasan ang maling positibo "sa pinakamabilis na paraan" ngunit walang inalok na timeline.

Inilalapat din ng kumpanya ang parehong pagwawasto sa mga classifier nito para sa biology at cybersecurity, na umani ng sarili nilang mga reklamo tungkol sa pagmamarka ng hindi nakakapinsalang research prompts.

Gayunpaman, ang natitirang alalahanin ay hindi inaalis ng Anthropic ang kategoryang ito ng mga restriksyon—ginagawa lang nilang nakikita ang mga ito. Para sa mga naniniwalang mali ang mga restriksyon mismo, ang paghingi ng tawad noong Huwebes ay isang bahagyang solusyon. Ang Fable 5 ay nananatiling libre sa mga planong Pro, Max, Team, at Enterprise hanggang Hunyo 22, pagkatapos nito ay magiging API usage credits na lang ang batayan ng paggamit.