Ipinakilala ng Microsoft ang isang bagong open-source toolkit na nakatuon sa runtime security upang ipatupad ang mas mahigpit na pamamahala sa mga enterprise AI agent.
Ang toolkit ay binuo sa paligid ng runtime security, tinutugunan ang mga alalahanin na ang mga modernong language model ay hindi na limitado sa mga advisory role kundi aktibong nagpapatupad ng code at nakikipag-ugnayan sa mga internal system. Ang mga tradisyonal na pananggalang tulad ng static code check at pre-deployment scan ay nahihirapan na makasabay sa mga dynamic na pag-uugaling ito.
Ang mga naunang deployment ng AI ay higit na nakatuon sa mga copilot na may pinaghihigpitang, read-only na access, pinapanatili ang mga tao sa pamamahala ng pagpapatupad. Nagbabago ang modelong iyon. Ngayon, isinasama na ng mga kumpanya ang mga agentic system na may kakayahang magsagawa ng independiyenteng aksyon sa mga API, cloud environment, at development pipeline.
Sa mga setup na tulad nito, ang isang AI agent ay maaaring mag-parse ng email, bumuo ng script, at i-deploy ito sa isang server nang walang interbensyon ng tao. Isang maling instruksyon o prompt injection ay maaaring magdulot ng hindi sinasadyang pagbabago sa database o pagkalantad ng sensitibong impormasyon. Tinutugunan ng bagong toolkit ang panganib na iyon sa pamamagitan ng pagsubaybay sa mga aksyon habang nangyayari ang mga ito at interbensyon nang real time sa halip na umasa sa mga pre-set na kontrol.
Nakatuon ang sistema sa kung paano nakikipag-ugnayan ang mga AI agent sa mga panlabas na tool. Kapag kailangan ng isang modelo na magsagawa ng aksyon na lampas sa internal nitong pagproseso, tulad ng pag-query sa isang enterprise system, bumubuo ito ng command na nakadirekta sa tool na iyon.
Naglalagay ang Microsoft ng policy enforcement layer sa pagitan ng modelo at ng corporate network. Bawat papalabas na kahilingan ay ini-intercept at sinusuri laban sa mga pre-defined na panuntunan sa pamamahala bago ang pagpapatupad. Kung lumabag ang isang aksyon sa patakaran, halimbawa, isang agent na sumusubok na magsimula ng transaksyon sa kabila ng limitasyon sa read-only access, ang kahilingan ay haharangin at ila-log para sa pagsusuri.
Ang pamamaraang iyon ay lumilikha ng masusuri na trail ng mga desisyon habang inaalis ang pangangailangan para sa mga developer na mag-embed ng mga security constraint sa bawat prompt o workflow. Lumilipat ang pamamahala mula sa application logic patungo sa mga kontrol sa antas ng imprastraktura.
Ang balangkas ay nagsisilbi rin bilang buffer para sa mga legacy system, marami sa mga ito ay hindi dinisenyo upang hawakan ang hindi mahulaan na machine-generated input. Sa pamamagitan ng pag-filter at pagpapatunay ng mga kahilingan bago pa man makarating sa core system, nililimitahan nito ang panganib na dulot ng nakompromiso o maling direksyon na AI behavior.
Ang desisyon ng Microsoft na ilabas ang toolkit bilang open source ay konektado sa kasalukuyang mga kasanayan sa pagpapaunlad. Ang mga koponan na bumubuo ng mga AI workflow ay madalas na umaasa sa iba't ibang third-party na tool at modelo. Ang isang proprietary solution ay maaaring balewalain pabor sa mas mabilis na alternatibo. Ang pagiging open source ay nagbibigay-daan sa mga kontrol na maisama sa iba't ibang kapaligiran, kabilang ang mga system na gumagamit ng mga modelo mula sa mga kakumpitensya tulad ng Anthropic.
Binubuksan din nito ang pinto para sa mga kumpanya ng cybersecurity na bumuo ng karagdagang monitoring at response layer sa ibabaw ng balangkas, na tumutulong sa pagtatatag ng isang ibinahaging baseline para sa pag-secure ng mga operasyong pinapatakbo ng AI.
Ang seguridad ay isa lamang bahagi ng hamon. Nagdudulot din ang mga autonomous agent ng mga panganib sa pananalapi at operasyon, lalo na sa pamamagitan ng hindi nasuri na paggamit ng API.
Ang mga sistemang ito ay gumagana sa tuloy-tuloy na loop, gumagawa ng paulit-ulit na tawag sa mga panlabas na serbisyo. Nang walang mga limitasyon, kahit ang isang simpleng gawain ay maaaring mag-trigger ng libu-libong query sa mga bayad na database o API, mabilis na nagpapataas ng mga gastos. Sa matinding kaso, ang mga misconfigured na agent ay maaaring pumasok sa recursive cycle na kumukonsumo ng malaking halaga ng compute resources sa maikling panahon.
Pinapayagan ng toolkit ang mga organisasyon na magtakda ng mahigpit na hangganan sa paggamit ng token at dalas ng kahilingan. Sa pamamagitan ng pagkontrol kung gaano kadalas maaaring kumilos ang isang agent sa loob ng isang ibinigay na panahon, mas mahusay na mapamahalaan ng mga kumpanya ang paggasta at maiwasan ang mga runaway process.
Sinusuportahan din ng runtime oversight ang mga kinakailangan sa pagsunod sa pamamagitan ng pagbibigay ng masusukat na kontrol at malinaw na audit log. Ang responsibilidad ay lumilipat mula sa mga provider ng modelo patungo sa mga sistema na nagpapatupad ng mga desisyon sa real-world na kapaligiran.
Ang pagpapalabas ng mga ganitong balangkas ng pamamahala ay mangangailangan ng koordinasyon sa pagitan ng engineering, legal, at security team. Habang umaako ang mga AI system ng mas maraming autonomous na papel, ang imprastraktura na namamahala sa kanilang pag-uugali ay nagiging sentro sa ligtas na pag-deploy.
Ang paglabas ay kasabay ng patuloy na pamumuhunan sa imprastraktura ng AI. Kamakailan ay ibinalangkas ng Microsoft ang mga plano na mamuhunan ng $10 bilyon sa Japan sa susunod na apat na taon, na nakatuon sa mga data center at sumusuportang sistema.
Ang anunsyo ay kasunod ng usapan sa pagitan nina Microsoft President Brad Smith at Japanese Prime Minister Sanae Takaichi sa Tokyo. Inilarawan ni Smith ang pamumuhunan bilang isang “tugon sa lumalaking pangangailangan ng Japan para sa cloud at AI services.”
Ang kumpanya ay nakikipagtulungan sa SoftBank Group at Sakura Internet upang palawakin ang domestic infrastructure. Ang pinakabagong pangako ay nakabatay sa isang $2.9 bilyong plano na inihayag noong 2024 na naglalayong palakasin ang mga kakayahan ng AI at cybersecurity resilience sa bansa.
