Marx.ba

(Foto: Ilustracija)

Novo istraživanje IBM (Institute for Business Value) pokazuje da, kako umjetna inteligencija prelazi iz eksperimentiranja u široku primjenu na nivou preduzeća, dvije trećine ispitanih CIO i CTO direktora prijavljuje da ih se smatra odgovornima za AI sisteme koje ne kontrolišu u potpunosti, dok upravljanje teško drži korak sa skaliranjem. Globalno istraživanje provedeno među 2.000 tehnoloških direktora na C-nivou pokazalo je da je manjak vidljivosti široko rasprostranjen. Većina ispitanih direktora, njih 70 posto, kaže da timovi u poslovanju uvode tehnologiju brže nego što IT to može pratiti.

Istovremeno, tehnološki lideri suočavaju se s rastućim pritiskom da brže skaliraju AI, iako mnogima nedostaju strukture koje bi to podržale. Do 2027. ispitanici očekuju rast broja implementiranih AI agenata od 38 posto. Iako 80 posto ispitanika navodi da imaju mandate za AI transformaciju koje pokreću izvršni direktori, samo 11 posto smatra da su potpuno spremni za razmjere uvođenja AI agenata koji se očekuju u narednoj godini. Upravljanje također zaostaje, pri čemu 77 posto ispitanih organizacija navodi da usvajanje AI-ja već nadmašuje postojeće mogućnosti upravljanja.

„Za CIO i CTO direktore izazov je sada skaliranje AI sistema koji rade kontinuirano i autonomno, često unutar modela upravljanja i arhitektura osmišljenih za znatno sporije i predvidljivije okruženje”, rekao je Matt Lyteson, CIO IBM-a. „Više nije riječ samo o bržem uvođenju umjetne inteligencije. Riječ je o redizajniranju načina na koji organizacije kontroliraju, upravljaju i ulažu u nju te o ugrađivanju kontrole i vidljivosti od samog početka, kako bi mogle skalirati s povjerenjem.”

Analiza pokazuje da u organizacijama koje se oslanjaju na ručno upravljanje rizik od incidenata raste kako se širi usvajanje AI-ja, dok one koje kontrolu ugrađuju direktno u svoje AI sisteme bilježe 25 posto manje incidenata. Većina, odnosno 59 posto ispitanih tehnoloških direktora, navodi sigurnosne i usklađivačke brige kao glavne prepreke skaliranju AI agenata. Ispitane organizacije prošle su godine u prosjeku imale 54 incidenta povezana s AI agentima, odnosno nenamjerne ili štetne događaje koji su zahtijevali ljudsku intervenciju. Prema odgovorima ispitanika, 17 posto prijavljenih incidenata bilo je visoke ozbiljnosti i zahtijevalo više od četiri sata za obuzdavanje. Njih 37 posto rezultiralo je izlaganjem podataka ili sigurnosnim povredama, 33 posto izazvalo je kaskadne kvarove sistema, a 17 posto pokrenulo je probleme usklađenosti.

Očekuje se da će potrošnja na AI porasti s nešto manje od 15 posto IT budžeta u 2025. na gotovo 25 posto do 2027., što predstavlja rast od 71 posto u dvije godine i povećava uloge za CIO i CTO direktore. Ipak, 84 posto tehnoloških direktora nije u potpunosti operacionaliziralo finansijsko upravljanje umjetnom inteligencijom, a 85 posto i dalje nema potpunu vidljivost u stvarnovremensku AI potrošnju. Analiza pokazuje da organizacije koje ugrađuju kontrolu u svoje AI sisteme implementiraju 16 puta više AI agenata od onih koje se oslanjaju na ručno upravljanje, ostvaruju 18 posto veće operativne marže i troše četiri puta manji dio AI budžeta.

Organizacije s jakom finansijskom disciplinom uvode 2,4 puta više AI agenata bez većeg udjela AI/IT budžeta i tri puta je vjerojatnije da će reći kako su potpuno spremne za AI skaliranje. Ispitane organizacije koje su rano dizajnirale prilagodljivost, održavajući radna opterećenja prenosivim i modele zamjenjivim umjesto zaključanim u čvrste zavisnosti, prijavile su 10 posto veći povrat na AI ulaganja u 2025.

IBM-ovo istraživanje jasno pokazuje da se uloga CIO-a i CTO-a mijenja iz upravljanja infrastrukturom prema upravljanju autonomnim digitalnim ponašanjem organizacije. AI agenti nisu obični softverski alati jer mogu inicirati radnje, povezivati se s podacima, koristiti vanjske sisteme i donositi preporuke ili odluke koje imaju poslovne posljedice. Zbog toga tradicionalni modeli kontrole pristupa, koji su građeni za ljudske korisnike i statične aplikacije, često nisu dovoljni. Organizacije će morati razviti identitete za agente, ograničenja ovlaštenja, zapisivanje radnji, nadzor u stvarnom vremenu i mehanizme za brzo zaustavljanje pogrešnog ponašanja. Poseban problem postaje finansijsko upravljanje jer AI potrošnja može brzo rasti kroz API pozive, računarske resurse, modele, podatkovne tokove i integracije.

Ako poslovni timovi uvode alate mimo IT-a, nastaje kombinacija sigurnosnog, pravnog i troškovnog rizika. Uspješno skaliranje AI-ja zato zahtijeva da upravljanje bude ugrađeno u arhitekturu, a ne dodano naknadno kroz politike na papiru. Visok broj prijavljenih incidenata pokazuje da se rizik već materijalizira, i to prije nego što su agenti postali potpuno uobičajeni. Kompanije koje rano riješe vidljivost i kontrolu imat će prednost jer će moći brže uvoditi agente uz manji rizik. U suprotnom, AI transformacija može završiti kao nova varijanta nekontroliranog shadow IT-ja, samo s mnogo većim posljedicama.