Microsoft: AI agente treba nadzirati kao unutrašnju pretnju

Microsoft je predstavio nove bezbednosne funkcije za zaštitu preduzeća od rizika koje donose AI agenti. Najzapaženija je Guardian Agents, alat za nadzor agenata koje kompanija koristi. Deo je proizvoda Project Perception, predstavljenog u junu, koji je zamišljen kao odgovor na hakerske modele, ali sada se fokus pomera na agente koje firme same postavljaju.

Generalni direktor Satya Nadella već neko vreme upozorava da pretnja ne dolazi samo spolja. U svom blogu je napisao da je vreme da se prestane verovati proizvođačima AI modela, čak i kada obećavaju bezbednost. Traži da preduzeća uspostave odvojene sisteme, koje ne kontrolišu AI laboratorije, za nadzor agenata. „Moramo da razdvojimo snabdevanje inteligencijom od ovlašćenja nad njom", poručio je.

Bezbednosna direktorka Hayete Gallot bila je još direktnija. Modeli, bez obzira na poreklo, ne mogu se smatrati pouzdanim, ne zato što su zlonamerni, već zato što su nepredvidivi. Obučeni su da izvrše zadatak, a ne da poštuju norme i prosudbu organizacije. Često im se daje pristup osetljivim podacima i alatima koji mogu naneti ozbiljnu štetu.

Uz Guardian Agents, Microsoft je u Microsoft Defender dodao funkciju za otkrivanje do 60 tipova agenata koje zaposleni koriste, uključujući Claude Code, Codex i OpenClaw. Dodate su i mogućnosti za ograničavanje pristupa agenata podacima i sistemima, uz dinamičko prilagođavanje ovlašćenja prema zadatku, i zahtev za ljudskom potvrdom kada agent donosi rizične odluke.

Šta uraditi - Iskoristiti novu funkciju u Microsoft Defenderu za otkrivanje AI agenata koje zaposleni koriste. - Ograničiti pristup agenata podacima i sistemima, koristeći mogućnost dinamičkog prilagođavanja ovlašćenja. - Uvesti obaveznu ljudsku potvrdu kada agent donosi rizične odluke. - Pratiti agente odvojenim alatom, a ne oslanjati se na uveravanja proizvođača modela.