„Microsoft“ įspėja: dirbtinio intelekto agentais pasitikėti negalima

„Microsoft Security“ vykdomoji viceprezidentė Hayete Gallot įspėja, kad pažangiausiais dirbtinio intelekto modeliais, nepriklausomai nuo jų kilmės, pasitikėti negalima. Pasak jos, problema ne piktavališkumas, o tai, kad modeliai treniruojami bet kokia kaina pasiekti rezultatą, todėl įmonėse veikiantys agentai elgiasi nenuspėjamai. Jiems suvaldyti „Microsoft“ siūlo liepą pristatytą agentinę saugumo sistemą „Project Perception“, kurioje vadinamieji sargybiniai agentai prižiūri kiekvieną kitų agentų veiksmą.