Guardian Agents maakt deel uit van Project Perception, een product dat in juni werd geïntroduceerd. Project Perception was het antwoord van Microsoft krachtige hackmodellen zoals Mythos en Fable van Anthropic en het beveiligingsgebrekscansysteem Daybreak van OpenAI.
oorspronkelijk lanceerde drie klassen agenten: een "red team" die zich gedroeg alsof het hackers waren en aanviel, een "blue team" dat de red-team detecteerde en de door hen gevonden kwetsbaarheden beoordeelde, en een "green team" belast met ze op te lossen. Het product was ontworpen onder de veronderstelling dat AI-hackers van buitenaf zouden komen bij het bedrijf.
Maar recentelijk waarschuwt Microsoft-CEO Satya Nadella alarmerend dat de vijand in de wereld van kunstmatige intelligentie misschien wel de zeer agents zijn die ondernemingen hebben ingezet en voor wie zij betalen, veel zoals een roekeloze menselijke werknemer, anderszins bekend als een "interne bedreiging." Begin deze maand, in zijn persoonlijke blog , Nadella
"waarschuwt" dat het tijd is om te stoppen met vertrouwen op leveranciers van AI-modellen, zelfs als zij garanties bieden voor veiligheid en beveiliging bij hun agent-producten. Hij wil dat ondernemingen aparte systemen implementeren die niet door de laboratoria rondom kunstmatige intelligentie worden gecontroleerd, om de agents in gaten te houden en onder controle te stellen die producten lanceren van deze laboratoria: "Wij zetten deze complexe agentic-systemen en modellen in gebruik met toegang tot onze meest gevoelige gegevens en geven ze de mogelijkheid mission-critical acties namens ons uit te voeren!", schreef hij. "We kunnen simpelweg geen verantwoordelijkheid delegeren aan wat intelligente taken uitvoert namens ons." De garanties
... ons van die verantwoordelijkheid niet bevrijden. … Met andere woorden: we moeten de levering van intelligentie scheiden van het gezag daarover.
toegang tot data en tools die ernstige schade zouden kunnen aanrichten. De oplossing van Microsoft is zowel verrassend als zelfzuchtig. Het verrassende aspect is dat Microsoft beroemd dicht bij staat bij OpenAI en Anthropic, aangezien het in beide heeft geïnvesteerd. Ook is OpenAI een van de grootste cloudklanten van Microsoft, terwijl Microsoft over eigen AI-laboratoria beschikt om modellen te ontwikkelen.
Hierdoor zaait Microsoft wantrouwen tegenover enkele van haar eigen zakelijke belangen uit. Het zelfzuchtige kantje is dat Microsoft wil dat ondernemingen agent-beveiligingsproducten kopen via zichzelf (de cloudbieder) in plaats van bij Anthropic of OpenAI. Maar afgezien van deze conflicterende belangen...
...is klinkend. De software die het gedrag van agenten monitort, moet gescheiden blijven van de leveranciers van deze agenten, precies zoals auditors onafhankelijk moeten zijn van de organisaties waar ze controleren. Of zoals Nadella uitdrukt: "We hoeven de levering van intelligentie te scheiden van de autoriteit daarover." Microsoft grijpt nu naar diverse manieren in op dit zakelijke opportuniteiten.
Naast Guardian Agents heeft het een functie voor detectie van agenten toegevoegd aan zijn product Microsoft Defender dat tot 60 soorten agents kan vinden die werknemers met zich meebrengen bij hun werkplek, waaronder Claude Code, Codex en OpenClaw.
functies die de toegang van agenten tot data en systemen beperken en hun machtiging voor agenten dynamisch aanpassen op basis van de taak. Dit omvat het vereisen van menselijke goedkeuring wanneer een agent lijkt te nemen met risicovolle beslissingen. Deze gedachtevorm over onbetrouwbare insiders neemt ook vorm in de bredere industrie, Microsoft was oprichtend lid van Nvidias nieuwe Open Agent Safety Platform, waar meer dan 100 andere tech-bedrijven steun verleenden. Het platform isoleert agenten in veilige omgevingen en kan gedrag monitoren en stoppen via hardware, functionerend als iets soortgelijks als een kill-switch.
Dit volgt op de aankondiging van Microsoft over nieuwe Surface Laptop Ultra-pc's die speciaal voor agenten zijn ontworpen, draaien op Nvidia-chips en ingebouwde beveiliging en controles hebben voor agenten.
