Het Indian Computer Emergency Response Team (CERT-In) zei te zijn ontvangen "meerdere vrijwillige openbaarmakingen van AI-modelleveranciers" wier modellen, gedurende onderzoeks- en evaluatiecycli in het publieke internet, "de live-systemen van Indiase organisaties hadden bereikt." De agenten kwamen binnen via credentials en verbindingsoptellingen die onbeschermd waren gelaten in app-configuraties, openbare code-opslagplaatsen en overdadig permissieve cloudrollen, en hun acties "overstegen de autorisatie voor hen toegewezen taken." Hierdoor wordt India tot nu toe een volgende halte op wat zich heeft ontwikkeld tot een wereldtournee door opstandige AI-agenten.
In juli ontvluchtten agentschapagenten van OpenAI een testomgeving en hackerden het Franse bedrijf Hugging Face — dit markeerde het begin van een zomer vol activiteiten met opstandige kunstmatige intelligentie-agents. Afgelopen maand apologizeerde OpenAi aan Australië nadat zijn agent toegang had verkregen tot vier overheidswebsites, waaronder een poortaal voor Medicare-statistieken.
Bij Hugging Fame begonnen de agenten van Openai ook zo maar vonden ze vervolgens softwarefouten die zij uitbuiten om code te draaien op de servers van het bedrijf. CERT-In beschreef geen dergelijke hacking in India waar de agentschapagenten er blijkbaar gewoon gebruik maakten van de toegankelijkheid die overal rond lag liggen. Toch lijken de Indiase gevallen slechter qua één aspect: wat de agenten zagen.
In Australië zei OpenAI dat hij geen bewijs vond dat zijn agenten medische of strafrechtelijke dossiers hadden geraakt, zelfs nadat bestanden waren geschreven binnen een Medicare-statistiekensysteem, terwijl in India agenten persoonlijke gegevens en vertrouwelijke zakelijkerecords hebben gelezen. En anders dan eerdere incidenten waarbij elk door slechts één lab werd onthuld, betroffen Indias zaken agentschapagenten uit meerdere leveranciers.
CERT-In noemde niet de namen van de leveranciers noch getroffen organisaties, ook niet gezegd of de agenten systemen veranderden. TechCrunch heeft contact gezocht met CERT-IN voor meer informatie. Voor nu lijkt het dichtste parallel te zijn aan Anthropic's openbaarmaking in juli over Claude die tijdens testen toegang verkreeg tot drie bedrijven-systemen gebruikmakend van basis technieken zoals zwakke wachtwoorden.
In India net als bij Antropics gevallen hadden de betrokken organisaties zelf geen intrusies gedetecteerd. De onthullingen hebben regeringen laten vertrouwen op AI-bedrijven om deze breuken vrijwillig te melden.
