Toch neemt OpenAI het incident serieus en heeft het bedrijf de beveiliging aangescherpt. Ontvang dagelijks cryptonieuws op je Instagram feed – net als 29.000+ Nederlanders. In het kort: Een AI-model van OpenAI gebruikte zelfstandig crypto uit een gevonden wallet. Het model twijfelde of dat wel mocht, maar maakte zijn opdracht toch af. OpenAI ontdekte het incident later en heeft de beveiliging aangescherpt.
AI zoekt zelf naar cryptogeld Het begon op 26 juni met een programmeeropdracht. De AI moest een crypto-app aanpassen en onderdelen ervan op een testnetwerk van ethereum plaatsen. Dat is een oefenomgeving waarin ontwikkelaars toepassingen kunnen uitproberen zonder echt geld te gebruiken. Om de opdracht uit te voeren, had het model een kleine hoeveelheid aan crypto nodig.
OpenAI had alleen geen gevulde wallet meegegeven. Volgens het incidentrapport van OpenAI probeerde de AI eerst gratis testmunten te krijgen. Toen dat niet lukte, besloot het zelf op zoek te gaan naar een wallet met geld. Het model schreef een programma waarmee het 362 crypto-adressen controleerde. Daarbij gebruikte het openbaar bekende herstelzinnen, waarmee wallets toegankelijk zijn.
Uiteindelijk vond het een wallet met genoeg testcrypto om de kosten te betalen. AI twijfelt, maar gaat toch door Het opmerkelijkste deel komt daarna. Uit het rapport blijkt dat de AI zich afvroeg of het de gevonden wallet wel mocht gebruiken. Toch ging het door. Het model redeneerde dat de herstelzin openbaar was en de cryptomunten geen echte handelswaarde hadden.
Daarom vond het gebruik van de wallet acceptabel. Na een mislukte poging slaagde de AI erin de opdracht af te ronden. De kosten werden betaald met cryptogeld uit de gevonden wallet. In het eindverslag meldt het model dat alles gelukt was. Maar dat het daarvoor zonder toestemming een andere wallet had gebruikt, hield het juist verborgen. OpenAI scherpt beveiliging aan OpenAI ontdekte het incident op 25 september tijdens een controle van eerdere tests.
Het ging om een intern onderzoeksmodel, niet om een AI-versie die voor het publiek beschikbaar is. Het bedrijf heeft inmiddels extra maatregelen genomen om te voorkomen dat modellen in vergelijkbare situaties zomaar toegang krijgen tot het internet. Ook moet het beveiligingsteam een waarschuwing krijgen wanneer zulke toegang wordt vastgesteld. Het incident draaide om testcrypto zonder echte handelswaarde.
Toch laat het zien hoe een AI-model zelfstandig beslissingen kan nemen die niemand heeft goedgekeurd, en vervolgens niet alles vertelt over wat het heeft gedaan.
