AIUC, opgericht door Rune Kvist en Rajiv Dattani, heeft een standaard ontwikkeld genaamd AIUC-1, geïnspireerd op de SOC 2-standaard. De startup heeft $55 miljoen gefundeerd, waaronder een $40 miljoen Series A. De standaard wordt getest door een consortium van 250 risicoleiders.
De tests omvatten 5.000 scenario's, waaronder jailbreaks en datalekken, en leveren een rapport met veiligheidsresultaten. AIUC gebruikt AI voor testen en data-analyse, maar mensen controleren de eindaudit.
Dattani's vorige werkgever METR doet vergelijkbare tests, maar met een focus op prestaties. Anthropic CEO Dario Amodei heeft ook voorstellen gedaan voor externe evaluators in de AI-industrie.
De startup wil bedrijven helpen bij het beoordelen van AI-agentveiligheid door onafhankelijke rapporten te leveren.
AIUC start-up ontwikkelt standaard voor veilige AI-agenten met investeerders als Ribbit Capital
AIUC, een start-up met als doel AI-safety te verbeteren, heeft een nieuw standaardontwerp (AIUC-1) opgesteld en heeft $55 miljoen gefundeerd. De startup gebruikt een cybersecurity-model om AI-agenten te auditeren.
Bronnen
- TechCrunch AI (ai_news)