Norske gründere får 40 millioner for å teste AI-agenters sikkerhet

Norsk-grunnlagte AIUC, startet av Rune Kvist (tidligere Anthropic) og Rajiv Dattani (tidligere METR COO), har sikret seg 40 millioner dollar i en Serie A-runde for sin plattform som tester sikkerheten til AI-agenter. Selskapet tilbyr en tredjepartsrevisjon og sertifiseringslag for bedrifters AI-systemer, noe som skal gjøre det tryggere å ta i bruk avansert AI. AIUC har utviklet standarden AIUC-1, inspirert av cybersikkerhetsstandarden SOC 2, for å teste agentenes pålitelighet. Over 250 sikkerhets- og risikoeledere bidrar til å forme testene, som omfatter rundt 5000 scenarier for å avdekke «jailbreaks», hallusinasjoner og datalekkasjer. En 100-siders rapport oppsummerer deretter hvor agenten er sikker, og hvor den har svakheter. For norske virksomheter betyr dette en mulighet til å få en uavhengig vurdering av risikoen knyttet til egne AI-løsninger før de rulles ut i stor skala. Selv om AIUC bruker AI-agenter til å utføre testene, verifiserer mennesker den endelige revisjonen for å sikre kvalitet og objektivitet. Selskapet har allerede fått kunder som Cursor og Lovable, og den samlede finansieringen er nå 55 millioner dollar.