Åpenhet presser AI-giganter: Føderale krav til risikohåndtering nærmer seg

Den raske utviklingen av kunstig intelligens, spesielt automatisert AI-forskning og utvikling (R&D), utfordrer dagens styringssystemer. Eksperter peker på at offentligheten og styresmaktene mangler innsyn i hvordan AI-giganter driver frem denne utviklingen, noe som er kritisk for å forstå risiko og konsekvenser. Historisk sett var vitenskapelig publisering og åpenhet normen i AI-forskningen. Selskap som OpenAI og Google delte tidligere detaljer om modellarkitektur og treningsdata. Denne åpenheten har gradvis forsvunnet, og mye av den viktigste informasjonen befinner seg nå innenfor selskapenes vegger. Flere føderale lovforslag i USA, deriblant FRONTIER Act og AI Incident Reporting Act, søker å endre dette. De foreslår krav om mer åpenhet, spesielt knyttet til håndtering av risiko og automatisering av AI-utvikling. Dette tvinger selskaper til å dokumentere og rapportere om hvordan de vurderer og håndterer risiko ved interne AI-systemer. FRONTIER Act, introdusert i juli 2026, krever blant annet at utviklere offentliggjør rammeverk for risikovurdering ved intern utrulling av modeller. De må også sende konfidensielle rapporter til Handelsdepartementet med oppsummeringer av katastrofale risikoer, samt rapportere kritiske sikkerhetshendelser innen 72 timer. AI Incident Reporting Act, fra juni 2026, vil kreve rapportering også for internt brukte AI-modeller som viser evne til å akselerere eller automatisere forskning, utvikling eller forbedring av AI-systemer. Dette inkluderer også situasjoner der utviklingen kan komprimere tidslinjer for mer kapable systemer. Disse lovforslagene peker mot en fremtid der AI-utviklere må endre sin praksis for å være mer transparente rundt interne prosesser og risikostyring. Selv om juridiske mandater for generell vitenskapelig åpenhet ikke anbefales bredt, vil krav om innsyn i risikohåndtering og automatisert R&D gi myndigheter og publikum vesentlig bedre forståelse av hva som faktisk skjer i frontlinjen av AI-utviklingen. Manglende rapportering eller bevisste feilvurderinger kan i fremtiden utløse sanksjoner, selv om disse ennå ikke er spesifisert i de foreliggende utkastene.