Anthropic: AI leder 26 prosent av forskningen

Frontier-selskapet Anthropic avdekker nå hvor stor del av sin egen AI-forskning og -utvikling (FoU) som utføres av AI-modeller. Funnene er en del av et initiativ for å øke åpenheten rundt tempoet i AI-utviklingen og selskapets kontrollmekanismer. Deres Claude-modell leder nå 26 prosent av Anthropic sin AI FoU. Dette betyr at AI-en kan fullføre mesteparten av oppgaven fra en overordnet instruksjon, med menneskelig veiledning. Over 90 prosent av arbeidet utføres av AI-modellen, enten som leder eller i tett samarbeid med mennesker. Anthropic har også målt overvåkingen av sine ca. 30 000 interne AI-agenter. 100 prosent av agentenes handlinger passerer gjennom online-monitorer før de utføres, og kun 0,002 prosent av beslutningene blir blokkert. Dette viser et robust system for å fange opp og forhindre uønsket adferd i sanntid. Selskapet rapporterer videre at rundt 6 prosent av all datakraft (compute) brukt i AI FoU ble allokert til sikkerhetsarbeid den undersøkte uken. Dette er et konservativt estimat, da kun arbeid som utelukkende fremmet sikkerhet ble inkludert. Flere selskaper kunne ta i bruk slike rapporteringsmetoder for å skape bedre innsikt i prioriteringene i bransjen.