Baseten satser på åpen AI-sikkerhet med nye partnere

Baseten, via sitt forskningsprogram Base Labs, har inngått et samarbeid med Hugging Face og Goodfire AI for å bygge infrastruktur for sikkerhetsevaluering og overvåking av open-weight AI-modeller. Dette kommer som et svar på debatten rundt sikkerheten ved slike modeller, som kan gjøres farlige ved at beskyttelsesmekanismer fjernes gjennom en teknikk kalt abliteration – en utfordring som allerede rammer over 6000 modeller på Hugging Face. Partnerskapet skal utvikle metoder for trening og overvåking av åpne modeller, med mål om å etablere en transparent standard som er innebygd i utviklingsprosessen. Ifølge Baseten selv, representerer åpenhet en fordel for AI-sikkerheten, da det gir større innsyn i modellens oppførsel og enklere kontroll enn med lukkede systemer. Goodfire AI, som spesialiserer seg på å forklare hvordan AI-modeller tar beslutninger, vil trolig spille en nøkkelrolle i å integrere sikkerhet tidlig i designet. Dette gir norske virksomheter en mulighet til å benytte åpne AI-løsninger med mer forutsigbar risiko. Baseten, som nylig hentet 1,5 milliarder dollar i finansiering og verdsettes til 13 milliarder dollar, inviterer nå det bredere utviklermiljøet til å bidra til rammeverket. Målet er et økosystem av trygge og tilgjengelige åpne AI-modeller.