Matematikere krever innsyn i OpenAIs treningsdata

Flere matematikere reagerer på OpenAIs hemmelighold rundt treningsdataene som driver selskapets AI-modeller. Dette kommer etter at AI-giganten annonserte funn innenfor komplekse matematiske områder, som non-sofic groups, et felt der OpenAI selv anerkjente tidligere arbeid av matematiske forskere som Andreas Thom. Thom spør om interaksjoner han og kollegaer har hatt med ChatGPT kan ha bidratt til AI-modellens suksess, spesielt ettersom OpenAI viste en detaljert forståelse av teknikker som ikke var åpenbart de mest lovende. Selskapet har svart unnvikende, og Thom mener de kun har avvist direkte bruk av samtaler, ikke om dataene har havnet i de massive puljene med treningsdata som forbedrer modellene. OpenAI har en lignende historie fra tidligere diskusjoner rundt løsningen på Navier-Stokes-ligningen, hvor de nektet for bruk av spesifikke brukerdata, men ikke kunne utelukke indirekte innflytelse fra de-identifiserte data. Thom påpeker at de-identifisering fjerner et navn, men ikke det intellektuelle innholdet i en matematisk idé, noe som skaper et alvorlig etisk dilemma hvis uoffisiell forskning bidrar til modeller som deretter konkurrerer med de samme brukerne uten anerkjennelse. For norske virksomheter understreker dette betydningen av å forstå databrukervilkår og immaterielle rettigheter ved bruk av AI-verktøy, spesielt der sensitiv eller proprietær informasjon legges inn. Dersom OpenAI ikke beviser at de ikke bruker slik brukergenerert informasjon i treningsdata, kan det føre til et mer hemmelighetsfullt forskningsmiljø og juridiske utfordringer for selskaper som bygger på uavklarte AI-bidrag.