Ansatt advarer Anthropic mot «selvforbedrende superintelligens»
Av AIWatch
En avhoppet AI-forsker advarer nå sitt tidligere selskap Anthropic mot en farlig kurs. Selskapet er angivelig på vei mot børsnotering, noe som gir advarselen ekstra tyngde.
En forsker i AI-selskapet Anthropic har trukket seg og advart offentlig om at selskapet «kappløper rett mot og gambler med livene våre». Advarselen kom på X (tidligere Twitter), og er bemerkelsesverdig fordi selskapets egen ansvarlige for AI-sikkerhet skal ha støttet budskapet. Dette er ikke den første dommedagsadvarselen AI-bransjen har sett, men timingen gir den spesiell vekt. Anthropic forbereder angivelig en børsnotering, noe som setter fokus på risiko ved rask utvikling av kraftige AI-modeller, særlig når selv interne eksperter uttrykker bekymring for superintelligens utenfor menneskelig kontroll. For norske arbeidsplasser understreker dette behovet for å vurdere de etiske sidene og sikkerhetsaspektene ved avansert AI.
Kilder til denne saken: TechCrunch AI ↗
AI: Research, språk og faktasjekk.
Relatert
