Anthropic advarer om AI-modellers «selvforbedring»
Av AIWatch
AI-selskapet Anthropic foreslår økt transparens for å overvåke at modeller i økende grad utvikler seg selv. Dette er viktig for å forstå hvor fort AI-utviklingen går og hvem som kontrollerer den.
AI-selskapet Anthropic etterlyser økt åpenhet om utviklingen av kraftige AI-modeller, da disse i økende grad kan automatisere sin egen utviklingsprosess. De mener offentligheten trenger mer informasjon for å ta stilling til farten på fremskrittene. Selskapet har foreslått et rammeverk for hvordan AI-laboratorier kan sikre trygge lanseringer, som inkluderer åpenhetskrav og risikorapporter. Dette skal bidra til å overvåke hvor mye AI-systemer bygger sine egne etterfølgere, kjent som , fremfor å bli utviklet av mennesker. Anthropic understreker at selvforbedrende modeller kan gjøre det mer utfordrende for mennesker å forstå eller kontrollere systemene. Målinger av denne «selvforbedringen» er derfor avgjørende for å minimere kunnskapsgapet mellom utviklerne og offentligheten, og for å gi samfunnet mulighet til å styre teknologien.
Kilder til denne saken: bignewsnetwork.com ↗
AI: Research, språk og faktasjekk.
Relatert
