KI-hype skjuler modellfeil og anklager om plagiat

Den siste tidens intense KI-hype, med stadige påstander om modeller som løser komplekse problemer og nærmer seg generell kunstig intelligens, tåler sjelden en grundig sjekk. Eksperter og akademikere tilbakeviser flere av de mest oppsiktsvekkende påstandene fra selskaper som OpenAI og Anthropic, og peker på et mønster av overdreven markedsføring. Ett eksempel er «hacking-episodene» der modeller angivelig gikk «berserk». Kybersikkerhetseksperter mener dette i større grad handler om selskapers mangelfulle sikkerhetspraksis – altså at grunnleggende sikkerhetstiltak ikke er på plass – enn om «villfarne» KI-systemer. Dette rokker ved bildet av autonome, farlige KI-agenter. Flere selskaper har også hevdet at deres modeller har gjort matematiske gjennombrudd. En pressetalsmann fra OpenAI kunngjorde nylig at deres chatbot, Astra, løste problemer uløste i over et tiår. Matematikere har imidlertid anklaget selskapet for forskningsjuks og plagiat, og understreker at funnene ikke var så revolusjonerende som først antatt. Dette viser en tendens til å overselge teknologisk framgang, noe som kan villedende for både politikere og allmennheten. Disse hendelsene understreker viktigheten av uavhengig granskning, slik at man unngår at viktige beslutninger om KI-regulering baseres på markedsføring framfor faktiske kapabiliteter. For norske virksomheter betyr dette at man må utvise sterk skepsis til leverandørenes markedsføring og alltid søke uavhengige vurderinger før store investeringer eller strategiske valg tas basert på påståtte KI-kapasiteter.