TinyFish gir «gratis» AI-søk, men lavere poengsum

AI-agenter som utforsker nettet har to hovedkostnader: hva en søketjeneste tar betalt for å hente informasjon, og hva AI-modellen selv koster for å behandle denne informasjonen, såkalt modellbehandling. TinyFish har lansert en tjeneste der selve nettsøket er gratis innenfor visse begrensninger, noe som kan endre regnestykket for bedrifter som bruker AI-agenter til datainnhenting. Vanligvis utgjør data hentet fra nettet en betydelig del av totalkostnaden, fordi informasjonen må behandles av AI-modellen som såkalte tokens. Et eksempel viser hvordan samme artikkel, på rundt 4300 tegn, kunne generere alt fra cirka 1184 til 42774 tokens avhengig av leverandør, som igjen påvirker kostnaden for modellbehandling. Selv om TinyFish fjerner kostnaden for selve hentingen, påløper altså fortsatt utgifter for modellbehandling av den hentede dataen. På Artificial Analysis' prestasjonstest for AI-søk scoret TinyFish 71 poeng, det laveste blant de tolv konfigurasjonene som ble vist i testen. Til sammenligning scoret beste aktør 80 poeng. Til tross for den lavere poengsummen, hadde TinyFish den laveste totale kostnaden per 1000 oppgaver, på 9,30 dollar. Dette skyldes at de tar 0 dollar for selve søket, mens andre leverandører kan ha søkekostnader på opptil 65,57 dollar, i tillegg til modellbehandling. Selskapets strategi bygger på gjenbruk av egen infrastruktur og spesialiserte AI-modeller for nettinteraksjon, i stedet for å bygge en massiv søkeindeks. Dette gjør at de kan tilby et gratis søkeledd, men som testingen viser, er det en avveining mellom pris og kvalitet. Tiden per oppgave hos TinyFish var også den nest lengste blant de testede løsningene, med 59 sekunder.