GitHub Copilot kutter kostnader med 67 % via modell-orkestrering

GitHub lanserer Project HydraFusion, en ny mekanisme i Copilot som bruker det de kaller runtime-orkestrering av AI-modeller. Dette betyr at i stedet for å stole på én enkelt AI-modell, velger HydraFusion den mest effektive kombinasjonen av tilgjengelige modeller for å løse en spesifikk kodeoppgave. Systemet forbedret dokumentert oppgavekvalitet med 4,9 prosentpoeng og reduserte estimerte kostnader med hele 67 prosent sammenlignet med Claude Opus 5 på referansetesten TerminalBench 2.1. Dette tyder på at optimal bruk av flere modeller kan gi betydelige besparelser og bedre resultater. For norske utviklere som bruker GitHub Copilot, betyr dette at verktøyet kan bli både smartere og billigere å bruke, uten at de selv må velge modell. HydraFusion fungerer som en usynlig dirigent som velger mellom tre strategier: en enkelt modell, en kaskade av modeller der en enklere modell gjør første forsøk før en kraftigere tar over, eller en kritikk-prosess der en uavhengig modell vurderer forslaget. Strategien kan tilpasses hver oppgave, og velger den minst komplekse tilnærmingen som møter kvalitetskravene. Denne tilpasningsevnen er nøkkelen til å balansere kvalitet, kostnad og responstid, og systemet kan også ta i bruk nye modeller etter hvert som de blir tilgjengelige. For øyeblikket er HydraFusion ute som en forskningsforhåndsvisning i GitHub Copilot. Dette betyr at resultatene kan endre seg, og GitHub ønsker tilbakemeldinger fra utviklere for å optimalisere den videre.