Chipjätten NVIDIA meddelar att fokus för AI-infrastruktur skiftar från råa hårdvaruspecifikationer till kostnad per token. Genom att optimera mjukvarustacken för inferens i kombination med bolagets GPU:er, CPU:er och nätverk siktar NVIDIA på att leverera högsta möjliga effektivitet per dollar och watt. Optimeringen är central för organisationer som rör sig från AI-piloter till storskalig produktion, så kallade AI-fabriker, där strikta krav på latens och driftkostnader avgör lönsamheten.