Articles sur MLPerf

TensorRT Edge-LLM sur Jetson AGX Thor réalise une multiplication par 6,4 des performances, ce qui signifie que le matériel en périphérie (edge) passe de la simple prise en charge de LLMs à tour de rôle unique à la gestion d'agents IA complexes dotés de capacités de raisonnement en plusieurs étapes et d'appel d'outils. Cette avancée réduit l'écart de performance entre l'intelligence cloud et l'intelligence incarnée en périphérie (edge embodied AI).