Articles sur Speculative Macro Commit

SMC introduit l'exécution spéculative dans les boucles d'action dans lesquelles les outils utilisent des agents, ce qui signifie que l'accent de l'optimisation des agents passe de la latence d'inférence unique aux attentes globales en série d'observation d'action. Cela implique que le temps passé par les appels d'outils en plusieurs étapes n'est plus seulement un coût matériel, mais peut être compensé par des spéculations sur l'architecture logicielle. Le bénéfice réel dépend du taux de réussite de la bibliothèque de macros et de la précision des prévisions du modèle préliminaire.