Articles sur memory

L'article souligne la mémoire et l'infrastructure de stockage comme les principaux points de support à l'ère de l'inférence de l'IA, ce qui signifie que la concurrence industrielle s'étend de la puissance de calcul pure au débit de données et à l'architecture de stockage. La bande passante mémoire et la latence de stockage deviendront des contraintes clés pour la mise en œuvre à grande échelle de services d’IA en temps réel.

NemoClaw externalise la mémoire des agents dans un modèle automatique lisible par l'homme, ce qui signifie que les agents au niveau de l'entreprise passent d'outils sans état à des collaborateurs à long terme avec un contexte persistant. Combinant des informations provenant de plusieurs sources, il ne s'agit pas d'une seule mise à jour de fonctionnalités, mais d'une reconstruction complète de l'infrastructure d'IA, de la mémoire sous-jacente à l'orchestration de niveau supérieur.

Ternus, responsable du matériel informatique chez Apple, a pris la relève en tant que PDG, et le passage de Cook à un rôle politique signifie que l'orientation stratégique de l'entreprise s'oriente vers des « expériences d'IA basées sur le matériel ». Dans le contexte de la forte augmentation des besoins en mémoire et en stockage pour l'inférence de l'IA, cette décision pourrait accélérer la mise en place d'auto-recherches d'Apple sur l'infrastructure d'IA côté appareil au lieu de s'appuyer sur des modèles cloud.

Les systèmes de mémoire LLM existants gèrent souvent implicitement les « changements d'informations » et la « redondance historique », conduisant à une pollution du contexte de l'agent. La proposition de MemLACE signifie que la gestion de la mémoire passe de la « récupération sémantique statique » à la « perception dynamique du cycle de vie ». Cela indique que les agents IA dotés d'une mémoire persistante seront capables de gérer des tâches dynamiques plus complexes et à long terme.

La gestion du contexte des agents IA traite la mémoire et le coût comme des problèmes architecturaux, marquant une exploration approfondie de l'architecture IA et ayant un impact significatif sur les performances et le contrôle des coûts des agents IA.