Articles sur 生产环境

Laisser des non-professionnels « examiner » les résultats du travail de l'Agent reflète le dilemme de confiance actuel de l'Agent incapable d'atteindre une boucle fermée autonome dans l'environnement de production. En combinant des signaux multi-sources, l'ingénierie des agents se concentre désormais du renforcement des capacités au contrôle des autorisations et à la vérification de la fiabilité de l'environnement de production.

Le contrôle de confiance par proxy et les « informations sur les logiciels récupérables » ont été intensément discutés récemment par plusieurs sources. Cela signifie que l'ingénierie des agents se concentre désormais du renforcement des capacités vers la fiabilité et le contrôle des autorisations de l'environnement de production. L'industrie tente d'utiliser la précipitation technique déterministe pour résoudre la crise de confiance dans l'environnement de production causée par le non-déterminisme du LLM.

Le bac à sable fournit uniquement une isolation d'exécution à gros grain et ne peut pas remplacer un contrôle d'autorisation à grain fin. Lorsque l'agent passe de l'environnement d'expérimentation à l'environnement de production, il doit transformer les jugements LLM peu fiables en « faits logiciels » vérifiables et annulables. Cela marque le passage de l'ingénierie des agents à la recherche de progrès en matière de capacités et à la nécessité de surmonter la fiabilité au niveau du système.

AI Agent a été lancé dans l'environnement de production, ce qui indique que la technologie est passée du stade expérimental à l'application pratique. Pour les développeurs, cela signifie qu’ils doivent prêter attention à la maintenance et à l’optimisation au niveau de la production.