Articles sur Software Facts

Laisser des non-professionnels « examiner » les résultats du travail de l'Agent reflète le dilemme de confiance actuel de l'Agent incapable d'atteindre une boucle fermée autonome dans l'environnement de production. En combinant des signaux multi-sources, l'ingénierie des agents se concentre désormais du renforcement des capacités au contrôle des autorisations et à la vérification de la fiabilité de l'environnement de production.

Le contrôle de confiance par proxy et les « informations sur les logiciels récupérables » ont été intensément discutés récemment par plusieurs sources. Cela signifie que l'ingénierie des agents se concentre désormais du renforcement des capacités vers la fiabilité et le contrôle des autorisations de l'environnement de production. L'industrie tente d'utiliser la précipitation technique déterministe pour résoudre la crise de confiance dans l'environnement de production causée par le non-déterminisme du LLM.

Le bac à sable fournit uniquement une isolation d'exécution à gros grain et ne peut pas remplacer un contrôle d'autorisation à grain fin. Lorsque l'agent passe de l'environnement d'expérimentation à l'environnement de production, il doit transformer les jugements LLM peu fiables en « faits logiciels » vérifiables et annulables. Cela marque le passage de l'ingénierie des agents à la recherche de progrès en matière de capacités et à la nécessité de surmonter la fiabilité au niveau du système.

Les informations multi-sources montrent qu'AI Agent passe du stade expérimental à l'environnement de production. Le principal défi n'est plus simplement de développer des capacités, mais de savoir comment transformer le jugement et les actions de l'agent en faits d'ingénierie récupérables.

Le projet KDC explore la conversion des jugements et des actions des agents d'IA en faits logiciels récupérables. Par rapport au passé, cette technologie améliorera la fiabilité et l’explicabilité de l’IA, ce qui se traduira par une plus grande efficacité de développement et des applications d’IA plus sûres pour les développeurs.