Articles sur SMARtAutonomy

Lors d'un raisonnement approfondi, les agents de type LLM sont confrontés au problème de la dérive épistémologique et ont tendance à s'écarter des contraintes fixées par les experts. Le framework BRaVeS, en encodant les contraintes des experts du domaine sous forme d'ancrages invariants et en ajustant dynamiquement l'autonomie du système, indique que la gouvernance de la sécurité des agents évolue d'un alignement purement probabiliste vers un contrôle des frontières vérifiable formellement.