Articles sur AI Alignment

Cette revue examine systématiquement l’alignement de l’IA du point de vue de la théorie des jeux, en se concentrant sur trois défis : la diversité des préférences, la priorité de l’alignement et la dynamique temporelle. Par rapport à l’accent mis précédemment sur des indicateurs statiques tels que l’utilité et l’innocuité, un cadre est cette fois fourni pour traiter les préférences dépendant du contexte et intransitives. Cela indique que la recherche sur l’alignement passe de l’optimisation mono-agent à la modélisation des interactions multi-agents.