Noticias sobre AI Alignment

Esta revisión examina sistemáticamente la alineación de la IA desde la perspectiva de la teoría de juegos, centrándose en tres desafíos: diversidad de preferencias, prioridad de alineación y dinámica temporal. En comparación con el enfoque anterior en indicadores estáticos como utilidad e inocuidad, esta vez se proporciona un marco para abordar las preferencias intransitivas y dependientes del contexto. Esto indica que la investigación de alineación está pasando de la optimización con un solo agente al modelado de interacción con múltiples agentes.