Noticias sobre LLM agents
4 artículos relacionados
Inyección de autoridad estructurada: control humano persistente para LLM Agent mediante anulaciones escritas MCP
Structured Authority Injection: Persistent Human Control for LLM Agents via Typed MCP Overrides
AI InsightLa propuesta del protocolo de Inyección de Autoridad Estructurada (SAI) significa que el mecanismo de control de los Agent basados en modelos de lenguaje de gran tamaño está evolucionando desde la intervención blanda dependiente del lenguaje natural hacia restricciones duras con validación arquitectónica. Al anclar la intervención humana en llamadas a herramientas tipificadas del Model Context Protocol, resuelve el problema crítico del fallo de instrucciones en contextos largos. Esto impulsará el desarrollo de sistemas de Agent autónomos hacia una mayor seguridad y controlabilidad.Importancia 88/100El arnés como única superficie mutable: autoevolución limitada por el cumplimiento de LLM Agent en los canales de crédito, con una puerta de admisión medida
The Harness as the Only Mutable Surface: Compliance-Bounded Self-Evolution of LLM Agents in Credit Pipelines, with a Measured Admission Gate
AI InsightLos agentes LLM adaptativos se enfrentan a una contradicción natural entre la autoevolución y la auditoría regulatoria en las líneas de crédito. Limitar estrictamente la superficie variable al soporte en tiempo de ejecución en lugar de a los pesos del modelo significa que la evolución autónoma de los agentes en industrias de alto riesgo está pasando de la búsqueda de la optimización de caja negra de extremo a extremo a una práctica de ingeniería de caja gris auditable en sus procesos y con límites controlados. Esto proporciona un modelo arquitectónico importante para el despliegue conforme a las normativas de los modelos de lenguaje de gran tamaño en escenarios estrictamente regulados.Importancia 80/100EntidadesLLM AgentsProxy Confidence: Auditing Black-Box LLM Agents with a Surrogate's Log-Probabilities
AI InsightLa naturaleza de caja negra probabilística de los modelos cerrados de vanguardia limita la auditoría en tiempo real de la seguridad en la ejecución de los Agent. Mediante la introducción de modelos alternativos de código abierto de bajo costo para una puntuación paralela, la industria está explorando un nuevo paradigma de verificación de la fiabilidad de los Agent que no depende de los permisos de caja blanca del modelo.Importancia 88/100AREX-2: Avanzando en la superación personal de los Agent a través de tareas reflexivas de largo horizonte
AREX-2: Advancing Self-Improving Agents through Long-Horizon Reflective Tasks
AI InsightLa capacidad de autoevolución del agente AREX-2 se logra a través de tareas de reflexión a largo plazo y capacidades de ejecución a largo plazo, lo que podría aumentar el valor de aplicación de los agentes LLM en escenarios que requieren mejoras iterativas en las soluciones. El diseño del agente AREX-2 se basa en Qwen3.8 y adquiere capacidades de autoevolución en tareas de aprendizaje automático y programación algorítmica mediante aprendizaje supervisado.Importancia 75/100