Noticias sobre LLMs

Existe una brecha de inferencia fundamental en la aplicación directa de estructuras de sesgo psicológico humano a evaluaciones de modelos de lenguaje grandes, lo que significa que algunos estudios de sesgo de modelos actuales pueden no reflejar verdaderamente sus mecanismos internos de cálculo y toma de decisiones. Los investigadores deben establecer métodos de evaluación que estén más en línea con las características probabilísticas y de generación de texto de los modelos de lenguaje grandes, en lugar de aplicar ciegamente escalas cognitivas humanas.

El CEO de Anthropic, Dario Amodei, hizo un llamado a establecer contrapesos en la velocidad de desarrollo de los LLM, lo que refleja la creciente preocupación de la industria por el ritmo de desarrollo y la seguridad de la IA. Amodei señaló que los daños potenciales traídos por la tecnología de los LLM incluyen la posibilidad de desplazar a los trabajadores humanos y exacerbar los problemas sociales. Esta preocupación podría marcar una reevaluación por parte de la industria sobre la responsabilidad y la seguridad de la IA.

Aunque los grandes modelos de lenguaje ya son capaces de realizar tareas estructuradas como la escritura de códigos y la síntesis de datos, las últimas investigaciones muestran que todavía carecen del juicio y el gusto necesarios en la investigación científica abierta. Esta limitación significa que el camino hacia la superación personal recursiva es mucho más tortuoso de lo esperado, y el foco de la evolución tecnológica está cambiando de las capacidades de generación de código a capacidades de exploración cognitiva de orden superior.