Noticias sobre Apple Machine Learning Research

La investigación de Apple sobre la arquitectura Plan-then-Retrieve (PtR), diseñada para agentes basados en LLM potenciados por herramientas, significa que al procesar registros de herramientas a escala ultra grande, la estrategia de generar primero una intención abstracta antes de realizar una recuperación precisa se está convirtiendo en una dirección evolutiva clave para superar las limitaciones de la ventana de contexto y mejorar la eficiencia en la ejecución de tareas complejas.

La investigación descubre que, en escenarios con datos limitados, la mezcla de datos lingüísticos auxiliares es más eficaz que el ajuste de hiperparámetros de alta intensidad para mejorar la capacidad de generalización y el rendimiento en el preentrenamiento de modelos de lenguaje. Los resultados experimentales muestran que la mezcla de datos lingüísticos auxiliares puede mejorar significativamente la precisión de los modelos de lenguaje de bajos recursos, especialmente en tareas de traducción y análisis semántico.

El modelo Normalizing Trajectory Models (NTM), propuesto por el equipo de investigación de aprendizaje automático de Apple, emplea flujos normalizados condicionales para el modelado y utiliza un entrenamiento de verosimilitud exacta, con el objetivo de resolver el problema de suposición en el que los modelos basados en difusión comprimen el proceso de generación en unas pocas transformaciones toscas. Mediante el modelado de cada paso inverso, el modelo NTM ofrece un enfoque de modelo generativo más flexible y eficiente.

El equipo de investigación de aprendizaje automático de Apple señala que los modelos de difusión discreta pueden presentar limitaciones al procesar dominios como píxeles, fonemas o palabras. La investigación demuestra que los modelos tienen dificultades para capturar las dependencias entre tokens, lo que provoca que las secuencias generadas puedan no ajustarse a la distribución de los datos de entrenamiento.

El método RLTL;DR propuesto por Apple evita el dilema del aprendizaje por refuerzo tradicional que no se puede optimizar debido a una tasa de éxito nula en tareas difíciles y sin ejemplos, al permitir que el modelo de lenguaje grande escriba de forma autónoma ideas de una sola oración e internalice la retroalimentación después del fracaso. Esto muestra que la autorreflexión a nivel de texto de bajo costo se está convirtiendo en una forma clave de mejorar las complejas capacidades de razonamiento de los grandes modelos lingüísticos.

El método de guía de sonda propuesto por Apple mejora la calidad de generación de los modelos de lenguaje de difusión al reutilizar estados internos congelados para guiar el modelo de coincidencia de flujo sin aumentar la sobrecarga adicional del razonamiento. Esto significa que en la arquitectura de generación subyacente, cómo aprovechar eficientemente el potencial de representación interna de los modelos existentes se ha convertido en una dirección importante para superar los cuellos de botella de rendimiento.