Articles sur Apple Machine Learning Research

La recherche menée par Apple sur l'architecture Plan-then-Retrieve (PtR), conçue pour les agent IA basés sur des LLM et augmentés par des outils, signifie que la stratégie consistant à générer d'abord une intention abstraite avant d'effectuer une recherche précise, lors du traitement de registres d'outils à très grande échelle, devient une direction d'évolution essentielle pour s'affranchir des limites de la fenêtre de contexte et améliorer l'efficacité d'exécution des tâches complexes.

Des recherches ont montré que, dans des conditions de données limitées, le mélange de données linguistiques auxiliaires est plus efficace qu'un réglage fin des hyperparamètres à haute intensité pour améliorer la généralisation et les performances lors de l'entraînement pré-itératif de modèles de langage. Les résultats expérimentaux indiquent que le mélange de données linguistiques auxiliaires peut améliorer considérablement la précision des modèles de langage à faibles ressources, en particulier dans les tâches de traduction et d'analyse sémantique.

Le modèle Normalizing Trajectory Models (NTM), proposé par l'équipe de recherche en machine learning d'Apple, utilise des flux de normalisation conditionnels pour la modélisation et recourt à un entraînement par vraisemblance exacte, visant à résoudre le problème d'hypothèse rencontré dans les modèles de diffusion où le processus de génération est compressé en quelques transitions grossières. En modélisant chaque étape inverse, le modèle NTM offre une approche plus flexible et efficace pour la génération de modèles.

L'équipe de recherche en machine learning d'Apple indique que les modèles de diffusion discrets peuvent présenter des limites lors du traitement de domaines tels que les pixels, les phonèmes ou les mots. Les recherches démontrent que les modèles ont du mal à capturer les dépendances entre les tokens, ce qui peut amener les séquences générées à ne pas correspondre à la distribution des données d'entraînement.

La méthode RLTL;DR proposée par Apple contourne le dilemme de l'apprentissage par renforcement traditionnel qui ne peut pas être optimisé en raison d'un taux de réussite nul dans des tâches difficiles et sans exemple en laissant le grand modèle de langage écrire de manière autonome des informations en une seule phrase et internaliser les commentaires après un échec. Cela montre que l’autoréflexion peu coûteuse au niveau du texte devient un moyen clé pour améliorer les capacités de raisonnement complexe des grands modèles de langage.

La méthode de guidage de sonde proposée par Apple améliore la qualité de génération des modèles de langage de diffusion en réutilisant des états internes gelés pour guider le modèle de correspondance de flux sans augmenter la surcharge supplémentaire de raisonnement. Cela signifie que dans l'architecture de génération sous-jacente, la manière d'exploiter efficacement le potentiel de représentation interne des modèles existants est devenue une direction importante pour éliminer les goulots d'étranglement en matière de performances.