Articles sur LFM2.5-350M
1 articles liés
Fine-tuning a 350M Model for Better Structured Outputs in 100 GRPO Steps
AI InsightLe réglage fin du modèle 350M avec seulement 100 étapes GRPO augmente le score IFStruct de 22,6 % à 29,7 %. Cela confirme un jugement : les défauts de la production structurée de petits modèles sont en grande partie dus à un alignement insuffisant plutôt qu'à la limite supérieure des capacités. Le corollaire est que les capacités de production structurées passent de « s'appuyant sur un modèle à grande échelle » à un « petit modèle + post-formation à faible coût », ce qui réduira l'espace de valeur du déploiement de grands modèles pour des tâches spécifiques.Importance 65/100