Articles sur Mac Studio

Meta open source le grand modèle Muse Spark et Zuckerberg a souligné qu'il fonctionne bien sur le nouveau Mac Studio d'Apple, ce qui montre que les grands modèles accélèrent leur adaptation au matériel professionnel final. La combinaison de ce modèle open source et de divers matériels offre aux développeurs de nouvelles options de déploiement hors cloud.

Le nouveau modèle d'IA massif à 816B paramètres de Meta AI peut tourner sur seulement 2 unités Mac Studio, ce qui signifie que ce modèle dispose d'une efficacité de calcul élevée et d'une grande flexibilité de déploiement. La sortie de ce modèle pourrait avoir un impact sur le domaine de la recherche et du développement en IA, en particulier au sein de la communauté open source.

Apple explore la mise en œuvre de l'inférence de modèles de langage étendus locaux et distribués sur Mac Studio via le framework MLX combiné à la technologie RDMA de Thunderbolt 5. Cela signifie qu'Apple tente d'introduire du matériel grand public et de bureau dans la concurrence pour l'inférence distribuée de modèles de langage étendus hautes performances, offrant aux développeurs une nouvelle voie s'éloignant de la dépendance traditionnelle des GPU des centres de données.