Noticias sobre Mac Studio

Meta abrió el código abierto del modelo grande Muse Spark y Zuckerberg señaló que funciona bien en el nuevo Mac Studio de Apple, lo que demuestra que los modelos grandes están acelerando su adaptación al hardware profesional final. La combinación de este modelo de código abierto y hardware diverso ofrece a los desarrolladores nuevas opciones para la implementación fuera de la nube.

El nuevo modelo de IA de gran tamaño con 816B de Meta AI puede ejecutarse en solo 2 unidades de Mac Studio, lo que significa que este modelo cuenta con una eficiente capacidad de cómputo y una flexible capacidad de despliegue. El lanzamiento de este modelo podría tener un impacto en el campo de la investigación y el desarrollo de IA, especialmente en la comunidad de código abierto.

Apple explora la implementación de inferencia de modelos de lenguaje grande locales y distribuidos en Mac Studio a través del marco MLX combinado con la tecnología RDMA de Thunderbolt 5. Esto significa que Apple está tratando de incorporar hardware de consumo y de escritorio a la competencia por la inferencia distribuida de modelos de lenguaje grande de alto rendimiento, brindando a los desarrolladores un nuevo camino que los aleja de la dependencia tradicional de GPU de los centros de datos.