Noticias sobre MLX

Apple explora la implementación de inferencia de modelos de lenguaje grande locales y distribuidos en Mac Studio a través del marco MLX combinado con la tecnología RDMA de Thunderbolt 5. Esto significa que Apple está tratando de incorporar hardware de consumo y de escritorio a la competencia por la inferencia distribuida de modelos de lenguaje grande de alto rendimiento, brindando a los desarrolladores un nuevo camino que los aleja de la dependencia tradicional de GPU de los centros de datos.