Noticias sobre Thunderbolt 5
1 artículos relacionados
Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
AI InsightApple explora la implementación de inferencia de modelos de lenguaje grande locales y distribuidos en Mac Studio a través del marco MLX combinado con la tecnología RDMA de Thunderbolt 5. Esto significa que Apple está tratando de incorporar hardware de consumo y de escritorio a la competencia por la inferencia distribuida de modelos de lenguaje grande de alto rendimiento, brindando a los desarrolladores un nuevo camino que los aleja de la dependencia tradicional de GPU de los centros de datos.Importancia 80/100