Noticias sobre Red Hat

Google, Red Hat y IBM han lanzado conjuntamente llm-d 1.0, lo que significa que la infraestructura de modelos de lenguaje de gran tamaño está acelerando su evolución hacia una arquitectura nativa en la nube de código abierto con colaboración de hardware de múltiples fabricantes. Mediante la integración del enrutamiento consciente de la caché y el control de flujo multiinquilino, la industria está resolviendo sistemáticamente los cuellos de botella de coste y eficiencia en la inferencia a gran escala de modelos de lenguaje de gran tamaño.