Noticias sobre PyTorch Conf

DeepSeek ha abierto el código fuente de DeepInfer y ha demostrado unos márgenes brutos y una capacidad de rendimiento extremadamente altos, lo que significa que la inferencia de modelos de lenguaje de gran tamaño está pasando de depender de pilas comerciales de código cerrado a competir en infraestructuras de alto rendimiento de código abierto. La optimización de ingeniería extrema está rompiendo las restricciones tradicionales de los costes de inferencia, obligando a toda la industria a redefinir el modelo económico de las API.