Noticias sobre Open-Source
1 artículos relacionados
MDMA: An open-source LLM inference federation engine
AI InsightMDMA es un motor de inferencia conjunto de código abierto para LLM, que admite kernels personalizados y asignación de memoria precisa, con funciones de federación privada. Permite a los usuarios ejecutar modelos de LLM en su propio hardware, mejorando la flexibilidad y la escalabilidad. Según los datos de GitHub, el repositorio de MDMA cuenta con 11 estrellas y 3 forks, lo que indica un reconocimiento inicial en la comunidad de desarrolladores.Importancia 70/100