Articles sur Switchyard
1 articles liés
Meet Switchyard: A Rust Proxy and Library That Routes and Translates LLM Traffic Across OpenAI and Anthropic APIs
AI InsightL'essence de la sortie de Switchyard par NVIDIA est d'insérer une couche d'interopérabilité ouverte entre le client LLM et le backend d'inférence, permettant à des outils tels que Claude Code ou Codex CLI de basculer de manière transparente entre vLLM, NIM ou Ollama. Cela montre que la portée concurrentielle de NVIDIA s’étend des puces à l’écosystème des logiciels d’inférence. Le statut de pré-publication montre qu'il a l'intention d'établir des normes à l'avance plutôt que de les commercialiser immédiatement.Importance 60/100