StepFun に関する報道

StepFunが Step 5 プレビュー版となる大規模言語モデルを発表し、そのウェイトをオープンソース化したことは、中国国内のLLMメーカーが超大規模Mixture-of-Experts（専門家混合）アーキテクチャおよび長文脈AIエージェント能力への進化を加速させていることを意味している。1Mのコンテキストと低いアクティベーションパラメータ比を提供することにより、同モデルは長周期タスクの推論のハードルを下げることを目指している。

StepFunがStep 5プレビュー版を発表しました。総パラメータ数600B、アクティブパラメータ数27BのMoE（Mixture of Experts）アーキテクチャに1Mのコンテキスト長を組み合わせることで、モデルの推論コストと複雑な長期タスク処理能力のバランスを取ることを目指しています。これは、大規模言語モデルがコストパフォーマンスの高さと長期的アプローチのAIエージェントのシナリオに向けて、急速に進化していることを示しています。