Dynamic Sampling に関する報道

新しい arXiv の論文では、DAPO の動的サンプリングの理論的分析を実施し、全正解/全不正解の応答のフィルタリングによってゼロ勾配が排除されるものの、難しいプロンプトでは正しいサンプルを効果的に利用できないことがわかりました。非対称増幅の利点はトレーニング効率の低下につながります。これは、現在の主流のサンプリング戦略には見落とされている効率のボトルネックがあり、よりきめ細かく難易度を意識した設計が必要であることを意味します。