SpikeOPD に関する報道

SpikeOPD は、自己回帰スパイク言語モデルでオンポリシー蒸留 (OPD) を使用して、固定コーパス接頭辞を自己生成接頭辞に置き換え、教師と生徒の接頭辞ソースの不一致によって引き起こされる出力戦略の偏差とスパイクの動的ドリフトを解決することを提案しています。 ANN から SNN への以前の固定プレフィックス蒸留と比較して、スパイク言語モデルのトレーニングに OPD が初めて導入され、蒸留の安定性が直接的に向上します。