#diffusion-model

Consistency Diffusion言語モデル：ARの14倍速で品質損失ゼロ

Together AIが発表したCDLMは拡散型言語モデルの推論速度を最大14倍に向上させ、品質損失を最小化します。ブロック単位の並列生成とKVキャッシュの組み合わせが鍵です。