#cpu-inference

DDR5 RDIMM vs RTX 3090 — ローカルLLMのGB単価が逆転した転換点

DDR5 RDIMMのGB単価が3090のVRAMを下回り、ローカルLLMハードウェア選択の転換点が到来しました。CPU推論とGPU推論のコスト構造を分析します。