极库
极库7900X3D 的 128MB L3 是桌面交互推理的延迟药:7B 级量化权重整块躺在缓存里,batch=1 的逐字生成不用反复回内存取数,配上 12 核 24 线程和 5.6GHz 睿频,聊天和代码补全这类一问一答的活体感非常跟手。切到批量吞吐,缓存就让出决定权,双通道内存带宽接棒定速。
只玩交互式本地模型,它是桌面端少见的值;天天跑长批量的,钱该去 GPU 或更高带宽的平台。12 核是为交互与日常备的,别拿去扛持续满载的重管线。先想清自己等不等得起逐字回复,再决定要不要为缓存买单。