全球主机交流论坛

标题: Deepseek R1 671b on a $500 AI PC! [打印本页]

作者: 狗狗币    时间: 2025-5-18 19:52
标题: Deepseek R1 671b on a $500 AI PC!
u2b t_hh2-KG6Bw
有大佬懂 这671B 有水分吗?
作者: doruison    时间: 2025-5-18 19:53
怎么可能,内存都不够吧
作者: 狗狗币    时间: 2025-5-18 20:12
doruison 发表于 2025-5-18 19:53
怎么可能,内存都不够吧

t_hh2-KG6Bw  
这么快看完了?
作者: dd998    时间: 2025-5-18 20:32
本帖最后由 dd998 于 2025-5-18 20:37 编辑

是Q4量化版,压根就不是满血版。

看他视频里面屏幕显示的只有 0.75 token/s

很慢的,一个字一个字的蹦,无实用价值啊。

比之前清华大学那个在个人笔记本电脑上装的deepseek号称满血版稍微快点。

但是还是没法用。
作者: doruison    时间: 2025-5-19 09:42
dd998 发表于 2025-5-18 20:32
是Q4量化版,压根就不是满血版。

看他视频里面屏幕显示的只有 0.75 token/s

慢点是真满血版,无非是慢点,结果是对的
int4量化,或者小参数版本,可能结果都对不上




欢迎光临 全球主机交流论坛 (https://fd.vvwvv.eu.org/) Powered by Discuz! X3.4