全球主机交流论坛

标题: Deepseek R1 671b on a $500 AI PC! [打印本页]

作者: 狗狗币 时间: 2025-5-18 19:52
标题: Deepseek R1 671b on a $500 AI PC!
u2b t_hh2-KG6Bw
有大佬懂这671B 有水分吗？

作者: doruison 时间: 2025-5-18 19:53
怎么可能，内存都不够吧

作者: 狗狗币 时间: 2025-5-18 20:12

doruison 发表于 2025-5-18 19:53
怎么可能，内存都不够吧

t_hh2-KG6Bw
这么快看完了？

作者: dd998 时间: 2025-5-18 20:32
本帖最后由 dd998 于 2025-5-18 20:37 编辑

是Q4量化版，压根就不是满血版。

看他视频里面屏幕显示的只有 0.75 token/s

很慢的，一个字一个字的蹦，无实用价值啊。

比之前清华大学那个在个人笔记本电脑上装的deepseek号称满血版稍微快点。

但是还是没法用。

作者: doruison 时间: 2025-5-19 09:42

dd998 发表于 2025-5-18 20:32
是Q4量化版，压根就不是满血版。

看他视频里面屏幕显示的只有 0.75 token/s

慢点是真满血版，无非是慢点，结果是对的
int4量化，或者小参数版本，可能结果都对不上

欢迎光临全球主机交流论坛 (https://fd.vvwvv.eu.org/)