Deepseek R1 671b on a $500 AI PC!

狗狗币 · 发表于 2025-5-18 19:52:29

u2b t_hh2-KG6Bw
有大佬懂这671B 有水分吗？

doruison · 发表于 2025-5-19 09:42:52

dd998 发表于 2025-5-18 20:32
是Q4量化版，压根就不是满血版。

看他视频里面屏幕显示的只有 0.75 token/s

慢点是真满血版，无非是慢点，结果是对的
int4量化，或者小参数版本，可能结果都对不上

dd998 · 发表于 2025-5-18 20:32:43

本帖最后由 dd998 于 2025-5-18 20:37 编辑

是Q4量化版，压根就不是满血版。

看他视频里面屏幕显示的只有 0.75 token/s

很慢的，一个字一个字的蹦，无实用价值啊。

比之前清华大学那个在个人笔记本电脑上装的deepseek号称满血版稍微快点。

但是还是没法用。

狗狗币 · 发表于 2025-5-18 20:12:07

doruison 发表于 2025-5-18 19:53
怎么可能，内存都不够吧

t_hh2-KG6Bw
这么快看完了？

doruison · 发表于 2025-5-18 19:53:24

怎么可能，内存都不够吧

		自动登录	找回密码
密码			注册

Deepseek R1 671b on a $500 AI PC!

浏览过的版块