70B-Q4_K_M的模型大小为42.52GB，基本上需要64克的内存才能成功。为了谨慎，我将其放在这里的96克机器上。 Q6模型具有57.88G，Q8模型具有74.98G。根据自己的机器选择。 CPU线程池已满，评估处理尺寸被拉到1024。标题是“请帮助我写年底摘要。主角是程序员，每天24小时工作24小时，每周工作24小时。”实际的CPU占约50-70。双通道内存中仍然有一个瓶颈，但尚未达到定性变化的水平，并且内存占据了约54GB。结果在4分43秒，1.64 Tok/sec，1233代币，6.79的第一个令牌中释放，这是可以接受的。
但是根据朋友的反馈，在持续对话中，70B将被困。我在这里测试了它，并要求继续根据原始文本对其进行修改。原始文本包括“每天12杯黑咖啡”，“关于终端中的错误日志的梦想”，“公司出勤系统”，“使用JSX思考世界”，在英语中如此不合理或不必要。我告诉它：“每天喝12杯咖啡会杀死人们。如果您没有任何需要，请将其更改为中国人。”此时，朋友报道的可疑现象开始出现。尽管结果以4分24秒为单位，1.61 Tok/sec，1183代币，1050.18，首先显示为1050.18。注意这个第一个令牌。计数后，它首先想到17.5分钟，然后开始工作。总等待时间超过20分钟。
但是您认为它可以运行吗？确实可以运行，结果也非常好。不必要的英语单词已被中文术语取代，“虫子，截止日期”和其他可以保留的东西被保留了，“考虑世界的JSX”已更改为“ javascript，以思考世界”。其他部分没有被要求改变，也没有随机更改。但是，无论是程序还是AI，思维方式与人类的思维方式仍然不同，因此您需要重新填写所有以前的内容。在这里，我要求将程序员更改为原始艺术家，并且正式计算的结果很长一段时间。
标签：
用户评论
哇，70B的模型没有图形卡也能运行，这太神奇了！我之前以为这种大模型必须得有高性能的显卡呢。
有8位网友表示赞同！
真的吗？没有图形卡也能运行70B的DeepSeek？那我是不是也能在我的普通笔记本上试试了？
有13位网友表示赞同！
听起来很酷，但我有点担心，没有图形卡的话，运行速度会不会很慢啊？
有19位网友表示赞同！
70B的模型没有图形卡运行？这让我有点怀疑，性能会不会大打折扣？
有13位网友表示赞同！
哈哈，这问题让我想起了自己曾经的电脑，虽然没有图形卡，但也能勉强运行一些简单任务。希望DeepSeek也能这样。
有6位网友表示赞同！
没有图形卡的话，运行效果可能不如有显卡时那么流畅，但至少能试试看，不错的机会。
有13位网友表示赞同！
70B的模型，没有图形卡？这让我想起了之前那个纯CPU跑深度学习的案例，感觉挺有意思的。
有7位网友表示赞同！
我有点好奇，没有图形卡运行70B的DeepSeek，是不是意味着功耗会更低呢？
有12位网友表示赞同！
没有图形卡的话，那散热应该也不会成问题吧？这对一些对环境要求较高的场合来说是个好消息。
有18位网友表示赞同！
这让我想起了之前的一个朋友，他的电脑没有显卡，但用CPU跑深度学习模型效果还不错。希望DeepSeek也能这样。
有7位网友表示赞同！
70B的模型没有图形卡也能运行，那我是不是可以省下买显卡的钱了？哈哈。
有19位网友表示赞同！
没有图形卡的话，运行速度可能不如有显卡时快，但至少能体验一下DeepSeek的魅力。
有15位网友表示赞同！
这让我想起了之前那个用CPU跑深度学习模型的故事，感觉DeepSeek这个做法挺有创意的。
有18位网友表示赞同！
70B的模型没有图形卡能运行，那我是不是可以尝试自己在家部署一个了？
有12位网友表示赞同！
没有图形卡也能运行70B的DeepSeek，这让我对深度学习有了新的认识，原来可以这样玩。
有18位网友表示赞同！
这问题问得好，我之前也一直以为大模型必须得有高性能显卡才能运行，没想到还有这种可能性。
有14位网友表示赞同！
没有图形卡运行70B的DeepSeek，这让我对深度学习领域的发展有了新的期待。
有9位网友表示赞同！
70B的模型没有图形卡也能运行，这让我对DeepSeek这个项目产生了浓厚的兴趣，一定要试试看。
有13位网友表示赞同！