比较意外的是，70b模型竟然也可以跑，毕竟在ollama官网上，70b推荐的显存需要43G，远超物理显存的24G。 但运行起来极慢，同样最简单的问题，“你是谁”，基本要过去5~10分钟才开始出 …

更别提DeepSeek已经把API价格卷到地板价，随便玩玩的话，你买一张能跑大模型的显卡的钱，够你在云端API爽到天荒地老。 本地模型适配一团糟 很多开源应用只适配了GPT-4o这种级别的 …

我电脑配置i7-11800H，ram 40G，3060 6G laptop显卡，想本地运行一下deepseek，遇到类似问题，即ollama运行deepseek 7b，8b尚可，而14b模型时候逐词输出太慢，而且只有CPU工 …

ollama部署的ai模型 显卡没有占用只用CPU在跑? 部署完模型后 显卡基本上不工作 我4B 7b都试了 cuda也安装了 我的是英伟达显卡 [图片] 显示全部 关注者

精英跑者，每周跑步也至少会达到4次。无论目标是马拉松冲击300，还是尝试突破自己的pb，这类跑者通常都会有自己的跑步训练计划，执行程度也普遍能达到75%以上； 进阶跑者，跑4休3 …

2025年2月11日 · 我测试了一下，用z790的. PCIe4.0 * 16+4.0 *4 . 搭配一张4090和3090，什么都不用搞，打上驱动就可以直接跑70b的模型，速度大概是15～20个tokens

以下就是跑过的模型，单模型运行0压力： 刚出的最新的地表最强千问2大模型，实测显存只占用5个多G左右；不仅0压力运行，还可以同时跑SD绘图（显存大小真的很重要）

2025年1月28日 · 别说昇腾显卡了，就是现在的groq芯片，cerebras芯片，你都没听说过的芯片，都不是gpu而是lpu，都跑deepseek跑的飞起。 苏妈的gpu本来没有CUDA在大模型上慢N一 …

2025年2月28日 · 12450h跑分对比参考： 跑分可以非常综合的反应出一款cpu的性能区间以及定位级别，跑分会通过多个cpu的综合性能表现做出一个打分，并不是只用一个cpu跑分，其实这 …

32B的模型（DeepSeek R1的激活参数是37B，QwQ是dense模型，所以两者推理激活参数差不多）能达到这个效果，我称之为逆天了，而且32B模型经过量化后，可以直接跑在本地消费级显 …