干货 软件 Rules & Tips
1. 遵守中国大陆相关法律法规
2. 严禁发布盗版软件
3. 严禁传播破解方法或工具
4. 严禁发布甩链接的下载信息
5. 提倡分享亲测好用的软件
6. 名称、版本、平台是必要信息

目前手机上的 deepseek 经常遇到服务器系统繁忙的问题,有本地部署有必要吗?

查看: 2470|回复: 21
凝雅i 发表于 6 天前
目前手机上的 deepseek 经常遇到服务器系统繁忙的问题,现在有说本地配置部署有必要吗,不太懂想请教一下
cress2002 发表于 6 天前
先上结论:
1、没有本地部署的必要
2、有替代方案:纳米AI搜索,或其他不限速的第三方APP

要问有没有必要本地部署,就要先问你为什么要本地部署,这是成事的核心逻辑,A是不是,B为什么,C怎么做。
以下分情况思考:
1、如果是已有复杂的工作流+强力显卡,需要频繁本地挂机处理任务,那就有必要本地部署,节省API费用,安全限制也少一点(其实限制还是很多)。
2、如果只是玩玩,那用在线版更好,性能也更强。

目前的替代方案:使用“纳米AI搜索”这个APP,红衣教主(周鸿祎)出的,进去后点底栏-AI机器人-deepseek,可免费用deepseek的R1和V3,还有付费的R1满血版可用,这3个都不卡。

另外,把我对deepseek的认知扔这:
1、以deepseek R1/V3目前的性能,它的推理能力并不能超越chatgpt,它的文字能力(中文)也无法超过claude3.5,但有其八成的功力,且巨便宜,这使得之前受昂贵API使用费限制的想法,得以实现
2、所谓“推理过程”,是个伪命题。AI是黑箱逻辑,训练是黑箱,输出也是黑箱,没有任何人类知道AI是如何思考的,甚至它“是否有思考的过程”也不见得清楚,目前市面所有AI展示的推理过程,都是满足人类希望看到类人思考过程的欲望而已,换句话说,AI一直在哄着你玩,你看它如何思考不过是一厢情愿
3、deepseek有便宜的API费用+八成顶级AI的功力,会扫清AI应用的成本障碍,让很多工作流的输出质量将得到飞升,比如excel处理,举例,把A用户过去3年的购物清单做成表格,含商品名称、价格、点击次数等参数,这个庞大的表格,之前也能处理,但用便宜的AI,效果不好,还不如人工;用贵的AI,效果是上去了,但死贵用不起,现在就好了
4、deepseek走的是取巧路线,二次蒸馏,但卡脖子问题依然存在,算力依然是大问题,国产GPU一天出不来,这场战役依然未见黎明
5、未来的决战场是自动化,也就是机器人,而不是AI大泡沫。在自动化战场,更需要象deepseek这种性能够用+足够便宜的产品
Azad 发表于 4 天前
没有必要。除了官方也有其他可替代的在线使用网站或api接口,比如硅基,顺便放一个我的邀请链接
siliconflow注册,点击链接注册可以获得14元的额度,当然官网注册也可以获得。相当于200万token的额度,可以用很久了。
也可以调用硅基的api,接入微信、QQ等平台(接入我的微信小号,效果还不错)
邂邂 发表于 6 天前
主要原因是被米国天天攻击了
 楼主| 凝雅i 发表于 5 天前
cress2002 发表于 2025-2-2 22:30
先上结论:
1、没有本地部署的必要
2、有替代方案:纳米AI搜索,或其他不限速的第三方APP

感谢解答,太全面了!!!
Edward 发表于 5 天前
cress2002 发表于 2025-2-2 22:30
先上结论:
1、没有本地部署的必要
2、有替代方案:纳米AI搜索,或其他不限速的第三方APP

deepseek本来就是开源免费  360为什么收费 ?
大漠飞雕 发表于 4 天前
我在国外的,还真经常上不了deepseek,刚才还试了,网页端完全 打不开,手机app可以用,但说是没有联网模式
cress2002 发表于 4 天前
Edward 发表于 2025-2-3 13:29
deepseek本来就是开源免费  360为什么收费 ?

这不是遭攻击么,deepseek官方限制了满血版R1的出现概率,而用红衣教主的app,可以随时用满血版R1,周老板说他搭建了专线,有费用
kat 发表于 4 天前
cress2002 发表于 2025-2-2 22:30
先上结论:
1、没有本地部署的必要
2、有替代方案:纳米AI搜索,或其他不限速的第三方APP

关于你的认知部分:
第二点「所谓“推理过程”,是个伪命题」有论据支撑麽?

关于第四点:

你似乎把「数据使用」和「能力迁移」两个概念搞混了哈。

来讲讲知识蒸馏吧 - 这玩意其实就是让小模型跟着大模型学习,通过学习大模型的输出和中间特征来获得能力。这个技术在深度学习圈里已经用得很普遍了,基本上是标配。不是 Deepseek 原创的,像 Google、OpenAI 这些大厂都在用这个技术来压缩模型、加速推理、省钱。所以说这不是什么投机取巧,就是个很标准的技术工具。

还有,Deepseek 现在的成绩不是光靠蒸馏就能达到的。他们在好几个方面都有创新:
蒸馏技术本身的优化
模型架构的创新
训练策略的改进
数据的利用和合成方法
推理加速和部署的优化
评估和迭代的机制
总之是多管齐下才有了现在的水平。
cress2002 发表于 4 天前
kat 发表于 2025-2-4 13:07
关于你的认知部分:
第二点「所谓“推理过程”,是个伪命题」有论据支撑麽?

2个争议点:
1、AI展示的推理过程,是不是”表演“
2、蒸馏技术,是不是Deepseek的取巧

先说第2点,你说的对,我的确说偏了。
喂数据训练A模型,跟A模型直接跟S模型学习,的确不太一样,后者除了拿最终结果训练外,还能学到S模型的输出概率分布。
Deepseek拿手绝活,的确不止蒸馏术,否则为什么别人没蒸出来。
但我依然认为,蒸馏术是Deepseek能后发制人的关键元素。
能制人,以后也会受人制。
自有语料+强大算力,这个短板必须补足,不然早晚受制。

从本质上看,原始语料vs模型学习,区别似乎并不大,都是模仿起手。
并且,我认为这种基于模仿的原理,不能最终造出真正的AGI。
从哲学的角度讲,这里边缺了一个”上帝”的存在,即第一源。
就好像,人类永远不能造出真正的活的生物细胞,一个都不行。

关于第1点, 推理过程是表演,这个倒没有实质性论文,属个人猜测。
原因:
1、展示的推理过程是线性的,太象人类了,根本不是神经网络的运作模式
2、反复刷同一个问题,AI会给出同一个答案,但配与不同的思考过程
3、不能确定,是先有答案,再配上推理;还是先有推理,再基于推理优化答案。我个人认为AI是同时处理的。如果是同时,就谈不上推理。
4、用提示词可优化推理过程(使用思维链、增强自洽检查、说人话、一步步思考等),使得推理过程看起来更合理,但问题,就出在这个“看起来”上了。非常可疑。
因此我的怀疑:AI展示的推理过程,就是在哄人玩
黑夜毒刃 发表于 3 天前
学习了!
明路广厦 发表于 3 天前
cress2002 发表于 2025-2-4 09:54
这不是遭攻击么,deepseek官方限制了满血版R1的出现概率,而用红衣教主的app,可以随时用满血版R1,周老 ...

你这个人,有点东西哟
Developer_Qiu 发表于 3 天前
服务器繁忙大概率是因为遭受了网络攻击,耗尽了服务器带宽和系统资源,这个问题在后期应该会被解决;
至于本地部署,完全没必要,因为你本地的机器最多跑14b或者更小的参数,除非你的电脑挂了很多且牛逼的显卡,勉强能使用,否则一点作用都没有(除了装逼),网上那些教你本地部署的都是交智商税,不要花钱去学这种没用的东西;
如果你有能力,最好的办法是直接使用官方提供的API,开源的东西,有兴趣可以自己研究一下
topsxslu 发表于 3 天前
硬件方面和你聊聊吧
如果部署精度最低的量化模型
电脑配置要求并不是特别高
量化模型显存要求如下
7B的要求4G显存
14B的要求8G显存
32B的要求18G显存
70B的要求40G显存
当然显存不够也是可以用的
会占用部分内存
且会导致速度变慢
而蒸馏模型的显存要求会高很多
7B-16G,14B-32G,32B-74G,70B-161G
满血模型要1300+G显存就不说了
所以结论就是
只是想简单玩玩
目前的绝大部份电脑已经可以玩了
当然模型不聪明那是正常的
但想专业的玩玩
在没有数据安全性方面担心
和足够预算的前提下
不建议花大价钱去玩
赤道上的冰美式 发表于 前天 09:46
求一个本地部署小白也能看懂的教学!
Azad 发表于 前天 11:47
cress2002 发表于 2025-2-2 22:30
先上结论:
1、没有本地部署的必要
2、有替代方案:纳米AI搜索,或其他不限速的第三方APP

讲的很好,不过中文能力我们编辑群一致认为他是目前所有AI中最好的,已经达到甚至超过专业中文编辑水平,在语法修辞方面几乎不输修辞学大家
MoonCup 发表于 前天 12:28
我觉得,本地部署你大可以试一试,自己试过了才觉得有没有必要,电脑配置差不多的情况下,下个模型也就不到10G(添加环境变量更改模型下载位置,默认c盘),毕竟不会缺那点流量和储存。
文火慢燉 发表于 前天 14:02
正在用cloudstudio部署中,网上教程各种不全,还得借助kimi来帮忙。。。
已经部署好14B,不错诶!!!!
陸西瓜zoe 发表于 前天 14:56
大模型多,占用内存且更新迭代也快,考虑本地部署如果只是为了使用或许没有必要吧
樱星落 发表于 昨天 19:35
cress2002 发表于 2025-2-2 22:30
先上结论:
1、没有本地部署的必要
2、有替代方案:纳米AI搜索,或其他不限速的第三方APP

hello,请问有其他替代方案嘛?纳米ai网站版不能添加附件,想要免费的可以不限量添加文件的
cress2002 发表于 昨天 21:24
樱星落 发表于 2025-2-7 19:35
hello,请问有其他替代方案嘛?纳米ai网站版不能添加附件,想要免费的可以不限量添加文件的
...

有稍微付费的方案,用deepseek的API,非常便宜,看你这个意思就是玩票,充10元能用很久,步骤:
1、下载安装chatbox
2、上deepseek官网申请API,拿到一串数字
3、把API粘贴到chatbox里
4、启动chatbox,就能用了
具体步骤可去B站搜,关键词:“chatbox deepseek”

完全免费的deepseek不存在,那都是套壳网站引流期的福利
cress2002 发表于 昨天 21:24
樱星落 发表于 2025-2-7 19:35
hello,请问有其他替代方案嘛?纳米ai网站版不能添加附件,想要免费的可以不限量添加文件的
...

有稍微付费的方案,用deepseek的API,非常便宜,看你这个意思就是玩票,充10元能用很久,步骤:
1、下载安装chatbox
2、上deepseek官网申请API,拿到一串数字
3、把API粘贴到chatbox里
4、启动chatbox,就能用了
具体步骤可去B站搜,关键词:“chatbox deepseek”

完全免费的deepseek不存在,那都是套壳网站引流期的福利
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

虫部落 陕ICP备14001577号-1川公网安备 51019002003015号联系我们FAQ关于虫部落免责声明虫部落生存法则社区广场

Build with for "make search easier" Copyright © 2013-2024. Powered by Discuz! GMT+8, 2025-2-8 04:37

快速回复 返回顶部 返回列表