美股最惨暴跌,中国AI用557万美元砸掉英伟达6500亿市值
美股最惨暴跌,中国AI用557万美元砸掉英伟达6500亿市值
写作于 2025-01-28,数据为当时情况
暴跌!
美国股市历史上单日市值损失最大的事件就发生在昨天(北京时间1月27日晚)。
这次的主角是NVIDIA英伟达。
之前一路暴涨的英伟达股票,昨天直接暴跌17%,市值蒸发了6500亿美元。
这比阿里巴巴、百度、京东三家公司的市值加起来还要多。
而且不仅仅是英伟达,涉及到人工智能、算力的美股都有不同程度的下跌。
台积电暴跌13.33%,博通暴跌17.4%,谷歌下跌4%,微软下跌2%。
引发这场暴跌的,是一款来自中国的人工智能大模型——DeepSeek-R1的横空出世。
它就是DeepSeek-R1。
这一天,中国的DeepSeek让英伟达Deep Sick。 ** ** DeepSeek logo里的这条鲸鱼,让全世界认识了中国AI的力量。
经过测试,DeepSeek-R1在AIME 2024数学竞赛任务中,准确率达到79.8%,超过了OpenAI的78.5%。
代码编写能力,DeepSeek-R1获得了超高评级,超过了96.3%的人类参与者。
学术界惊讶于他的能力已经不逊于之前ChatGPT推出的推理大模型O1。
F哥将史上最难数学高考题的选择题交给它解答。
几分钟之后,12道选择题,他对了11道,只错了一道。
更让人吃惊的是,DeepSeek-R1的训练成本非常低,根据公开数据,训练成本仅为557万美元,还不到ChatGPT-O1的二十分之一,但是能力和O1比肩,这个投入产出比简直无敌。
低成本高质量,Deepseek颠覆了当前的AI发展理念。
美国CNBC电视台为DeepSeek做了一场长达40分钟的专题报道:
“中国新的人工智能模型 DeepSeek 如何威胁美国的主导地位?”
CNBC采访了许多美国科技界的领袖,他们对Deepseek给予高度评价。
在疯狂堆算力的AI界,DeepSeek走出了另外一条不一样的道路,证明了用高效的训练架构、科学的强化学习训练,也可以获得非常优质的结果。
对比传统的AI训练模式,几十分之一的成本是颠覆性的。
要知道现在一个国际大厂的AI部门,deepseek这次的训练成本,还不够给管理层发工资的。
据说现在国外大厂AI部门负责人,正在瑟瑟发抖,思索着如何向老板汇报,为什么中国人花这么少的钱办了这么大的事?现在养这么多人的团队还有没有必要?
更牛的是,完全没有人质疑DeepSeek在成本问题上说了假话,因为DeepSeek是完完全全开源了。
所有训练代码、模型的权重等相关技术细节都是公开的,相当于操作说明都放在了阳光下,有条件的可以自己照着说明书做一遍,把DeepSeek-R1复现出来。
Deepseek允许用户免费商用,任意修改,衍生开发自由使用,这么大气,获得了科学界的一致好评。
对比名为“Open”实际却闭源的OpenAI,DeepSeek才是真正的开源AI。 ** **
deepseek的使用成本非常低,注册就能免费试用。
用到高级功能的时候,才需要花钱买token。
注册就送的10块钱token,就可以用很久。
相对于收费比较贵的ChatGPT来说,DeepSeek是相当便宜。
便宜又好用,那当然就受到用户的热烈欢迎。
开源社区那边的下载量已经超过100万。
DeepSeek在中国和美国区苹果App Store的免费榜上的下载量均排在第一位。
用过的都说好。
现在AI领头羊 ChatGPT也因为Deepseek的开源和免费,急忙宣布o3-mini免费。
之前要想使用o3-mini的费用可是200美元/每月,一般人根本用不起。
只是谁都想不到,做出如此牛叉AI产品的公司,既不是国内大厂,也不是科研单位,而是一家主业是量化基金的公司—幻方量化基金。
他们用来训练AI的显卡,之前是用来炒股票的。
这次出手,一下子就杀到国际顶尖水平。
大A股就是这么卷。
股市里的小散户,以前一直觉得自己在A股是小米加步枪对抗庄家的冲锋枪,直到今天,才发现自己大错特错。
小散户手里只是水果刀,而对手盘则已经有了核动力航母和六代战机这种级别的武器。
2
由于使用Deepseek的人太多,压力太大,服务器一度宕机。
有人抱怨说刷了一个下午都没用起来,很扫兴。
这点大家可以理解一下,deepseek不是互联网公司,之前从没有过这么多用户,现在全球的使用者蜂拥而至,服务器过载也是可以理解的。
而且官方也提示说,遇到了黑客攻击。
现在只支持中国手机号注册。
天道好轮回,之前国人为了使用ChatGPT去购买美国的虚拟手机号,现在要轮到美国用户购买中国的虚拟号了。
其实除了使用Deepseek官方提供的免费服务,还可以在自己家的电脑上本地部署Deepseek-R1。
有了属于自己的本地AI,再遇到deepseek的服务宕机,也不用怕。
这波deepseek大火起来之前,F哥就已经在自己家电脑上安装好了Deepseek-R1。
能够做到这些,就是因为Deepseek完全开源。
Deepseek不仅开源了满血版6710参数,他们同时开源了15亿、70亿、80亿、140亿、320亿、700亿、版本的Deepseek-R1。(1b=10亿)
大家可以根据自己的显卡来选择模型的大小。
F哥的显卡是RTX4060Ti 16G,选择安装了140亿和320亿参数的Deepseek-R1。
在RTX4060Ti 16G显卡上,140亿参数的R1运行速度较快。
输出的速度有26.32tokens/s。
体现在屏幕上就是刷刷刷的出结果。
320亿参数的DeepSeek-R1吃资源厉害。
输出速度只有3.6tokens/s,运行的时候就是一个字一个字往外蹦,很慢。
可见16G显存只能勉强运行320参数的大模型。
但是推理的过程和最后的结果,还是参数更大的性能更好。
本地部署人工智能大模型,F哥已经搞了很多了,有了一些经验。
选择安装什么参数的大模型,主要就是看显卡的显存。
8G显存的显卡,可以选80亿参数。
16G显存的显卡,选140亿参数的匹配比较好。
32G显存的显卡运行320亿参数更合适。
如果电脑显卡不太行,那就选15亿参数的小模型尝尝鲜。
满血版是6710亿参数,非常非常厉害了,普通人的硬件是跑不动的。
有网友为部署满血版DeepSeek-R1,购置了7台Mac mini和一台M4 Max MacBook Pro。
这一套设备花了几十万,还不能嫌贵,因为比起花几百万去买显卡,这已经是最便宜的方案。
3
下面F哥就教大家如何在自己家电脑上安装Deepseek-R1。
这次用的工具依然是老朋友ollama。
ollama的安装过程很简单。
下载安装包,和安装别的Windows软件一样,鼠标双击即可,选择默认安装。
在Windows开始里打开ollama,然后到右下角程序找到这个ollama的图标。
点击之后,选择view logs,就会打开一个文件夹窗口。
然后在文件夹窗口的地址栏里输入cmd,就进入了ollama的命令行窗口。
接下来只要在命令行输入一行代码就可以自动下载安装了。
把“ollama run deepseek-r1:1.5b”这段代码输入进去,安装的就是15亿版本的Deepseek-R1。
这个版本比较小,性能一般。
“ollama run deepseek-r1:8b”安装的是80亿参数Deepseek-R1。
以此类推,320亿参数是 “ollama run deepseek-r1:32b”,700亿参数是“ollama run deepseek-r1:70b”
要安装6710亿参数的大模型,软件里输入的代码就是:
“ollama run deepseek-r1:671b”。
等待安装完成后,就成功在本地电脑里部署了Deepseek的大模型,电脑不用联网也能运行。
对数据有安全性要求的朋友,就可以使用这个方案。
F哥已经把ollama的安装包打包上传到网盘了,大家到公众号后台输入**“ollama”**就可以获得程序的下载地址。
想要拥有完全自主控制权的人工智能系统,现在即可开始部署。
还有什么不明白的可以加F哥微信。