傅盛开年演讲:2024,我对AI的3点预测 内容来源:猎户星空和混沌学园联合主办的2024傅盛开年AI大课。 分享嘉宾:傅盛, 猎豹移动 董事长兼CEO猎户星空董... 

第7996篇深度好文:15715字|30分钟阅读

商业思维

笔记君说:

如今,市场越来越卷,每个人都叫苦不迭。

如何才能摆脱这种同质化的卷,跳出局外?

创新。唯有创新,走不同的路,提升生产力或价值,才能破万卷。

而如今的AI,就好比当年的蒸汽机。它颠覆了过去的生产方式,极大提高了生产力。

在这样的历史进展中,很多中小企业、个人如何才能不被颠覆,甚至借助AI能力实现价值放大?

我今天的主题是“AI大潮下如何创新”,创新是非常难谈的话题,尤其在创新的路上摸爬滚打,失败往往多于成功。

2023年是人类科技史上特别重要的一年,我特别喜欢的科普作家卓克,把2023年定义为人类科技奇迹年。科技奇迹是指:一个新事物的出现彻底改变人类社会。

奇迹年之一:1666年,牛顿发布万有引力定理和微积分,使得现代文明、工业大厦由此展开。

奇迹年之三:2023年,ChatGPT的横空出世,使得人类对科学的探索达到新的高度。

在这样的科技大潮之下,带来整个人类社会底层的重构。这意味着所有人的工作方式、思考方式都要发生变化。因为自身不变化就会跟不上时代的变化,更不要谈如何创新。但如何抓住是非常复杂的话题,所以我想从个人经历的科技大潮小故事开始。

大概20年前,我来到了北京,当时存折只有400元,那个时候也很卷,住过地下室,挤过300路(北京三环最著名的挤不上去的公交线)。

但一个非常有幸的机会,在2002年进入互联网,每天起早贪黑,用我自己的感受来形容那段工作时光,就是下过班没有看见过太阳。

20多岁的时候,我说30岁之前有三个愿望要实现,一是存款有一百万;二是可以到国外看一看,第三个愿望记不住了,因为都没有实现。那时候看到互联网的蓬勃发展,看过顶尖的弄潮儿,但是发现跟不上。

现在回头看,每个大变革的时代,作为普通人的有心无力,真的没有办法让自己抓住这次浪潮。

我的震惊是为什么在北京,大家每天工作加班累成狗,但他们却这么休闲?那时候给我的震撼相当之大,我在想,原来我这么勤奋并不是可以做出一些事情的充分条件。

遍访这些美国初创公司后,我发现,如果只靠勤奋,那就是今天社会可能的状态,同质化的勤奋就是卷。

不同的道路才可能胜出,因为你勤奋,对手会比你更勤奋,你不要利润,你的对手可以亏着卖,尤其是大公司,它可以不计成本的把你按下去。

一、创新的不二法门:找到不同的路

在帆船理论当中,领先的帆船只要跟着后面的帆船变帆,后者永远不可能超越前者,因为大家的风是一样的。即便是大潮当中,不去思索不一样的路,你也不可能实现超越。

后来仔细想什么叫创新?创新就是在不同的路上找到出路,那样才能更小投入、更大产出。

翻开美国的历史可以看到,金门大桥是一九三几年建成的,帝国大厦是一九三几年建成的。60年代,他们的高速公路已经铺到村村通。相信他们也经历过很卷的时代,到八几年美国经济滞胀,甚至要被日本超越,但是美国找到一个新的互联网道路,实现新一轮的技术创新。

在今天的时代下,经济总量到达一定规模,每一个创业者应该找到不同的道路,而不是比你做得更好的道路。

最近,OpenAI的创始人推荐了一本书——《为什么伟大不能被计划?》,他说OpenAI的出现不是必然,甚至是偶然,因为正是在大家看不到的道路上有人在尝试,发现了一条路,于是做了出来。

只有ThinkDifferent才能实现创新,才能跨越式发展,但是新的道路往往不在大多数人的认知地图中,正因如此,ThinkDifferent从最开始不被大多数人看好。

大家都知道的TikTok,当年我们是最早的天使投资人。当时没有人相信上海十个人的团队做美国的音乐短视频App可以火起来,但我相信ThinkDifferent总是有机会,这就是一条不同的路。

在2016年,互联网发展到各种新兴事物层出不穷,例如百团大战、小黄车大战,那时候在想,如果再开启一条曲线,我想做不同的事情,所以那时候我们就喊出AllinAI。

今天看到一个朋友说猎豹做了七年AI是吹牛,大模型才出来一年,但我想说,AI出来已经不止一年。

这是我们画的AI1.0的技术树,从最早DNN、CNN,到后来的Attention、Transformer,所有的公司开始认识到AI的巨大改变。于是,大家一起在这棵树上往上成长。

其实在2016年、2017年,大家对AI的判断是:出来就可以改变世界。我们做好了视觉识别,就可以做好语音识别,语音识别做好了,就可以理解语言,理解语言就可以自动驾驶。但事实上,在2018年、2019年,这棵树长不上去了。

人类是先有智能还是先有语言,这件事在学术界没有定论,但语言构建了我们对整个世界的认知,对逻辑的理解、推理,从而产生智能。所以当ChatGPT可以通过大量语料学习,完成对语音的理解时,那么离通用人工智能就不远了。

李开复把ChatGPT的出现定义为AI2.0时代,这不是在原来的路线上长出来的,而是在分支中爆发出来的。

回过头来看,ChatGPT就是ThinkDifferent。OpenAI最早做了四个项目:OpenAIUniverse、OpenAIFive、魔方机器人、ChatGPT。

ChatGPT是他们公司里面最不看好的,一个小聊天没有什么好做的,前面三个项目得到的资源都比ChatGPT多。

一旦对语言理解,AI就具备了推理和认知逻辑能力,产生了智能化。

很多人问我为什么OpenAI做出来了,是不是他们的科学家特别牛,这当然很重要,但它不是技术积累的成功,而是信仰的成功。

他们的原理上有自己的一套理论,首席科学家说为什么预测下一个词就可以变成智能,就好像读完一本侦探小说,最后要填杀手是谁,如果填对就代表对前面的所有都理解了,所以每一个下一次预测都是智能的涌现。

OpenAI出现后大家很困惑,怎么这么多人做大模型,这个技术不是很高深吗?我想说,如果作为人工智能的从业者而言,它并不高深,而是一棵树上的分支,无论是神经网络还是Transformer,都是我们所积累的技术。所以,不是技术积累的胜利,而是在这条路上全力以赴ThinkDifferent。

花了这么大的篇幅讲我的故事到OpenAI的故事,我想说的是——回顾当时的互联网创业大潮,再看这一次AI科技大潮,想在这个大潮中找到创新的法门,一定要有ThinkDifferent的思维逻辑,一定要找一条不是大家都在走的路,如果所有人一拥而上,相信这条路也很难走通。

当然,ThinkDifferent也有很多失败之处,这时候我们就要不停地思考、不停地复盘总结,不断寻找那条路,一旦找到那条路,创新就属于你。

二、AI大模型创新,

依然可以有新路径

1.ChatGPT是一次生产力革命

生产力革命的定义是很少见,人类历史上可能只有蒸汽机的出现叫做一次生产力革命,在蒸汽机出现之前,所有的搬砖能力只能靠人或者牛和马,愚公移山只能靠多生孩子,烧火只能用来加热食物。

蒸汽机出现后,能量的转化范式发生了变化,人类生产力大幅度提高,工业文明开始。

而ChatGPT由于具备语言理解,产生了人类独有的逻辑力和推理力。

这使得今后电脑有可能实现对智能的转换,以前我们要做一个智能系统要用很多人、很多实施,成本非常高,但费用不是边际递减。而ChatGPT出现后,有可能放一台电脑就可以像人一样工作。

今天这个时代,已经有些企业开始崛起,如果业务都用大模型重做一遍,十倍增长一定可以达到。

还有Midjourney,现在年收入超过2亿美金,如果只看它是一个玩图的网站,那想象不到它的商业价值,但如果把它跟类似猪八戒网的网站对齐,它就是提供设计外包,以前要找无数的设计师满足对图片的需求,现在只要在网站点几下,就可以获得你要的图片,所以它的生产力大幅度提升。

还有中国的公司HeyGen,它就做了一个应用,把现在的演讲变成英语、日语,把口形对准,现在年收入1800万美金。

Pika也是最近硅谷很热的一家公司,以前修改视频要找专业团队,但是Pika说我的模型可以直接做。

2.AI,是能力放大器

以上这些事情大家都已经相信,但是要怎样面对这一次AI大潮,听到更多的是不知道怎么做,总结两句话:

第一,这一波技术来得太猛,很多人问我,以后是不是不懂技术、不会编程就要被淘汰,以后都是理工男的天下,我们完全不懂AI到底是什么。

第二,变得太快了,刚学一些又有新的技术出现。

我认为,这一波AI的到来不是淘汰不懂技术的人,而是给不懂技术的人一个非常强大的支撑。

但是我想说万变不离其宗:所有的技术浪潮无论听起来有多神奇,都应该躬身入局,以终为始,找一条适合自己的路。

3.千亿大模型VS应用模型

2023年3月份,国内千亿大模型创业如火如荼,所有人都要做中国的OpenAI。

我的团队也找到我,说ChatGPT我们懂,OpenAI很早就用在NLP上,跟我讲做这个东西要准备好钱,赶快买A100。我当时也想冲动,但我在这个行业做了七年,清楚第一波完全是不计成本的投入,所以我也抑制住了激动的心情,说等我想想。

我想起当时第一波做AI1.0的时候,招了很多博士,做的很多技术都可以发论文。但我要坦诚的说,第一代机器人做得并不好,后来决定机器人需要什么就把哪个AI技术打磨好,而不是先搞一堆技术放在那里。

这时,我想起一句话:再高深的技术没有商业落地,都只是技术狂欢;脱离市场的技术投入,都是资源浪费。

这个观念今天讲出来需要勇气,因为天天大家都在讲硬科技等等,如果坦诚来看,在AI1.0时代,很多AI公司并没有真正实现闭环,或者实现的闭环并不够好,烧了很多钱并没有独到的东西,这是事实。

我看过一个乔布斯的录像——技术到底为何而存在?他说,不是为了工程师的技术本身而存在,而是为了应用而生。

所以我总结了两套模式:一种是训练千亿级模型,做垂直模型,再寻找应用场景;另一种是挖掘应用场景,做垂直模型,再打造适合的模型。

4.全员参与AI变革

那个时候,我自己带一个笔记本跟ChatGPT对话,让它教我写程序,教我各种东西,我发现有用以后我跟全员说,所有的部门都要参与到AI变革中。

而且不仅他用,我们法务、财务同事都在用,说这个比专业团队做的还好用,震惊了所有的程序员。

当时我跟程序员聊天的时候说你未来怎么规划,他说我都不敢想,因为佩琪(助理)都做出那么多程序了,我的价值何在。

所以我再回答开始那个问题,OpenAI是一个技术浪潮,但是不是让更懂技术的更牛,而是让不懂技术的人能够跨越技术的鸿沟。

所以,我们公司成立了AI生产力部门,把过去散落在各地的中台部门全部统一到这个部门里,而且直接向我汇报。

5.不是千亿模型做不起,而是百亿更有性价比

总结起来,AI前景很大,但现在真的是早期,大模型落地需要强应用。今天,你说一个API就能够让企业增长20%的效率,这是不可能的。

很多媒体朋友知道,我吵架经常会上微博热搜。有人说AI大模型对创业者不友好,99%的能力都是被大模型覆盖的,创业公司有什么价值?我就怼了一下,很多人以为我是一时兴起,但是事实上不是的,因为在这之前我们实践了太多——让大模型做好一个基本问答,都要做非常大的努力。

通过躬身入局,我想起来古人两句诗“纸上得来终觉浅,绝知此事要躬行”,你只看朋友圈就觉得AI要吞噬人类,未来全人类只需要一家公司就是OpenAI,但是你真正动手做,发现太多的细节是可以去做的。

简单来说,如果一个底层技术很牛,就能做出一切,芯片公司将统领所有行业,但并不是这样的。底层技术有底层技术的价值,应用有应用的价值。

2023年5月,有客户说能不能私有化部署,因为我们这个客户是政务客户,涉及到社保公积金的老百姓问答,他说这个东西不能放在公网上。

五六月份的时候,行业又发生了变化,LLaMA来了。LLaMA滋养了很多大模型公司,使得大模型的算法壁垒快速被消失。

我们可以看到这棵科技树在OpenAI的旁边又长出了一个分支,有一帮人想要用更高的算力,但也有一帮科学家、从业者、技术极客说千亿参数可以涌现智能,百亿参数可不可以?

所以,在LLaMA出现以后,整个开源社区开始百花齐放,小参数模型的性能快速崛起。

我们可以看到,有些百亿参数在某一些能力上已经接近了GPT。我们突然发现,也许千亿参数不是唯一选择,这个分支带来了AI大模型的二元化。

我当时有一个演讲说,有经济实力的公司全在卷算力,他们的梦想是造出一个爱因斯坦,再解决几个物理定律。还有一帮开源社区的极客爱好者,用更小的资源、更精巧的算法去实现智能,所以当时提出平民化大模型,每个人都可以随便用的大模型。

所以,我们发现用百亿参数的模型,加上客户自己的私有数据,再加应用的打磨,在专业领域可以约等于千亿参数大模型。

千亿参数大模型全面性更好,它的涉及面很宽,但在企业场景当中,只要在一个专业点上做好就可以。所以专业就够了,并且更具性价比。

三、每个企业都有私有化大模型的时代,

来了!

百亿参数足够,成本又非常低,所以每个企业都将进入私有化大模型的时代,任何企业都可以有自己的大模型服务器。

我们来看三个时代的企业核心变化。

最早的工业时代需要土地、厂房和生产线,这是核心资产。

到了互联网时代,谁有流量谁就牛。

最后一个阶段就是经营数据的数智化,AI的出现使得数据的价值放大。

在以前数字化的时代,基本上是表格里的数据,必须被数据库存储,这时候只是阿拉伯数字,但AI出现后可以理解自然语言,使得所有的会议纪要、邮件、讨论决策过程都变成数据。所以经营的全过程都是数据,这些数据有可能通过AI的参与变成公司的决策竞争力。

1.大模型到底能做什么?

AI在企业内部到底能做什么?很多朋友跟我说好像就是汇报或者写一个段子,或者用别的大模型做一张图片,这导致很多人感觉不太需要大模型。

在阐述这个问题前讲一下什么是AIGC。

AIGC就是AI生成内容,但如果把这个过程放大来看,AI由数据训练出来,如果是互联网出版物的数据,它对知识的了解就是大家的常识,之后给它一个提问,那就可以产生内容(C1),这种内容的实现回答都正确,但是没有用,因为很表层。

如果可以结合企业的私有数据,那就可以产生专业知识的内容(C2),如果可以根据私有数据再配合强应用,配合整个套件,实现企业经营决策的全流程(C3)。

那么可以把企业对AI的使用,总结成三个段位:

第一,青铜。基于公有数据,使用AI和Prompt,生成一些宣传文档或图片。

第二,黄金。例如公司有一个行政文档,员工守则、请假条例,把它灌到大模型里,问它来公司一年,想请三天假是否可以,或者明天要出差去太原,根据公司的差旅标准,住宿可以报销多少钱,这一类就是今天被行业内广泛提的“数字员工”。

第三,王者。这是对企业全过程的经营数据由AI参与,使得AI可以直接给你提经营决策。比如今天该不该发布一个产品,哪些费用可以减少,哪一个地方的工作重点需要加强——企业最大的成本不是用工成本,而是经营错误的成本,是对经营不够了解导致决策失误的成本。

所以,企业要想真正用好AI,应该是全流程、全数据化,完成“数字老板”,可以理解企业各种经营细节的Copilot,帮你提出经营决策建议,这件事情必须做到真正的流程重构。

2.OpenAI的“阳谋”

在展开前,调侃说一下OpenAI的“阳谋”,也就是你知道这件事可能对你不太好,但是你拒绝不了。

两千年前汉武帝想要分封,诸侯太大,汉武帝不容易打得过,直接杀人家会造反,于是有一个千古阳谋是推恩令,诸侯的土地平均继承给你的儿子,生几个分几个,随着诸侯一代代每个人得到的军队和土地越来越少,这些诸侯自然而然消失了。因为这是推恩令,诸侯无法拒绝,这就是阳谋。

OpenAI今天几乎已经把互联网上所有公开出版的数据读取了,但要知道人类的知识体系,互联网再浩瀚也是人类知识体系的冰山一角。比如开会讨论找重点的过程,实际是没有出版的。

因为一个公司的文档都有自己的竞争力和特点,哪怕在邮件、开会讨论的事情,其实都有几十人、几百人组成的共同的人类决策系统,这是今天OpenAI没有的。

所以,OpenAI推出了GPTStore,开发者通过它可以很快构建自己的应用,但这个东西一推出,就使得OpenAI以前只会从互联网上抓取数据,变成GPTStore,在内生的平台上产生数据。

如果一家公司要实现经营数据的全流程AI化,只靠合同、财务,短期内肯定可以提高效率。但当推出AI的时候,财务部跟我说,财务报表如果AI化,哪天泄漏都要被抓起来,法务也说合同怎么AI化,最后发现所谓的重要部门都有足够的理由抗辩。

如果我们使用ChatGPT,可能在帮自己的竞争对手,甚至有可能使得ChatGPT具备你的能力,某天就变成它的一个API接口,这件事正在发生。

GPTStore发布的时候,一位硅谷创业者说,Altman给了500美金的ChatGPT优惠券,但是毁了300万美金的公司,因为它把创业者做的事给做了。

前不久OpenAI内讧,有一种说法是GPTStore的推出在内部有争议,有更多内生数据进去的时候,人们不知道大模型未来到底会长成什么样。

我看过Altman的采访,他说以后人工智能应该变成:跟他说我要成立一家万亿美金的公司,人工智能开始分析市场的各种情况,创建创业计划,在网上找人力简历,发邮件雇人买东西,过了三年,整个公司运营起来,一看市值一万亿美金。

他说,以后95%的人都不要工作,5%的人工作就可以,给你们创造足够的财富,天天吃喝玩乐挺好的。

3.私有化大模型,增强企业竞争力

最初我也有这样的恐惧,但今天认为不是,刚才讲的科技树,在大的千亿通用模型边上,又开始出现百亿参数模型,最近还出了几十亿参数的模型,通过各种算法也能实现效能的增加。以后,每个人就有了贴身的助理,数据都是你自己的。

所以,企业要有持续的竞争力,就应该使用私有化大模型,让经营数据内循环,让企业过去留在每个人脑海的经验变成整个决策智能的一部分。

再回顾一下,企业要实现AI的王者地位,就应该是全过程的经营数据都变成私有化大模型的一部分,再加上强硬套件,实现数字员工+辅助决策,这是我通过不断跟客户的讨论和打磨,通过全员AI深度应用总结出来的模式。

四、脱离应用,大模型再好也只是技术狂欢

七年磨一剑,因为我们在AI行业投入很久,现在有顶级的团队。我们几年前就开始尝试各种算法,当时买了很多服务器、训练很多大模型,所以对算法的理解没有问题,还有是数据累计,其实在语音文字的语料上也累计了好几年,最重要的是中间两个:场景认知和应用打磨。

我们今天发布的大模型,专为企业应用而生。我们训练140亿参数的大模型,在企业应用的专业场景可以实现千亿参数的效果,我们在发布大模型基座的时候,直接做了7个应用方向的微调,也就是大模型发布基座的时候不能用。

比如前不久开复老师发了34B的模型,我们给他做了聊天微调,里面有15万高质量的数据,所以我们发布微调版本,在很多榜上名列前茅,现在还有很多爱好者说猎户星空调得不错。

因为要调好一个模型的应用方向,要在这个方向上积累非常专业且高质量的数据,并且我们还提供一个目标叫做千元显卡即可运行,今天也做到了,所以总结为三个词:用得好、用得起、用得安心。

看性能要先看榜单成绩,说一句题外话,对中国大模型来说,榜单刷分很容易,因为很多测试题是公开的,让大模型有榜单的训练数据,那就可以得很高的分。

如果让大模型读过这些题再参加评测,的确可以刷出更高的分。但我跟团队说,不能用应试教育版去发,就发一个没有读过题的版本,所以发布“素质教育版”。

这个素质教育版本基座能力,在200亿参数以下所有大模型的评测体系上得分都是领先的,这就代表比较强的基座能力,犯错的几率会很小。

在综合评测机构OpenCompass的测试中,我们比720亿的千问得分略差一点,但700亿以下的,我们的得分都是最好的。

这意味着我们大模型的基座能力,能够在企业应用当中平替掉很多三四百亿参数模型,参数可以简单理解成网络复杂度,百亿参数的模型,比千亿参数可以省90%以上的私有化部署成本。

另外,猎户星空可以支持320K的Token,一个Token相当于1-2个汉字,可以一次性读取50万字的文档,经过我们的实测,对30万字的文档里的任何一句话进行提问,它全部可以回答出来。

最早的时候大概只能支持千字量级的文档,文档过长的话,需要做大量的匹配工作。而现在,相当于一本几十万字的侦探小说,让它读完之后,问它杀手是谁,它立马能回答出来。

可以说,这是非常厉害的特性,量化性能的损失低于1%。把它的模型缩小到原来的几分之一大小,它依然能够实现原来模型99%的性能,我们把这叫作“减脂不减肌,无损压缩”。模型大小降低70%,推理速度却提高30%,这意味可以用非常便宜的显卡运作起来。

所以,为什么说企业的私有化大模型时代到来了,因为你的服务器成本和运营成本会降到你几乎可以忽略不计。

除了以上的优势,我们还加入了日、韩语能力测评。

以前我们做服务机器人的时候,每进到一个餐厅就得做适配,这让我们很苦恼。以前,在海外销售的服务机器人不具备多语言能力,很多可能性被钳制住了,现在有了大模型,日语、韩语可以做到很好的交流,能够进一步扩宽市场。

在评测指标上,今天发的140亿参数的猎户星空大模型是所有200亿参数以下各项评测性能最好的,但是跟GPT的全面性仍然有一定差距。

不过,通过各企业应用定义好垂直场景,通过数据和应用的打磨,我们已经实践出在应用场景上超越GPT-4的可能性,这不是妄想。

五、下一个里程碑:专注百亿模型

今天发布了这个大模型,我们下一步准备怎么做呢?

我们依然不会去训千亿的大模型,因为我认为这个基数的能力够。有人说千亿大模型的基数不断提升怎么办?条条大路通罗马。

最近业内开始出现一个叫MoE的构架。所谓MoE构架,是用多个模型进行集体决策,完成对一件事情的判断。

今天在业内发的论文里,8个百亿参数模型的联合运行,其性能的某些指标已经超过了GPT3.5。相当于很多火箭都在打造一个更大更强的发动机,SpaceX做了一个核心的发动机,绑成9个就是猎鹰9号,绑成27个就是猎鹰重型。

它用一个极简的可复制的构架完成了最大载送量的火箭,而不是去从头造一个特别独一无二的发动机。猎户星空正在做同样的事情,专注在百亿参数模型的性能提优,保证通过新的构架完成基础能力的不断提升。

为了让企业更好地应用,我们独家推出微调全家桶。微调指一个基座只有技术人员可以使用,这个时候就要有一个微调方向,去解决这个问题。我们做了一个聊天的微调大概用了15万条高质量的数据,有的是发完了以后再做的微调,有的时候是自带的插件微调。

大模型要和传统的程序有一个接口,这个接口调用一个插件,我们也针对插件做微调。除此之外还有专业问答,通过微调进行大海捞针,之后生成。

这些方向基本上都是我们通过不断实践、和客户摸索出来的。微调只是相对大模型的预训练为“微调”,但是工作量并不小,而且哪个数据能够让大模型表现更好,都是一点一点打磨出来的。

8个方向里面,我们重点打磨的两大方向,叫做RAG和Agent,这是在今天大模型AI浪潮里非常重要的两个方向。

RAG即专业知识问答,它更学术化的名称为“检索增强生成”。

比如,当你问大模型:“为什么周鸿祎先生要穿红色衣服?”如果没有做RAG的检索增强,他可能就会说:“因为可能他喜欢红色”。我们看过各种原因,包括“他喜欢红色”、“红色是他的吉祥色”“今年是他的本命年”等等,这些结论是它根据泛知识做的大致推理。

而做了检索增强以后,它会根据背景信息去重新生成检索,给你一个正确的回答:因为他的名字经常被人读成“周鸿伟”,他穿红衣是为了提醒别人他是“鸿祎”。

这个回答他曾在几次演讲当中说过,但是不一定是互联网上的公开数据集,因此如果没有检索增强,就很容易出错。

RAG被很多行业人反复提及,并且有了专业术语。但是真实的情况是,如果你不深入做,虽然很快可以给别人Demo,但是半年都用不好,因为将准确率把控好非常困难。

今天开源社区有很多RAG套件,基本上往上一套之后再把文档一换就可以回答了,但是这个回答往往准确率不够高,而我们这次推出RAG套件是一系列的组合,能够保证极高的准确率。

我们在内部做了一轮评测,准确率远远高于对手,这不是大模型基座单一的能力,而是与RAG套件统一合作完成的。

有一个概念叫“数字员工”。但是,目前的数字员工能力很低,基本上就只能对文档给出提示。要想真正地将企业应用与专业知识深度融合,做到和人一样准确的回答,需要RAG套件。

Agent是硅谷今年特别火的方向。它帮助大模型实现人类的记忆、行为规划等等一系列的事情。Agent用得最多的场景是和传统的系统接口之间调一个打开接口。

这件事听起来很简单,但是并不容易。因为大模型常常回答不稳定,如果不做足够多的微调,问它同一个问题就会出现不固定的答案,或者难以从一句话里找出关键点。

在Agent所需要的五种能力中,猎户星空大模型均接近GPT-4的水平,其中包括:意图识别成功率90.3%、首轮抽参成功率100%、多轮抽参成功率90%、缺槽反问成功率91%、插件调用成功率91%。

虽然我不是很懂专业领域,但是我知道这些很重要。因为要保证大模型跟你的系统接口不出错,保证大模型能够稳定运行,就需要套指标。我们评测过很多同等参数量的模型,能够超过70%都很难。

比如我问:“北京今天天气怎么样?”它得知道你问的是天气,还是北京的天气,而且每次保证足够的稳定。我们最近想要把我们的经营数据和大模型打通,这套工作程序非常复杂,但是能够稳定输出,因此需要试一试。

综上所述,要先把RAG和Agent两个套件用好,企业数字员工才能够落地。否则用一些公开接口、一套开源数据库、开源向量数据库或构架去提升准确率的话,完全没法应用。

六、借助AI,如何打造“数字老板”?

我们这次发布的1400亿参数大模型,完全开源免费、可商用。

之后,我们还会成立免费的社区支持群,将微调应用方向开源,以此希望促进大模型行业不再只是技术狂欢,而能够真正落地,我们甚至期待更好的技术大模型的出现。

猎户星空百亿参数大模型,我们认为它是企业标配的首选,值得企业们为我们驻足。

通过以上的讲解可以看出,我们的产品差不多算是达到黄金段位了,但是还未登顶王者段位。不过,我们正在走向王者的路。

真正要实现王者段位,就要让AI要和企业的经营数据全绑定,一步一步深入,为企业提供决策支持。我们当时提出了一个叫AI基地的概念,AI产生决策,而不是内容,一个企业要真正到达王者段位,需要AI辅助决策。

为此,我们推出了一个强应用套件——聚言。聚言专门用作咨询服务,当企业或员工遇到难题时,它可以教课、做培训,它帮助企业老板提高决策效率,增加企业决策准确度,是一种真正意义上的“数字老板”。

我们做了三个重点的强应用,在这几个强应用上还提供保姆式的服务,真正通过应用+调试+流程整合一条龙服务,全程帮用户进行落地。我们专门参考传统咨询公司的做法,提供的服务包括从业务流程如何组织体系改造,到方案设计、大模型的选型、实施、培训等。我们提出交钥匙解决方案,保证AI的应用效率可以做到行业领先。

虽说基础模型和模型工具大家都有,但在今天再回头看,跟着应用一起生长出的几个套件才应该是真正的重点,而这套解决方案是跟客户一起打磨出来的,不是在办公室里想出来的。

其实,AI不是一把手推动,就没有办法真正推下去。而AI真正的提效不在于数字员工,而是老板,老板的效率高,整个公司就活了。

杰克·韦尔奇说:“老板是最后一个知道公司要倒闭的人。”其因为很多经营的细节是散落在很多地方,只能通过一个个人的汇报了解总体情况,而且听汇报的效率和精力都是有限的。

接下来,我有三个问题问老板们:

1.你真的听得到一线的呼声吗?

HR一直是很难数字化的部门,因为在大模型出现前,每个人的工作是通过文字表达,所以过去任何系统很难真正做到对员工工作状态有足够了解。

我想今天对一线员工的理解,很多人工作很辛苦,但并不知道他在忙什么。整个公司都在做战略项目的时候,可能到了一线的时候,很多人都没有在做。

我琢磨这个产品的时候在想,真正帮企业提效,一定要找到AI比人擅长的地方,而不是简单替代人。

AI真正比人擅长的地方是可以读数千份文档,做出归纳总结,它的广度和精力一定比人强,它做出基本的推理给你提供决策支持。

2.你公司的运成本花到哪里了?

后来发现这是极其深度的工程师,它的语言对外几乎无法交流,CEO不懂云,CIO不敢得罪CTO,业务部门总是申请更多的云资源,但很多时候都不怎么用,CIO又不了解业务的细节,所以云就变成闲置资产。

今天云资产已经成了全公司的重要资产之一,所有的企业都是科技企业,所以云资产的管理也是一个痛点。因此我们在上面开发了针对这项功能。

3.你的新营销策略怎么做?

今天要去得一份咨询报告非常贵,如果问一下ChatGPT,他回答听起来有用,但它很难生成长达几十页的报告,实用价值并不大。

为此,我们做了几个Agent互相讨论的工具,可以给出一些营销策略。

聚言希望打造的就是老板真正的决策助手,我们希望可以让AI进入全流程经营决策,但它并不是简单的实施,而是需要跟客户一起生长。

七、2024,对AI的3点预测

最后一部分,我想对2024年的AI做三点预测:

第一,千亿大模型真正使用起来很少,但私有化百亿大模型会百花盛开。相信更多的企业会部署私有化的百亿大模型,真正帮助企业经营提效。

第二,超越OpenAI的机会来自应用创业公司。

今天很多朋友去美国看回来跟我们聊,说这一波AI的应用创业硅谷实在太火了。

回想Web时代的互联网创业,中国可能和美国是1:1,但是这一波AI创业硅谷至少是我们的好几倍,硅谷已经有了AI应用一条街,那条街上都是AI创业公司,他们将大模型的能力和真正的实际相结合,让AI能真正落地。

第三,数字老板成功企业标配。

以后董事会考核CEO使用AI的时长,如果一个CEO用AI都用得少,我觉得你是不是数字老板不重要,你一定会落后于这个时代。

另外就是,具生智能现在很火,但是人型机器人毕竟不能量产。

我们要创新,但是我们也要务实,我做机器人这个行业也做了七年,和机械相结合、传感器相结合的时候,整个进展难度没有摩尔定律的支撑,必须在机械结合上做大量的改进,所以非常难。

大模型今天对语言的理解,对企业内部的应用还需要一些成长和落地,更不要说变成了一个能够自主去熟悉物理环境的人型机器人。

我们今天把这个亮点回顾一下:

首先,我认为科技创新的核心是ThinkDifferent,在原来的路径上,我们或许可以做得更好,但对手也可以做得更好。

我们今天看到的科技爆炸不是一条通天的登天梯,而是不断的竖状结构。当这条路被别人占领的时候,你就可以想另一条路,也许就能实现新的创新。

这就是创新的逻辑,你在一条路上卷不过别人的时候,可以想另一条路,这条路也许也能实现超越。

这就是又一次的ThinkDifferent,成就了一次又一次的创新,所以我坚决不相信只有一条路才能成功,我们每一个科技创业者都应该去找到不同的道路实现差异化的创新。

第二,我们在业内首提企业应用AI的三个段位:从青铜到黄金,再到王者。

接一个API让员工用用大模型只是青铜段位;能够深度的使用RAG套件、私有数据相结合、实现数字员工是黄金段位;第三个段位应该是企业经营全流程AI化,实现AI的辅助决策,帮助企业提高决策效率和准确率。

而猎户星空大模型,也希望各位企业成为AI应用的王者,也希望所有的企业都知道创新道路千万条,不是只有OpenAI这一条。

2016年,当我喊出应用AI的时候,很多人问我你干嘛不去做电动车。但我生来倔强且坚持,既然选择了就决定一路往前。我一直热爱AI领域,中间有很多人质疑我的选择,我从选择的那一天起就决定不要轻易放弃。

但是,创新是很孤独的路,我相信你们大家也有过心碎、焦虑的时刻。

我觉得人生有的时候就是,你既然选择了就是一路往前。

到34岁的我开始创业,那个时候我们团队非常小,但我想清楚应该ThinkDifferent,应该找一条不同的路,不应该在过去的战场继续留念,所以做了出海。如果遇到34岁的我,我想说,放下自己好好做你热爱的事情,你一定能够再成功。

后来我想,管那么多呢?外在世界我也变不了,我就好好的改变自己。我既然做了AI这件事情,就要保持对他的热爱。我是一个做产品的,我就应该热爱产品、热爱应用,只要用热爱,就能在创新的道路上一点一点摸索出自己的道路。

ThinkDifferent看上去很容易,实际却很难,失败的风险也很高。

我们看到的创新成功案例,是无数个创新者、创业者在不断寻找方法,前仆后继失败的人之后冒出的那几个人。我们不一定可以成为最终冒出头的人,但是要做一往无前的人,因为每一份的努力都有意义。

最后,猎户星空的私有化大模型,希望与每一个热爱创新的创业者一起乘风破浪,谢谢大家!

THE END
1.邦赢网络(helpwin)打造具有品牌思维的创新团队 注重每一个细节 差异化体现品牌价值 以品牌融合创意 未来已来 在没有硝烟的战场 抛去繁华,重获新生 我们的故事才刚刚开始 …… 相信品牌的力量 帮助客户以更少的成本投入,整合全方位的营销视觉 获得成倍的价值转换,是邦赢持续追求的专业素养 http://www.bangying360.com/
2.成都电销团队外包电销团队电话营销销售外包公司成都电销团队找【牛企网络】,一家专注电销外包公司,专业提供电销团队,外包电销团队,电话销售外包,电话营销外包,电销外包,电销公司,外包电销公司,电销外包团队,电销外包服务,电销坐席外包,电销外包项目,电销外包收费模式多少钱等服务项目http://chengdudxtd.shujiemei.com/
3.网站建设简介/我想找一个营销团队网站建设简介,我想找一个营销团队,vs2015是网站开发,教学网站开发背景,android开发工具哪个好,html模板免费十个网页请移步至这里以获得更加的排版和阅读体验,谢谢您本系列文章假设各位看官对python是足够熟悉的,但却不太了解win32编程。嘛。。其实我也没学过win32编程,脸请各位看官随意招呼。需求:最近因为做课题http://www.flsr.cn/news/1275481.html
4.我想自己创业怎么办股指期货交易手续费广发期货手续费5. 组建一个团队 如果你不能自己完成所有事情,那么组建一个团队至关重要。寻找拥有与你互补技能和经验的人。一个强有力的团队可以帮助你克服创业过程中的挑战。 6. 建立一个品牌 你的品牌是你业务的标识。它包括你的公司名称、标识、website和社交媒体形象。建立一个强大的品牌将帮助你脱颖而出并吸引客户。 https://www.gongyisiwang.com/27851.html
5.《玩转社交电商的精髓》——赖威志你和马路上一个路人擦肩而过,你觉得营销他的概率有多大?对吧? 所以真正的流量,必须靠价值来吸引,通过透露出你的价值吸引过来的人,才叫流量 所以你会经常听说一个词:引流。因为只有通过价值吸引的流量,才是有意义的 所以,大家都想获得流量,但是我诚恳地希望大家冷静下来想一想,流量凭什么来? https://www.meipian.cn/2mg3m1hr
6.营销之道范文12篇(全文)结果两个月过后,文具店老板主动找该文具品牌洽谈合作事宜,不久这家店铺就成了该品牌文具的专卖店。这家生产品牌文具的公司特别懂得营销中的舍得之道,先用极少量的付出,最后换取了与文具专卖店的长期合作,成为互相可以信任的伙伴,真是高明之至。 或许一些企业可以用这样的原因来解释:这家公司实力雄厚,可以大胆地在https://www.99xueshu.com/w/ikey4si9beuk.html
7.TowardsDataScience博客中文翻译2020(七百一十八)首先,预测性销售线索评分根据反映客户和潜在客户感知价值的标准生成一个可跟踪的指标。其次,它允许营销团队开展更有针对性的活动和投资,以最大限度地提高营销支出的投资回报率。第三,它通过优化销售团队与高质量客户和潜在客户打交道的时间和精力,提高了销售团队的效率和生产力。最后但同样重要的是,它通过协调收购和https://blog.csdn.net/wizardforcel/article/details/142676755
8.个人创业计划书范文(系列10篇)打造一个地方能将都有着共同爱好的同学聚集起来,一起分享动漫的乐趣,充实同学们的课余生活,培养这个朝阳产业紧缺的人才,为国家输出现代化的新型人才,我想这也是学校支持大学生创业园目的。我们的团队宗旨是立足于动漫,发展于动漫,成功于团队。 (二)店面简介 正如前面所述,本店主要经营漫画书籍、玩偶、布偶、饰品、https://www.liuxue86.com/a/4781171.html
9.年终总结和下一年工作计划(精选13篇)公司正规化运作已两个多月,目前,团队架构已基本构成,职员稳定,职业经理人对行业现状和公司状态有了比较全面的了解,同时两个月的业务实际操纵我让们相信,对公司下一步进行一个较为周到稳妥规划的'条件已基本具有,根据新公司的成长规律,我们以为,需要捉住目前金融行业的商机和公司团队建设的契机,对公司20xx年的最后一https://www.fwsir.com/Article/html/Article_20230223102901_2430591.html
10.销售2024年度个人工作总结(15篇)团队有分工,有合作,人员之间沟通顺利,相处融洽;销售人员已掌握了一定的销售技巧,并增强了为客户服务的思想;业务比较熟练,都能独当一面,而且工作中的问题善于总结、归纳,找到合理的解决方法,廊坊在这方面做得尤其突出。各相关部门的配合也日趋顺利,能相互理解和支持。好的方面需要再接再励,发扬光大,但问题方面也不http://www.jiaoyubaba.com/zongjie/90257.html
11.公司员工个人工作总结(集锦15篇)四、团队协作方面 众人拾柴火焰高,每一项工作不可能由一个人完成,而团队协作更是证明了1+1是大于2的,我把领导交给的任务,以及和其他同事的任务衔接好,做到了有效沟通,共同把每个项目推进到更好的高度,让每个项目不仅达到客户的要求,还要比过去完成的类似项目更好。 https://m.oh100.com/a/202110/3690403.html
12.9年销售路,苦乐我自知(转自天涯,一个新手从一窍不通到销售冠军第二段:第二个月到第三个月。那是一段激情迸发的日子,在熟悉了一些销售的套路后,跑销售开始有了一些门道,比如,我知道找一个客户应该在什么时间什么地点而Z总找到我的目的就是希望我能加入他的营销团队,大家一起来创业奋斗。Z总之所以找到我,是因为我有2年多的销售基础,又在市场部工作了近1年,而且毕业http://www.360doc.com/content/14/0109/00/202378_343736583.shtml
13.大学生部门述职报告(通用12篇)社团的发展方向主要来源于社团骨干的策划及努力,一个好的社团少不了一个好的组织团队,在组织建设方面机电工程系的社团给了我们最好的诠释:CAD协会曾多次获得省、市、院级各项荣誉,他们以自己扎实的专业根底将各种知识竞赛、技能比武展示给社会、学院、学生,电子电气维修协会和信息艺术系的创智电子维修协会更是体现了https://www.wenshubang.com/shuzhibaogao/71018.html
14.年度优秀团队推荐理由在近几年的发展过程中,xxx不仅在生产经营工作取得了突出的成绩,而且不断创造出了许多内容丰富、形式多样的服务手段,同时在营销服务管理上也逐渐成熟,20xx年,按照区局、地区局的统一部署,市场部进一步完善了市场营销机制、充实了营销队伍、形成了一个团结创新、真抓实干的营销团队,创造出了明显的营销业绩。https://mip.yjbys.com/jiuyezhidao/fanwen/qitafanwen/1205220.html
15.竞聘岗位演讲稿(精选11篇)二是可以依托农业银行这个品牌,并有总行专业高能团队在作坚强后盾; 三是已有良好的业务基础和银政合作基础; 四是近两年我行梳理确定了大量重点营销客户和项目名单,为下一步工作提供了储备。 我下一步的工作思路是:在部门领导的指导下,围绕投行业务2016年“增收、创新、规范、控险”的总体要求以及融资+融智+融合的https://www.yuwenmi.com/fanwen/yanjianggao/439588.html
16.证券人员年度工作总结(精选20篇)当然我一直坚信,离开都是有理由的,但是作为把大家带进来的,没有让大家赚到钱,我是有责任的,团队最多人数到达22人,在八九月份,那是考验最大的时候,那时根本上停掉了新人的引进,从开始有人提出离职的时候,我想作为一个团队没有招聘长期的生存会成为问题,有进有出,这才是一个健康的营销团队,20xx年对团队的要求https://www.aixizuo.com/article/48458.html
17.公司总经理就职发言稿(精选14篇)目前国内传统的厨房电器知名品牌(方太、老板、帅康、樱花、华帝、万和、万家乐、樱雪、欧意、万喜、美的等)和二线品牌差不多20家;我们可以撇开这些传统品牌不说,就是今年就有长虹、新飞、格兰士等向厨卫电器进军,而且投入和市场推广的力度也相当的大,长虹、格兰士光一个营销团队都接近50人,投入资金都是成百万的去https://www.360wenmi.com/f/file345v648r.html
18.年度个人总结(通用20篇)还有一起奋斗的兄弟姐妹们!最近翻到原来的工作总结,看了后心潮涌动——这正是我成长的印记!自华厦伟业销售团队进入营销中心,1月1日,项目盛大开盘。至今2个多月时间,经历开盘前和开盘后2个阶段。开盘前阶段,工作积极努力,充满热情,对市场充满信心。主要完成以下工作:沙盘讲解,话术训练和考核;现场爬楼,户型知识考核https://www.ruiwen.com/gongwen/nianduzongjie/1060047.html