李开复:中国的优势在于制造真正实惠的AI推理引擎

2024-10-22 11:39:50   来源:新浪科技   评论:0   [收藏]   [评论]
导读:  新浪科技讯 10月22日上午消息,零一万物创始人兼CEO李开复近期在与外媒沟通中透露,目前公司旗下Yi-Lightning(闪电模型)的推理成本,已经比OpenAI GPT4o便宜31倍。他指出,中国的优势在于制造真正实惠的AI...
  新浪科技讯 10月22日上午消息,零一万物创始人兼CEO李开复近期在与外媒沟通中透露,目前公司旗下Yi-Lightning(闪电模型)的推理成本,已经比OpenAI GPT4o便宜31倍。他指出,“中国的优势在于制造真正实惠的AI推理引擎,这是AI应用蓬勃发展最重要的一件事。”

  据加州大学伯克利分校 SkyLab和LMSYS研究人员近期发布的一份大模型排名,零一万物 Yi-Lightning与Grok-2和马斯克创办的xAI并列为全球排名第三的大模型公司,仅次于OpenAI和谷歌的最新模型。据李开复透露,“零一万物 Yi-Lightning 的推理成本是每百万token收取14美分(0.99元),而OpenAI的较小模型o1-mini每百万个token需要26美分。与此同时,OpenAI的更大尺寸的模型GPT-4o的推理成本为每百万个token 4.40美元。”

  此外,李开复还指出,Yi-Lightning模型的“预训练”成本为300万美元——模型关键训练阶段成本,之后可以根据不同的应用场景进行微调或定制。这一训练成本仅为OpenAI训练GPT-4的3%,而且Yi-Lightning性能还超越了GPT-4。

  当前,鉴于获取尖端AI芯片供给的难度,国内AI领域的玩家在过去一年中一直在竞相开发高质量数据集来训练“混合专家”模型,使得自家模型具备与竞争对手不同的特色。李开复指出,“零一万物采用了远远优于传统网络抓取方法的数据收集方法,包括扫描书籍,爬取深网区的数据,使用新颖的合成数据技术等。”

  李开复指出,工程师在数据标注和排序方面需要做很多不为人知的艰苦工作,国内拥有大量技术厉害且刻苦耐劳的工程人才,在这方面比国外更有优势。“中国的优势不一定能在预算不封顶的情况下做出前所未有的突破性研究,但肯定能更好、更快、更可靠和更低成本地实现落地”,李开复表示。
 

分享到:
责任编辑:zsz

网友评论