天æžå¤§å’–秀

登录| 申请注册

百度平地起“雷â€ï¼Œçªç„¶çˆ†å‡ºçš„QPSæ•°æ®æ„味ç€ä»€ä¹ˆï¼Ÿ

é²è¿…先生1923年在北师大å‘表了著å的演讲《娜拉走åŽæ€Žæ ·ã€‹ï¼Œå…¶ä¸­çš„æ问与æ€è€ƒæ–¹å¼æŒ¯è‹å‘è©ï¼Œç›´åˆ°ä»Šå¤©ä¹Ÿä¾æ—§æœ‰æ•ˆã€‚é¢å¯¹å¾ˆå¤šäº§ä¸šçŽ°è±¡ã€æŠ€æœ¯è¶‹åŠ¿ï¼Œæˆ‘们也ä¸å¦¨å¤šé—®å‡ ä¸ªâ€œä¹‹åŽæ€Žæ ·â€ã€ü/p>

比如说,自ChatGPT爆ç«ä¹‹åŽï¼Œä¸­å›½å„个互è”网ã€ç§‘技公å¸ç«žç›¸æŽ¨å‡ºäº†è‡ªå·±çš„大语言模型åŠç›¸å…³åº”用。其实,关于中国能å¦æœ‰ChatGPT我们从未担心过,而问题的关键在于“之åŽæ€Žæ ·â€ã€ü/p>

层出ä¸ç©·çš„大语言模型,让人眼花缭乱。但如此多的大模型,差异化和竞争力从何而æ¥ï¼Ÿèƒ½å¦é¡ºåˆ©ã€ä½Žæˆæœ¬å®žçŽ°äº§ä¸šè½åœ°ï¼Ÿèƒ½å¦æœ‰æ•ˆæ”¯æŒæ¨¡åž‹çš„快速迭代?

å‘布大模型并ä¸æ˜¯ç»ˆç‚¹ï¼Œè€Œæ˜¯ä¸€åœºæ–°é•¿è·‘的起点。如果ä¸èƒ½æœ‰æ•ˆå›žç­”这些问题,那么大模型也最终会åƒå…¶ä»–技术风å£ä¸€æ ·ï¼Œå€å¿½è€Œæ¥ï¼Œå€å¿½è€ŒåŽ»ã€ü/p>

慢慢地,“大模型之åŽæ€Žæ ·â€è¿™ä¸ªé—®é¢˜ï¼Œä¹Ÿå¼€å§‹æœ‰äº†ç­”案ã€?æœ?3日,我们看到一份百度文心一言内部æµå‡ºçš„会议纪è¦ã€‚其中显示,ä»?月开始,文心一言å¯åŠ¨é‚€æµ‹åŽçš„一个多月内,其模型已ç»è¿­ä»£äº?次,最近一次带æ¥çš„推ç†æ•ˆæžœæå‡äº†è¾¾åˆ?23%ã€ü/p>

到底是什么支æŒæ–‡å¿ƒä¸€è¨€å®Œæˆäº†è¿™ç§è¶…越常规的迭代速度>ü/p>

这个“秘密â€æˆ–许正是中国大模型走å‘未æ¥æ‰€éœ€è¦çš„动力,也是“大模型之åŽæ€Žæ ·â€çš„æŸç§ç­”案ã€ü/p>

内部会议纪è¦ï¼Œé€éœ²å‡ºæ–‡å¿ƒä¸€è¨€çš„奔跑速度

æ ¹æ®å†…部纪è¦å†…容显示,文心一言在开å¯é‚€æµ‹åŽç”¨æˆ·æ•°ä¸ŽåŒæ—¶åœ¨çº¿äººæ•°éƒ½æžé€Ÿå¢žé•¿ï¼Œé¢ä¸´è¿™ç§æƒ…况,文心一言需è¦åŠæ—¶èŽ·å¾—æ›´å¿«çš„å“应速度。我们知é“,机器学习类模型的应用逻辑包å«æ•°æ®å‡†å¤‡â€”模型训练—模型推ç†å‡ ä¸ªæ­¥éª¤ã€‚文心一言é¢ä¸´çš„å“应挑战,就是需è¦åŠæ—¶å¼ºåŒ–模型的推ç†èƒ½åŠ›ã€ü/p>

为了实现这个目标,百度对文心一言进行了模型层与框架层的è”åˆä¼˜åŒ–,从而在一个月内迭代了4次,实现了模型推ç†èƒ½åŠ›çš„æžå¤§æå‡ã€ü/p>

是什么让文心一言获得了这样的奔跑速度?这就è¦æ到百度飞桨“æå‰â€åšå¥½çš„准备。作为深度学习开å‘å¹³å°ï¼Œé£žæ¡¨å¯ä»¥æ”¯æŒAI模型从训练到推ç†çš„å…¨æµç¨‹è½åœ°ã€‚其中,飞桨模型推ç†æœåŠ¡å°±å¯ä»¥æœ‰æ•ˆæ”¯æŒå¤§æ¨¡åž‹å‡çº§ï¼Œè¿™ä¸€æœåŠ¡åœ?æœ?9日刚刚å†æ¬¡è¿­ä»£ï¼Œå·²è¿­ä»£è‡³3.5版本,它的特点是在业内首创了支æŒåŠ¨æ€æ’入的分布å¼æŽ¨ç†å¼•æ“Žï¼Œä»Žè€Œå¯ä»¥æ›´æœ‰æ•ˆå®Œæˆåºžå¤§æ•°æ®è§„模的AI模型进行推ç†éƒ¨ç½²ã€ü/p>

至此我们å¯ä»¥ä»Žè¿™ä»½å†…部纪è¦ä¸­çŸ¥é“,文心一言能够快速æŒç»­è¿­ä»£ï¼Œå¹¶ä¸”低æˆæœ¬è½åœ°åº”用的关键,就è—在这里——飞桨与文心一言è”åˆä¼˜åŒ–ã€ü/p>

从结果上看,è”åˆä¼˜åŒ–带æ¥çš„价值éžå¸¸æ˜¾è‘—。飞桨帮助文心一言实现了模型推ç†æ•ˆçŽ‡æå?0å€ï¼Œæ¨¡åž‹æŽ¨ç†æ€§èƒ½æå‡50%,模型算力利用率æå‡1å€ã€‚其中,模型推ç†æ•ˆçŽ‡æå‡10å€ï¼Œæ„味ç€æŽ¨ç†æˆæœ¬é™ä½Žä¸ºåŽŸæ?/10,或者å¯ä»¥ä¸º10å€æ•°é‡çš„用户æä¾›æœåŠ¡ï¼›æ¨¡åž‹æŽ¨ç†æ€§èƒ½æå‡50%,æ„味ç€é£žæ¡¨å¯ä»¥å¸®åŠ©æ–‡å¿ƒä¸€è¨€å·¥è‰ºæ›´ç²¾å¯†ï¼Œæ¨¡åž‹çš„学习效果与é²æ£’性更强;模型算力利用率æå?å€ï¼Œæ˜¯ç”±äºŽé£žæ¡¨å‘下兼容到芯片,实现全栈è”åˆä¼˜åŒ–,从而å¯ä»¥æžå¤§é™ä½Žæ–‡å¿ƒä¸€è¨€çš„算力开销ã€ü/p>

从这几个方å‘å¯ä»¥çœ‹å‡ºï¼Œé£žæ¡¨ä¸ºæ–‡å¿ƒä¸€è¨€å¸¦æ¥çš„价值,是æŒç»­æ€§ä¸”多方é¢çš„,其中最é‡è¦çš„是,飞桨让文心一言å¯ä»¥æŒç»­æ€§ã€ä½Žæˆæœ¬å‘å‰å¥”跑,ä¸æ–­è¿›åŒ–ã€ü/p>

这也æ°å¥½è§£é‡Šäº†è¿™ä¸ªé—®é¢˜ï¼šå¤§æ¨¡åž‹ï¼Œè·¯åœ¨ä½•æ–¹ï¼žü/p>

飞桨,让大模型节å¥é£žèµ·çš„AI引擎

在ChatGPTå…¨çƒåŒ–爆ç«ï¼Œå„家厂商ã€æŠ•èµ„人,都在ä¸é—余力地挤上大模型赛é“。这ç§æƒ…况当然å¯ä»¥ç†è§£ï¼Œä½†ä¹Ÿå¿…须看到,这æ¡èµ›é“ä¸ä»…门槛高ã€å…¥å±€éš¾ï¼Œåœ¨å…¥å±€ä¹‹åŽæž„建æŒç»­ç«žäº‰åŠ›åŒæ ·å¾ˆéš¾ã€ü/p>

大模型æ„味ç€åºžå¤§çš„算力开支ã€æ•°æ®å¼€æ”¯ï¼Œä»¥åŠæ›´ä¸ºæ怖的模型迭代æˆæœ¬ã€‚入局大模型之åŽï¼Œå¿…须根æ®ç”¨æˆ·å馈快速迭代,高效率å‡çº§ï¼Œå¦åˆ™ä¸€ä¸å°å¿ƒå°±ä¼šæŽ‰é˜Ÿï¼Œåœ¨ç¬¬ä¸€è½®é£Žå£è¿‡åŽ»åŽé™·å…¥è¡Œä¸šæ´—牌,紧跟行业趋势,ä¸æ–­æŽ¨åŠ¨æ¨¡åž‹å‡çº§ï¼Œåˆä¼šé¢ä¸´å·¨å¤§çš„工作é‡ä¸Žæ¨¡åž‹æŽ¨ç†æˆæœ¬ã€ü/p>

这个两难选择并ä¸é¥è¿œï¼Œå¾ˆå¿«å°±ä¼šæˆä¸ºå›°æ‰°å¤§é‡æ–°çŽ©å®¶çš„头疼问题ã€ü/p>

而多年部署AI基础设施与基础技术的百度,其优势就在这时显示了出æ¥ã€‚飞桨与文心一言的è”åˆä¼˜åŒ–,让文心一言在训练和推ç†è¿‡ç¨‹ä¸­æ•ˆçŽ‡å¤§å¹…æå‡ï¼Œå®žçŽ°äº†çœŸæ­£çš„人家起跑,我已ç»å‡ è½®åŠ é€Ÿï¼ŒèŠ‚å¥å¿«åˆ°é£žèµ·ã€ü/p>

大模型与AIå¼€å‘å¹³å°ï¼Œæ˜¯ç›¸è¾…相æˆã€äº’为表里的关系。比如有分æžäººå£«è§£è¯»è®¤ä¸ºï¼Œâ€œå¤§æ¨¡åž‹å°±ä»¿ä½›æ±½è½¦çš„å‘动机,光账é¢ä¸Šçš„动力强,å‚数大是没有用的,è¦åŽ‹æ¦¨å‡ºå‘动机瞬时最大爆å‘力(QPS)以åŠæœ€ä¼˜çš„性能表现。深度学习框架就åƒæ˜¯ç”Ÿäº§å‘动机和å˜é€Ÿç®±çš„,å¯ä»¥è®©å‘动机整体部件组åˆæ›´ç²¾å¯†ã€åŠ¨åŠ›æ›´å¼ºã€‚自研产å“彼此适é…度更高,ååŒä¼šæ›´é«˜æ•ˆï¼Œè¿™å¯èƒ½æ˜¯æ•ˆçŽ‡æå‡çš„最根本原因。â€ä¾æ‰˜é£Žå£å…¥å±€å¤§æ¨¡åž‹ï¼Œç»ˆå½’会有一ç§ç©ºä¸­æ¥¼é˜çš„éšå¿§ï¼Œè‡³å°‘难以将全é¢çš„技术栈掌æ¡åœ¨è‡ªå·±æ‰‹ä¸­ï¼Œå®žçŽ°æ›´é«˜æ•ˆã€å¯æŽ§çš„模型å‡çº§ã€ü/p>

由此å¯è§ï¼Œå¤§æ¨¡åž‹èµ°å‘æˆåŠŸï¼Œé™¤äº†ç®—力ã€æ•°æ®çš„基础之外,深度学习框架åŒæ ·æ‰®æ¼”ç€å…³é”®è§’色。é¢å¯¹çº·ç¹è€Œå‡ºçš„大模型,百度文心系列大模型的差异化优势,也就在百度åå¹´æ­å»ºçš„飞桨平å°ä¸­å±•éœ²äº†å‡ºæ¥ã€ü/p>

而当我们把大模型与飞桨的è”动关系,放到科技自立自强的战略高度æ¥å®¡è§†ã€‚åˆä¼šå‘现一些别样的答案:飞桨既是百度的AI护城河,也是中国大模型的动力引擎ã€ü/p>

中国AI,胜负系于工程化

最近,我们能看到很多大语言模型的å‘布会,差ä¸å¤šæ¯ä¸€å®¶éƒ½ä¼šè¯´ï¼Œæˆ‘们目å‰ç¡®å®žä¸å¦‚ChatGPT,以åŽç»§ç»­åŠªåŠ›ã€ü/p>

那么问题æ¥äº†ï¼Œæ€Žä¹ˆåŠªåŠ›ï¼žü/p>

事实上,努力ä¸æ˜¯è¯´è¯´å°±è¡Œäº†ï¼Œè€Œæ˜¯è¦æ‰¾åˆ°æ–¹å¼å’Œæ–¹æ³•ã€‚ChatGPT代表的算法优势ã€äººæ‰ä¼˜åŠ¿ã€ç®—力优势都是短期很难抹平的,至少看ä¸åˆ°å¯ä»¥å¿«é€Ÿè¶…车的战略空间。中国AI想è¦èµ°é€šå¤§æ¨¡åž‹è¿™æ¡è·¯ï¼Œå°±åªèƒ½æ‰¬é•¿é¿çŸ­ï¼Œè€Œä¸­å›½AI的优势在哪呢?从百度æµå‡ºçš„内部会议纪è¦ä¸­å…¶å®žå·²ç»å‘Šè¯‰äº†æˆ‘们答案:工程化ã€ü/p>

通过飞桨长期åšæŒçš„AI工程化路径的掌æ¡ä¸Žæ‰“磨,我们å¯ä»¥çœ‹åˆ°ç™¾åº¦å‘展大模型的独特优势,åŒæ—¶ä¹Ÿå¯ä»¥çœ‹åˆ°ä¸­å›½AI整体性的战略机é‡ã€ü/p>

首先,对于百度内部æ¥è¯´ï¼Œé€šè¿‡é£žæ¡¨ç‰¢ç‰¢æŠŠæŽ§å·¥ç¨‹åŒ–能力,å¯ä»¥æå‡æ–‡å¿ƒä¸€è¨€çš„迭代速度,é™ä½Žç®—力ã€äººå·¥ã€æ•°æ®ç­‰å¼€é”€ï¼Œä»Žè€Œè®©æ–‡å¿ƒä¸€è¨€èƒ½å¤Ÿåœ¨åŒç­‰æˆæœ¬ä¸‹æœåŠ¡çš„用户更多,适é…产å“的效率更高。这就åƒåŒæ ·ä»Žä¸€å¤„åå«â€œå¤§æ¨¡åž‹â€çš„深海油井å–得原油,飞桨就åƒä¸€è‰˜è½®èˆ¹ï¼Œèˆ¹é€Ÿæ›´å¿«ï¼Œè¿é‡è¿˜å¤§ï¼Œè€Œå…¶ä»–人在用帆船è¿è¾“。效率æ„味ç€æˆæœ¬ï¼Œæˆæœ¬æ„味ç€å•†ä¸šåŒ–å¯èƒ½æ€§ï¼Œè¿™å°±æ˜¯é£žæ¡¨çš„价值,也是AI工程化能力的魅力ã€ü/p>

从百度å‘外看,飞桨带æ¥çš„工程化能力,æ„味ç€æ–‡å¿ƒç³»åˆ—大模型的推ç†æˆæœ¬æ›´ä½Žï¼Œç»§è€Œå¯¼è‡´å…¶åœ¨å„行业ã€å„场景中的è½åœ°æˆæœ¬æ›´ä½Žã€‚这对于文心大模型èžå…¥è¡Œä¸šï¼Œé€šè¿‡äº§ä¸šæ™ºèƒ½åŒ–产生价值是个é‡å¤§åˆ©å¥½ã€‚大模型走å‘åƒè¡Œç™¾ä¸šï¼Œæ˜¯ä»Šå¤©æ¯å®¶å…¬å¸éƒ½åœ¨å–Šçš„å£å·ï¼Œä½†è¿™ä¸ªè¿‡ç¨‹ä¸­ï¼Œä¸€å®šä¸èƒ½æŠŠæ¨¡åž‹è½åœ°æˆæœ¬å…¨éƒ¨è½¬å«ç»™è¡Œä¸šç”¨æˆ·ã€‚消解这一æˆæœ¬çš„关键,也在于飞桨代表的工程化路径ã€ü/p>

最åŽï¼Œå½“大模型已ç»ä¸Šå‡ä¸ºå›½å®¶æˆ˜ç•¥ï¼Œæˆ‘们必须看到AI框架在科技自立自强进程中扮演的角色。如果事关国计民生,æ¯å¤©ä¸Žæ— æ•°å›½äººè¿›è¡Œé—®ç­”的大模型,建立在其他国家的框架上,那么其å±é™©ç³»æ•°å¯æƒ³è€ŒçŸ¥ã€‚当大模型愈å‘é‡è¦ï¼Œå…³æ³¨å¹¶æŒç»­è§£å†³æ·±åº¦å­¦ä¹ æ¡†æž¶å¡è„–å­çš„éšå¿§å°±æ›´åŠ é‡è¦ã€ü/p>

而从å¦ä¸€ä¸ªè§’度看,AI框架与AIå¼€å‘å¹³å°ä»£è¡¨çš„AI工程化能力,是中国AI技术最亮眼ã€æœ€ç‰¹æ®Šçš„部分。这一部分下接芯片,上达应用,通å‘åƒè¡Œç™¾ä¸šçš„AIå¼€å‘需求,æ°å¥½æ˜¯AI技术中的战略è¦å†²æ‰€åœ¨ã€‚中国AI能å¦æ‰¬é•¿é¿çŸ­ï¼Œå®žçŽ°è¶…车,æžå¤§æ¦‚率就系于工程化能力的建设与å‘挥,系于AI框架与产业智能化的连接中ã€ü/p>

中国大模型,就是行业大模型,就是强工程化ã€å¼ºè½åœ°æ€§çš„大模型,åªæœ‰èµ°é€šè¿™æ¡è·¯ï¼Œä¸­å›½AIæ‰æœ‰æœªæ¥ã€ü/p>

特别声明:文章版æƒå½’原作者所有,文章内容为作者个人观点,ä¸ä»£è¡¨å¤§å’–秀专æ çš„立场,转载请è”系原作者获å–授æƒã€?有任何疑问都请è”ç³»wemedia@yesky.com)

Baidu
map