é²è¿…先生1923年在北师大å‘表了著å的演讲《娜拉走åŽæ€Žæ ·ã€‹ï¼Œå…¶ä¸çš„æ问与æ€è€ƒæ–¹å¼æŒ¯è‹å‘è©ï¼Œç›´åˆ°ä»Šå¤©ä¹Ÿä¾æ—§æœ‰æ•ˆã€‚é¢å¯¹å¾ˆå¤šäº§ä¸šçŽ°è±¡ã€æŠ€æœ¯è¶‹åŠ¿ï¼Œæˆ‘们也ä¸å¦¨å¤šé—®å‡ 个“之åŽæ€Žæ ·â€ã€ü/p>
比如说,自ChatGPT爆ç«ä¹‹åŽï¼Œä¸å›½å„个互è”网ã€ç§‘技公å¸ç«žç›¸æŽ¨å‡ºäº†è‡ªå·±çš„大è¯è¨€æ¨¡åž‹åŠç›¸å…³åº”用。其实,关于ä¸å›½èƒ½å¦æœ‰ChatGPT我们从未担心过,而问题的关键在于“之åŽæ€Žæ ·â€ã€ü/p>
层出ä¸ç©·çš„大è¯è¨€æ¨¡åž‹ï¼Œè®©äººçœ¼èŠ±ç¼ä¹±ã€‚但如æ¤å¤šçš„大模型,差异化和竞争力从何而æ¥ï¼Ÿèƒ½å¦é¡ºåˆ©ã€ä½Žæˆæœ¬å®žçŽ°äº§ä¸šè½åœ°ï¼Ÿèƒ½å¦æœ‰æ•ˆæ”¯æŒæ¨¡åž‹çš„快速è¿ä»£ï¼Ÿ
å‘布大模型并ä¸æ˜¯ç»ˆç‚¹ï¼Œè€Œæ˜¯ä¸€åœºæ–°é•¿è·‘的起点。如果ä¸èƒ½æœ‰æ•ˆå›žç”这些问题,那么大模型也最终会åƒå…¶ä»–技术风å£ä¸€æ ·ï¼Œå€å¿½è€Œæ¥ï¼Œå€å¿½è€ŒåŽ»ã€ü/p>
慢慢地,“大模型之åŽæ€Žæ ·â€è¿™ä¸ªé—®é¢˜ï¼Œä¹Ÿå¼€å§‹æœ‰äº†ç”案ã€?æœ?3日,我们看到一份百度文心一言内部æµå‡ºçš„会议纪è¦ã€‚å…¶ä¸æ˜¾ç¤ºï¼Œä»?月开始,文心一言å¯åŠ¨é‚€æµ‹åŽçš„一个多月内,其模型已ç»è¿ä»£äº?次,最近一次带æ¥çš„推ç†æ•ˆæžœæå‡äº†è¾¾åˆ?23%ã€ü/p>
到底是什么支æŒæ–‡å¿ƒä¸€è¨€å®Œæˆäº†è¿™ç§è¶…越常规的è¿ä»£é€Ÿåº¦ï¼žü/p>
这个“秘密â€æˆ–许æ£æ˜¯ä¸å›½å¤§æ¨¡åž‹èµ°å‘未æ¥æ‰€éœ€è¦çš„动力,也是“大模型之åŽæ€Žæ ·â€çš„æŸç§ç”案ã€ü/p>
内部会议纪è¦ï¼Œé€éœ²å‡ºæ–‡å¿ƒä¸€è¨€çš„奔跑速度
æ ¹æ®å†…部纪è¦å†…容显示,文心一言在开å¯é‚€æµ‹åŽç”¨æˆ·æ•°ä¸ŽåŒæ—¶åœ¨çº¿äººæ•°éƒ½æžé€Ÿå¢žé•¿ï¼Œé¢ä¸´è¿™ç§æƒ…况,文心一言需è¦åŠæ—¶èŽ·å¾—æ›´å¿«çš„å“应速度。我们知é“,机器å¦ä¹ 类模型的应用逻辑包å«æ•°æ®å‡†å¤‡â€”模型è®ç»ƒâ€”模型推ç†å‡ 个æ¥éª¤ã€‚文心一言é¢ä¸´çš„å“应挑战,就是需è¦åŠæ—¶å¼ºåŒ–模型的推ç†èƒ½åŠ›ã€ü/p>
ä¸ºäº†å®žçŽ°è¿™ä¸ªç›®æ ‡ï¼Œç™¾åº¦å¯¹æ–‡å¿ƒä¸€è¨€è¿›è¡Œäº†æ¨¡åž‹å±‚ä¸Žæ¡†æž¶å±‚çš„è”åˆä¼˜åŒ–,从而在一个月内è¿ä»£äº†4次,实现了模型推ç†èƒ½åŠ›çš„æžå¤§æå‡ã€ü/p>
æ˜¯ä»€ä¹ˆè®©æ–‡å¿ƒä¸€è¨€èŽ·å¾—äº†è¿™æ ·çš„å¥”è·‘é€Ÿåº¦ï¼Ÿè¿™å°±è¦æ到百度飞桨“æå‰â€åšå¥½çš„准备。作为深度å¦ä¹ å¼€å‘å¹³å°ï¼Œé£žæ¡¨å¯ä»¥æ”¯æŒAI模型从è®ç»ƒåˆ°æŽ¨ç†çš„å…¨æµç¨‹è½åœ°ã€‚å…¶ä¸ï¼Œé£žæ¡¨æ¨¡åž‹æŽ¨ç†æœåŠ¡å°±å¯ä»¥æœ‰æ•ˆæ”¯æŒå¤§æ¨¡åž‹å‡çº§ï¼Œè¿™ä¸€æœåŠ¡åœ?æœ?9日刚刚å†æ¬¡è¿ä»£ï¼Œå·²è¿ä»£è‡³3.5版本,它的特点是在业内首创了支æŒåŠ¨æ€æ’入的分布å¼æŽ¨ç†å¼•æ“Žï¼Œä»Žè€Œå¯ä»¥æ›´æœ‰æ•ˆå®Œæˆåºžå¤§æ•°æ®è§„模的AI模型进行推ç†éƒ¨ç½²ã€ü/p>
至æ¤æˆ‘们å¯ä»¥ä»Žè¿™ä»½å†…部纪è¦ä¸çŸ¥é“,文心一言能够快速æŒç»è¿ä»£ï¼Œå¹¶ä¸”低æˆæœ¬è½åœ°åº”用的关键,就è—在这里——飞桨与文心一言è”åˆä¼˜åŒ–ã€ü/p>
从结果上看,è”åˆä¼˜åŒ–带æ¥çš„价值éžå¸¸æ˜¾è‘—。飞桨帮助文心一言实现了模型推ç†æ•ˆçŽ‡æå?0å€ï¼Œæ¨¡åž‹æŽ¨ç†æ€§èƒ½æå‡50%,模型算力利用率æå‡1å€ã€‚å…¶ä¸ï¼Œæ¨¡åž‹æŽ¨ç†æ•ˆçŽ‡æå‡10å€ï¼Œæ„味ç€æŽ¨ç†æˆæœ¬é™ä½Žä¸ºåŽŸæ?/10,或者å¯ä»¥ä¸º10å€æ•°é‡çš„用户æä¾›æœåŠ¡ï¼›æ¨¡åž‹æŽ¨ç†æ€§èƒ½æå‡50%,æ„味ç€é£žæ¡¨å¯ä»¥å¸®åŠ©æ–‡å¿ƒä¸€è¨€å·¥è‰ºæ›´ç²¾å¯†ï¼Œæ¨¡åž‹çš„å¦ä¹ 效果与é²æ£’性更强;模型算力利用率æå?å€ï¼Œæ˜¯ç”±äºŽé£žæ¡¨å‘ä¸‹å…¼å®¹åˆ°èŠ¯ç‰‡ï¼Œå®žçŽ°å…¨æ ˆè”åˆä¼˜åŒ–,从而å¯ä»¥æžå¤§é™ä½Žæ–‡å¿ƒä¸€è¨€çš„算力开销ã€ü/p>
ä»Žè¿™å‡ ä¸ªæ–¹å‘å¯ä»¥çœ‹å‡ºï¼Œé£žæ¡¨ä¸ºæ–‡å¿ƒä¸€è¨€å¸¦æ¥çš„价值,是æŒç»æ€§ä¸”多方é¢çš„,其ä¸æœ€é‡è¦çš„是,飞桨让文心一言å¯ä»¥æŒç»æ€§ã€ä½Žæˆæœ¬å‘å‰å¥”跑,ä¸æ–进化ã€ü/p>
这也æ°å¥½è§£é‡Šäº†è¿™ä¸ªé—®é¢˜ï¼šå¤§æ¨¡åž‹ï¼Œè·¯åœ¨ä½•æ–¹ï¼žü/p>
飞桨,让大模型节å¥é£žèµ·çš„AI引擎
在ChatGPTå…¨çƒåŒ–爆ç«ï¼Œå„家厂商ã€æŠ•èµ„人,都在ä¸é—余力地挤上大模型赛é“。这ç§æƒ…况当然å¯ä»¥ç†è§£ï¼Œä½†ä¹Ÿå¿…须看到,这æ¡èµ›é“ä¸ä»…门槛高ã€å…¥å±€éš¾ï¼Œåœ¨å…¥å±€ä¹‹åŽæž„建æŒç»ç«žäº‰åŠ›åŒæ ·å¾ˆéš¾ã€ü/p>
大模型æ„味ç€åºžå¤§çš„算力开支ã€æ•°æ®å¼€æ”¯ï¼Œä»¥åŠæ›´ä¸ºæ怖的模型è¿ä»£æˆæœ¬ã€‚入局大模型之åŽï¼Œå¿…é¡»æ ¹æ®ç”¨æˆ·å馈快速è¿ä»£ï¼Œé«˜æ•ˆçŽ‡å‡çº§ï¼Œå¦åˆ™ä¸€ä¸å°å¿ƒå°±ä¼šæŽ‰é˜Ÿï¼Œåœ¨ç¬¬ä¸€è½®é£Žå£è¿‡åŽ»åŽé™·å…¥è¡Œä¸šæ´—牌,紧跟行业趋势,ä¸æ–推动模型å‡çº§ï¼Œåˆä¼šé¢ä¸´å·¨å¤§çš„工作é‡ä¸Žæ¨¡åž‹æŽ¨ç†æˆæœ¬ã€ü/p>
这个两难选择并ä¸é¥è¿œï¼Œå¾ˆå¿«å°±ä¼šæˆä¸ºå›°æ‰°å¤§é‡æ–°çŽ©å®¶çš„头疼问题ã€ü/p>
而多年部署AI基础设施与基础技术的百度,其优势就在这时显示了出æ¥ã€‚飞桨与文心一言的è”åˆä¼˜åŒ–,让文心一言在è®ç»ƒå’ŒæŽ¨ç†è¿‡ç¨‹ä¸æ•ˆçŽ‡å¤§å¹…æå‡ï¼Œå®žçŽ°äº†çœŸæ£çš„人家起跑,我已ç»å‡ è½®åŠ é€Ÿï¼ŒèŠ‚å¥å¿«åˆ°é£žèµ·ã€ü/p>
大模型与AIå¼€å‘å¹³å°ï¼Œæ˜¯ç›¸è¾…相æˆã€äº’为表里的关系。比如有分æžäººå£«è§£è¯»è®¤ä¸ºï¼Œâ€œå¤§æ¨¡åž‹å°±ä»¿ä½›æ±½è½¦çš„å‘动机,光账é¢ä¸Šçš„动力强,å‚数大是没有用的,è¦åŽ‹æ¦¨å‡ºå‘动机瞬时最大爆å‘力(QPS)以åŠæœ€ä¼˜çš„性能表现。深度å¦ä¹ 框架就åƒæ˜¯ç”Ÿäº§å‘动机和å˜é€Ÿç®±çš„,å¯ä»¥è®©å‘动机整体部件组åˆæ›´ç²¾å¯†ã€åŠ¨åŠ›æ›´å¼ºã€‚è‡ªç ”äº§å“å½¼æ¤é€‚é…度更高,ååŒä¼šæ›´é«˜æ•ˆï¼Œè¿™å¯èƒ½æ˜¯æ•ˆçŽ‡æå‡çš„æœ€æ ¹æœ¬åŽŸå› ã€‚â€ä¾æ‰˜é£Žå£å…¥å±€å¤§æ¨¡åž‹ï¼Œç»ˆå½’会有一ç§ç©ºä¸æ¥¼é˜çš„éšå¿§ï¼Œè‡³å°‘难以将全é¢çš„æŠ€æœ¯æ ˆæŽŒæ¡åœ¨è‡ªå·±æ‰‹ä¸ï¼Œå®žçŽ°æ›´é«˜æ•ˆã€å¯æŽ§çš„模型å‡çº§ã€ü/p>
ç”±æ¤å¯è§ï¼Œå¤§æ¨¡åž‹èµ°å‘æˆåŠŸï¼Œé™¤äº†ç®—力ã€æ•°æ®çš„基础之外,深度å¦ä¹ 框架åŒæ ·æ‰®æ¼”ç€å…³é”®è§’色。é¢å¯¹çº·ç¹è€Œå‡ºçš„大模型,百度文心系列大模型的差异化优势,也就在百度åå¹´æ建的飞桨平å°ä¸å±•éœ²äº†å‡ºæ¥ã€ü/p>
而当我们把大模型与飞桨的è”动关系,放到科技自立自强的战略高度æ¥å®¡è§†ã€‚åˆä¼šå‘çŽ°ä¸€äº›åˆ«æ ·çš„ç”案:飞桨既是百度的AI护城河,也是ä¸å›½å¤§æ¨¡åž‹çš„动力引擎ã€ü/p>
ä¸å›½AI,胜负系于工程化
最近,我们能看到很多大è¯è¨€æ¨¡åž‹çš„å‘布会,差ä¸å¤šæ¯ä¸€å®¶éƒ½ä¼šè¯´ï¼Œæˆ‘们目å‰ç¡®å®žä¸å¦‚ChatGPT,以åŽç»§ç»åŠªåŠ›ã€ü/p>
那么问题æ¥äº†ï¼Œæ€Žä¹ˆåŠªåŠ›ï¼žü/p>
事实上,努力ä¸æ˜¯è¯´è¯´å°±è¡Œäº†ï¼Œè€Œæ˜¯è¦æ‰¾åˆ°æ–¹å¼å’Œæ–¹æ³•ã€‚ChatGPT代表的算法优势ã€äººæ‰ä¼˜åŠ¿ã€ç®—力优势都是çŸæœŸå¾ˆéš¾æŠ¹å¹³çš„,至少看ä¸åˆ°å¯ä»¥å¿«é€Ÿè¶…车的战略空间。ä¸å›½AI想è¦èµ°é€šå¤§æ¨¡åž‹è¿™æ¡è·¯ï¼Œå°±åªèƒ½æ‰¬é•¿é¿çŸï¼Œè€Œä¸å›½AI的优势在哪呢?从百度æµå‡ºçš„内部会议纪è¦ä¸å…¶å®žå·²ç»å‘Šè¯‰äº†æˆ‘们ç”案:工程化ã€ü/p>
通过飞桨长期åšæŒçš„AI工程化路径的掌æ¡ä¸Žæ‰“磨,我们å¯ä»¥çœ‹åˆ°ç™¾åº¦å‘展大模型的独特优势,åŒæ—¶ä¹Ÿå¯ä»¥çœ‹åˆ°ä¸å›½AI整体性的战略机é‡ã€ü/p>
首先,对于百度内部æ¥è¯´ï¼Œé€šè¿‡é£žæ¡¨ç‰¢ç‰¢æŠŠæŽ§å·¥ç¨‹åŒ–能力,å¯ä»¥æå‡æ–‡å¿ƒä¸€è¨€çš„è¿ä»£é€Ÿåº¦ï¼Œé™ä½Žç®—力ã€äººå·¥ã€æ•°æ®ç‰å¼€é”€ï¼Œä»Žè€Œè®©æ–‡å¿ƒä¸€è¨€èƒ½å¤Ÿåœ¨åŒç‰æˆæœ¬ä¸‹æœåŠ¡çš„用户更多,适é…产å“的效率更高。这就åƒåŒæ ·ä»Žä¸€å¤„åå«â€œå¤§æ¨¡åž‹â€çš„深海油井å–得原油,飞桨就åƒä¸€è‰˜è½®èˆ¹ï¼Œèˆ¹é€Ÿæ›´å¿«ï¼Œè¿é‡è¿˜å¤§ï¼Œè€Œå…¶ä»–人在用帆船è¿è¾“。效率æ„味ç€æˆæœ¬ï¼Œæˆæœ¬æ„味ç€å•†ä¸šåŒ–å¯èƒ½æ€§ï¼Œè¿™å°±æ˜¯é£žæ¡¨çš„价值,也是AI工程化能力的é…力ã€ü/p>
从百度å‘外看,飞桨带æ¥çš„工程化能力,æ„味ç€æ–‡å¿ƒç³»åˆ—大模型的推ç†æˆæœ¬æ›´ä½Žï¼Œç»§è€Œå¯¼è‡´å…¶åœ¨å„行业ã€å„场景ä¸çš„è½åœ°æˆæœ¬æ›´ä½Žã€‚这对于文心大模型èžå…¥è¡Œä¸šï¼Œé€šè¿‡äº§ä¸šæ™ºèƒ½åŒ–产生价值是个é‡å¤§åˆ©å¥½ã€‚大模型走å‘åƒè¡Œç™¾ä¸šï¼Œæ˜¯ä»Šå¤©æ¯å®¶å…¬å¸éƒ½åœ¨å–Šçš„å£å·ï¼Œä½†è¿™ä¸ªè¿‡ç¨‹ä¸ï¼Œä¸€å®šä¸èƒ½æŠŠæ¨¡åž‹è½åœ°æˆæœ¬å…¨éƒ¨è½¬å«ç»™è¡Œä¸šç”¨æˆ·ã€‚消解这一æˆæœ¬çš„关键,也在于飞桨代表的工程化路径ã€ü/p>
最åŽï¼Œå½“大模型已ç»ä¸Šå‡ä¸ºå›½å®¶æˆ˜ç•¥ï¼Œæˆ‘们必须看到AI框架在科技自立自强进程ä¸æ‰®æ¼”的角色。如果事关国计民生,æ¯å¤©ä¸Žæ— 数国人进行问ç”的大模型,建立在其他国家的框架上,那么其å±é™©ç³»æ•°å¯æƒ³è€ŒçŸ¥ã€‚当大模型愈å‘é‡è¦ï¼Œå…³æ³¨å¹¶æŒç»è§£å†³æ·±åº¦å¦ä¹ 框架å¡è„–åçš„éšå¿§å°±æ›´åŠ é‡è¦ã€ü/p>
而从å¦ä¸€ä¸ªè§’度看,AI框架与AIå¼€å‘å¹³å°ä»£è¡¨çš„AI工程化能力,是ä¸å›½AI技术最亮眼ã€æœ€ç‰¹æ®Šçš„部分。这一部分下接芯片,上达应用,通å‘åƒè¡Œç™¾ä¸šçš„AIå¼€å‘需求,æ°å¥½æ˜¯AI技术ä¸çš„战略è¦å†²æ‰€åœ¨ã€‚ä¸å›½AI能å¦æ‰¬é•¿é¿çŸï¼Œå®žçŽ°è¶…车,æžå¤§æ¦‚率就系于工程化能力的建设与å‘挥,系于AI框架与产业智能化的连接ä¸ã€ü/p>
ä¸å›½å¤§æ¨¡åž‹ï¼Œå°±æ˜¯è¡Œä¸šå¤§æ¨¡åž‹ï¼Œå°±æ˜¯å¼ºå·¥ç¨‹åŒ–ã€å¼ºè½åœ°æ€§çš„大模型,åªæœ‰èµ°é€šè¿™æ¡è·¯ï¼Œä¸å›½AIæ‰æœ‰æœªæ¥ã€ü/p>