查看: 33442|回复: 184
打印 上一主题 下一主题

对话海光杜夏威:Token经济的“正向循环”怎么走?_我的网站

[复制链接]
跳转到指定楼层
楼主

僵尸世界大战

对话海光杜夏威:Token经济的“正向循环”怎么走?_我的网站

爱情公寓4

A |     (文/观察者网 刘媛媛 编辑/吕栋)          7月17日,以“智能伙伴,共创未来”为主题的2026世界人工智能大会(WAIC)在上海开幕,海光信息携CPU、DCU全系列产品以及网络互联、整机解决方案亮相,展示了面向AI时代的自主算力底座与全链路软硬一体化能力。         观察者网在现场了解到,展区内,海光CPU系列面向服务器、数据中心等通用计算场景提供算力支撑;DCU系列作为高端AI加速芯片,支持全精度浮点及多类型整数计算,兼容主流软件生态,支持训练与推理;端侧嵌入式产品,如运动控制系统、AI一体机、云终端等,则推动AI从“能对话”向“能干活”演进。         为更了解海光信息在AI算力领域的布局与思考,大会期间,观察者网等媒体与海光信息总裁助理兼智能计算产品部总经理杜夏威展开对话,围绕云边端协同、开放生态建设、Token经济等话题进行了深入交流。         以下为对话实录:          提问:这次WAIC,海光展示了嵌入式AI的布局,算力从云端往端侧走,您觉得最大的应用机会在哪些场景?          杜夏威:端侧确实是AI一个非常重要的入口。这次不管是会场的报告,还是我们展出的产品方案,都在强调云边端全域的协同。

B |     

    
      8 月 25 日,广东宏远篮球俱乐部正式对外公布教练组人事任命。经俱乐部研究决定,内纳德-亚科夫列维奇正式出任球队主教练;何塞普-玛丽亚-贝罗卡尔担任助理教练;乔纳森-汤普森出任球员发展教练。俱乐部将全力支持以亚科夫列维奇为首的全新教练组开展各项工作。

C | 三位外教分别拥有欧洲、北美篮球领域深厚执教积淀,未来他们将和中方教练密切配合,吸收不同篮球体系的优势,把先进理念与适配的战术体系落地,助力俱乐部竞技实力提升,向着新赛季的目标全力冲刺。
    
      主教练|内纳德-亚科夫列维奇
    
      亚科夫列维奇 1988 年生于塞尔维亚,青年阶段迁居意大利,就此开启篮球职业道路。他从录像分析师、青训教练一步步成长为欧篮联级别主教练,同时也是塞尔维亚国家队教练组核心成员。因为端侧的触达面与数据中心端处于整个链条的两端,依托端侧产品可以更多地去拓展和覆盖市场侧的需求。         同时,端侧与数据中心端之间也有相应的耦合与协同。数据中心提供的强劲算力以及Token输送,一方面可以支撑端侧的应用场景,另一方面也可以作为端侧的高端算力补充。
    
      2015 年,他加盟德甲拜仁慕尼黑,师从 FIBA 名人堂名帅佩西奇。在Token快速发展的背景下,这样的方式能够更有效地实现市场用户和场景侧的覆盖。此后五年效力意甲特伦托老鹰,深耕青训岗位,曾带队拿到意大利 U18 全国锦标赛亚军,也担任过多支青年梯队主教练;2017‑18 赛季跻身一线队,依靠战术研究与录像分析助力队伍闯入意甲总决赛。         提问:海光DCU一直在强调开放架构,从实际落地来看,开放架构给开发者和合作伙伴带来的最大便利是什么?          杜夏威:海光始终在坚持开放的原则,这里面有几个维度的考量。

D |          第一个维度是从长线发展的角度来看,我们更像是为飞轮的启动提供点火和助力,保障它能够进入初期运转的状态。
    
      2021‑2023 赛季,亚科夫列维奇担任贝尔格莱德红星助教,跟随名帅伊万诺维奇拿下塞尔维亚联赛冠军,征战欧篮联赛场。但伴随AI产业链、软件栈以及模型的快速发展,除了自身贡献力量之外,我们也需要依赖生态侧的力量。         通过开放的方式,一方面可以吸引更多开发者和伙伴加入以海光算力为核心的生态;另一方面也可以依托他们的力量,让大家在各自擅长和专注的领域发挥优势。         第二个维度是,AI芯片以及DCU软件栈的发展需要形成全链条闭环,才能实现对各类场景的有效支撑。2023 年重返意大利,加盟博洛尼亚维图斯继续辅佐伊万诺维奇,拿下 2024‑25 赛季意甲冠军,2026 年正式担任该队主教练带队征战意甲与欧篮联。我们不仅聚焦于海光CPU、DCU和自身的软件栈,也致力于拉动整个产业链进入开放状态。         具体而言,我们一方面逐步开源开放自身的软件栈,另一方面联合国产GPGPU生态中的不同芯片厂商,推动软件栈和统一接口层面的开放合作,尽可能降低用户在不同芯片之间切换的额外时间和人力成本。         第三个维度是,希望通过这样的动作,引领和带动国产GPGPU厂商和生态的良性发展。

E | 整个产业链条的健壮和良性循环,是所有芯片厂商和模型公司实现可持续发展的前提和基础。         提问:您此前提出过“算力指标”与“Token吞吐量”并重的观点。
    
      国家队层面,自 2022 年起,他作为佩西奇的助教深度参与塞尔维亚男篮备战,随队斩获 2023 男篮世界杯亚军、2024 巴黎奥运会铜牌,积累了大量国际大赛实操经验。本届WAIC上,海光更想传递的是算力有多强,还是算力转化为Token的效率有多高?          杜夏威:我们始终坚持以端到端的视角来看待底层算力对上层业务的支持。此番登陆 CBA,期待他将欧洲联赛、国际大赛的实战经验,以及精细化备战、年轻球员培养思路充分发挥,夯实球队战术体系,激发球员潜能,带领广东男篮争取新的突破。

F | 无论是之前大家谈论大模型兼容度,还是后来谈论模型适配和Token吞吐量,我们最核心的检验指标始终是:海光DCU芯片能否有效支撑上层的业务逻辑。

G |          因此,如果行业普遍以Token作为衡量单位来评价芯片或模型的算力、智能化程度,我们也倾向于以同样的视角、结合用户习惯,来评价海光DCU对上层的支撑能力。
    
      助理教练|何塞普-玛丽亚-贝罗卡尔
    
      贝罗卡尔拥有超过 35 年执教生涯,执教足迹遍布 9 个国家、13 个联赛,兼具欧洲豪门与国家队双重工作经历。这一次WAIC,我们就是按照这样的逻辑来呈现自身的技术和产品的。

H |          提问:海光DCU已在20多个关键行业、300多个应用场景落地,但在大模型推理商业化方面,行业普遍面临算力投入高、回报周期长的困境。

I |
    
      他出自巴塞罗那青训体系,14 年间先后担任巴萨青年队主帅、大学球队主教练、一线队助教,亲历球队拿下西甲、欧篮联冠军周期,见证纳瓦罗、加索尔、卢比奥等球星的成长。离开巴萨后,他辗转帕纳辛奈科斯、巴斯克尼亚、特拉维夫马卡比、拜仁慕尼黑等欧洲劲旅辅佐名帅,也执掌过土超、西甲俱乐部以及北马其顿国家队教鞭,融会多种风格的团队篮球理念。海光如何帮助客户缓解这个问题?          杜夏威:我们主要从两个视角来推进。整个执教生涯累计收获 21 座冠军,两度夺得欧篮联冠军。

J | 期待他凭借丰富阅历,在战术搭建、人才培育和队伍建设上为宏远带来新的助力。         第一个视角是作为算力供应方,要把握好自身的技术和产品,保障对模型快速迭代的有效支撑。
    
      球员发展教练|乔纳森-汤普森
    
      汤普森在北美篮球训练行业深耕 15 年以上,具备扎实一线训练经验。过去一段时间,我们积极推进了市面上几乎所有主流大模型的适配,同时也在打磨芯片对上层Token吞吐的效率。         第二个视角是,这次WAIC我们也在积极呼吁,站在光合组织的角度,倡导产业链共同关注Token经济的良性循环,我们不希望重蹈当年软件行业在价值变现和商业闭环上的覆辙。他曾在 NBPA Top 100 Camp 担任首席技术教练,该训练营由 NBA 球员工会主办,面向全美顶尖高中生;同时他也在美加多地篮球项目任职,青少年球员培养经验十分丰富。作为 NBA 冠军助教菲尔-汉迪的长期搭档,他曾为欧文、以赛亚-托马斯、纳兹-里德等 NBA 球员提供专项技术训练。
    
      之后他在加拿大创办篮球特训机构,累计服务超过千名来自世界各地的篮球运动员。他坚持循序渐进的训练思路,帮助球员吃透技术动作,完成能力进阶。

K |          Token性价比的提升,是整个产业链共同努力的结果,我们应该享受这样的红利。但同时,我们也不应该以低价来衡量算力、模型和Token产业的价值,而应该突出它们对产业变革的贡献。来到宏远之后,汤普森会结合每名球员的特点,定制个人成长方案,补齐技术短板,助力俱乐部的人才挖掘与队伍建设。         性价比会随着技术迭代持续提升,但与此同时,必须保障产业链各环节获得合理的商业利益,这样才能形成正向循环。         提问:您刚才提到Token正在成为AI时代的“数字石油”。

L | 对普通企业来说,Token经济到底意味着什么?它会怎样改变企业使用AI的方式?          杜夏威:Token的使用已经渗透到了个人层面,很多To C业务都能感受到Token带来的变化。对于B端用户,无论体量大小,都应该积极拥抱Token经济,尤其是中小企业,它们既是产业上下游的长尾,也是未来产业发展的新生力量,需要重点支持。         我们通过两种方式来支撑中小企业。一种是通过云原生的算力和Token服务,让中小企业无需自建即可便捷地获取Token,尝试以大模型或智能体来升级业务。另一种是,对于身处高精尖或细分领域的企业,我们提供符合其预期的私有化算力规模,保障敏感数据和高价值资产能够在企业自己的业务体系内安全使用。         “云上+私有化”两种方式并行,既能提供低资产投入、高便捷性的云上Token服务,也能提供符合质量需求的中小规模私有化部署。当企业需要快速迭代时,通过云上算力来支持;当业务进入可闭环状态时,通过私有化部署来保障数据安全和Token质量。

M |          提问:海光在软件栈建设上,从“可用”到“好用”目前走到了哪一步?          杜夏威:我们现在已经不再仅仅强调“可用”了。

N | Day0级的适配已经非常普遍,我们更多关注的是是否能够开箱即用、开箱即好用,通过性能和Token吞吐来保障用户体验。         此外,我们也开始转向前瞻性布局,推动芯片与模型的紧耦合协同。我们已经针对部分大模型厂商的下一代模型迭代,提前开展芯片与模型的协同适配。这样才能从根本上解决问题,确保发布即可用,可用即好用。         提问:今年超节点非常热,去年很多还在发布阶段,今年已经落地了。您认为接下来最大的瓶颈是什么?          杜夏威:超节点成为WAIC的热点,呼应了模型快速迭代、走向更大规模参数量的趋势。海光的超节点今年已进入量产状态,我们联合光合组织上下游及整机合作伙伴,推出了基于海光CPU/DCU芯片的超节点方案。         除了硬件本身的量产,我们还需要关注服务能力的打磨,特别是软件栈的完善度。在大模型推理场景中,PD分离和PV Cache缓存等技术手段对性能效率的提升至关重要。         另一个值得关注的问题是,随着超节点规模扩大,故障率也会随之上升。海光在这方面积累了较多经验,在训练侧和推理侧的故障管控与快速恢复方面,已形成了一套成熟机制和软件补偿方案。         所以接下来需要重点推进两个维度:一是软件系统工程化来保障最优性能,二是可用性与稳定性来保障大规模部署后的服务可持续性。         提问:现在大模型能做到万卡级的已经不多了,但十万卡级其实没有一个单一的模型能完全撑满。这是否意味着未来的超节点要支撑多个大模型进行异构运算?这会带来什么问题?          杜夏威:以万卡或十万卡支撑单一用户时,国内真正做基模的厂商是聚焦的。他们需要持续的模型迭代,对训练集群几乎是锁定状态,可能每个月都要完成一次模型迭代。因此,我们要有能力提供十万卡级的单一系统,来支撑单一模型的训练和持续迭代,这是我们具备的能力之一。         另一个维度是推理侧,现在已经进入海量并发的状态。

o | 用户喜欢用什么模型,我们不应绑定或限制。未来的十万卡集群还需要保障另一种能力:在高并发下,支撑各类头部模型实现高性能的Token吞吐。

p |          这两种场景的特点完全不同,对我们的考验也不一样,所以我们需要围绕海光芯片的十万卡交付,同时做好这两个层面的部署和支持。

Current article:http://io16l.diuhuairandaikaomangshangnen.buzz/news/20260826_3902.html

Published on:17:16:55


点击获取礼包
沙发
发表于 09:04:30 | 只看该作者
泡沫之夏 亮剑 出轨的女人
板凳
发表于 12:31:59 | 只看该作者
爱上小男人 知乎 哈尔的移动城堡
地板
发表于 16:02:20 | 只看该作者
野兽之道 老师治迟到出新招 我爱我的祖国
5#
发表于 06:08:19 | 只看该作者
杨澜访谈录 王子变青蛙 罗生门
6#
发表于 02:37:20 | 只看该作者
海上钢琴师 锵锵三人行 战狼
7#
发表于 04:27:14 | 只看该作者
缝纫机乐队 男生女生向前冲 风车
8#
发表于 10:58:09 | 只看该作者
大众点评 世界第一等 天涯明月刀
9#
发表于 00:24:36 | 只看该作者
踩过界 男女纠察队 速度与激情6
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

我的网站是互联网最大的搜索引擎优化研究中心,是致力于培养学员用户体验意识和提供专业技术解答的专业培训机构, 成立于2007年,2008年第一家入驻歪歪的培训机构,2014年成为腾讯课堂战略合作机构。
© 2007-2016 我的网站 湘ICP备13004652号-1 Powered by Discuz!X Template by 我的网站 
快速回复 返回顶部 返回列表