尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

10小时“复刻”CUDA!AI Agent挑战英伟达,推理侧变革悄然开启?

10小时“复刻”CUDA!AI Agent挑战英伟达,推理侧变革悄然开启? 01 10小时「复刻」CUDA英伟达在AI浪潮中虽靠GPU芯片获利但真正优势是围绕GPU的软件生态CUDA是核心。它由英伟达高管Ian Buck带队花近20年打造是围绕英伟达GPU的软件平台分内核层、库层和开发框架层。现在AI软件初创公司Infinity的创始人Jeremy Nixon带着AI Agent来了其团队开发的Ignition为AI芯片初创公司d - Matrix搭建类CUDA软件仅花10小时。不过Infinity主要攻入CUDA第一层开发通用推理库不等于复制了CUDA完整生态但该公司拿下1500万美元融资估值达1亿美元。02 推理侧第二战场启动大模型计算分训练和推理训练需上万块卡协同数月推理小集群甚至单卡就行。训练侧CUDA近乎无解企业选择保守推理侧游戏规则改变韩国AI芯片公司Rebellions首席商务官Marshall Choy认为这是开源软件竞争。竞争者盯上推理因为训练重「极致性能」推理重「每个回答的成本」且推理软件可跨芯片运行CUDA锁定效应失效。这给专用推理芯片机会如d - Matrix成立于2019年主攻生成式AI推理芯片其联合创始人兼CEO Sid Sheth认为AI推理机会超训练Infinity的类CUDA软件服务于它。各路芯片厂和云计算巨头已在推理市场排兵布阵。03 英伟达护城河到底颠没颠覆答案是还差得远。10小时重写的只是「一块芯片的适配代码」CUDA生态有20年积累。INT21创始人Bing Xu认为Agent生成代码快但验证是瓶颈CUDA验证工具链是资产Agent时代验证生态将成下一道护城河。Modular联合创始人兼CEO Chris Lattner认为编码Agent改进是渐进式炒作被夸大。而且英伟达自己也在使用AI用AI Agent开发和验证CUDA。这场仗胜负取决于竞争对手追赶速度能否快过英伟达自我迭代速度。短期内英伟达护城河无恙长期看护城河从「代码存量」向「验证和优化生态」迁移先占新位置者是赢家。
返回列表