第172章 阳谋 一

读一本书,过一段人生。

⚡ 自动翻页 开启后阅读到底自动进入下一章
⚡ 开启自动翻页更爽 看到章尾自动进入下一章,追书不用一直点。

  ……

  “第二步,是生態的『躯干』——编译器与中间表达(ir)。”

  朱宋纯的思绪转向了软体层。

  “光有晶片还不够,得让开发者用得爽。”

  “英伟达的护城河不仅仅是硬体,更是cuda。那个庞大的算子库,让无数开发者產生了路径依赖。但cuda是为矩阵计算生的,在逻辑推理的新赛道上,它也是个瘸子。”

  “我们要定义新的標准。可以让华威的mindspore团队,开发一套专门针对slrm的编译器后端。”

  “虽然最终的编译器后端依赖於晶片的指令集,但中间层的框架设计现在就可以启动。我们要打造一套专门针对slrm原生优化的软体栈,让开发者能像呼吸一样自然地迁移过来。”

  ……

  “第三步,才是应用落地。”

  “我们需要一个『杀手级』的demo,来点燃资本的热情。”

  “比如法律大模型,或者数学解题大模型。用极小的参数量,实现极高的准確率。”

  想到这里,朱宋纯停顿了一下,並没有被狂热冲昏头脑。他很清楚,成本优势的建立不是一夜之间的事。

  “transformer架构的推理成本从每百万token 100美元降到0.01美元,用了整整八年。slrm作为新生事物,初期的单位算力成本必然高昂,不可能一上来就比成熟的gpu更便宜。”

  “但这局棋依然能活。”

  “关键在於『共生』。slrm与llm结合,能產生『一加一大於二』的化学反应。因此这个组合中的llm可以用小参数模型,成本会降低。用昂贵但精明的slrm做逻辑引导,用廉价且量大的传统llm做知识填充。只要总体方案能对標同等智力的大参数模型,商业闭环就能跑通。我们不需要等八年,现在就能上牌桌。”

延伸阅读
玄幻同人游戏历史科幻仙侠都市武侠