硅基流动优化SiliconLLM和OneDiff推理引擎,降低AI开发成本,推动行业标准化。

《科创板日报》7月9日讯(记者 李明明)近日,硅基流动(SiliconFlow)完成总金额近亿元人民币的天使+轮融资。本轮融资由某知名产业方领投,跟投方包括智谱AI360 和水木清华校友基金等知名企业及机构,老股东耀途资本继续超额跟进。

关于公司接下来的发展计划,硅基流动创始人兼CEO袁进辉告诉《科创板日报》记者,将主要集中在技术产品创新和全球商业化推进两个方面;继续优化自研的 SiliconLLM 和 OneDiff 推理引擎,提升模型的推理效率和用户体验;同时,将进一步升级 SiliconCloud 平台,持续推出高效能、低成本的AI模型云服务。“计划在进一步扩展和验证市场的基础上,再次寻求新一轮的融资。”

本次投资方之一水木清华校友基金合伙人丁昳婷告诉《科创板日报》记者,AI infra(人工智能基础设施)是AI赛道最重要的环节之一,也是水木在AI行业布局的重点方向。“硅基流动团队是国内最早自研AI框架并从事AI加速的团队之一,同时还曾经亲身参与底层大模型方向创业,综合来看他们是最适合在大模型时代做AI infra的创业团队。”

聚焦AI Infra赛道

硅基流动成立于 2023 年 8 月,致力于打造规模化、标准化、高效能的生成式AI计算基础设施平台,提供模型云服务平台SiliconCloud、大语言模型推理引擎SiliconLLM、高性能文生图/视频加速库OneDif等产品,助力企业和个人用户部署AI模型

截至目前,硅基流动的产品已经在包含大语言模型推理、文生图视频生成等多个行业中应用。

袁进辉告诉《科创板日报》记者,目前新上线的一站式模型云服务平台 SiliconCloud ,广泛适用于大语言模型推理、图像生成、视频生成等多个行业。

“平台通过优化的SiliconLLM和OneDiff推理引擎,使企业和开发者能够在不牺牲性能的前提下,以较低费用进行大规模AI应用开发,降低开发成本,帮助实现开发者token 自由。”

AI Infra指的是在大模型的生态系统中,除算力外,为支持大模型训练和部署流程构建的各种底层软件技术设施。其能帮开发者简单方便地设计模型或使用模型,而无需操心底层算力资源的调配。

随着ChatGPT的火热,大模型和其相关应用不断涌现。AI Infra作为连接算力和应用的AI中间层基础设施,其技术和商业发展前景被重点关注。

一位投资国内AI Infra早期创企的投资人告诉《科创板日报》记者,由于目前大模型的发展处于早期阶段,快速构建和训练调优模型更受重视。而基础设施构建虽并非绝对优先级,但是在行业成熟后,应用层发展起来后,基础设施的支撑将会越来越重要,因此,其个人非常看好AI Infra的前景。

国内AI Infra创企若想发展的好,还需要思考是面向国内市场还是海外市场、相比现有解决方案或开源软件的独特优势在哪、商业模式是否可以标准化等问题。”

《科创板日报》记者注意到,国内AI Infra创企还包括无问芯穹、清程极智等,二者均为清华系公司,硅基流动本次的投资方智谱AI也入资了这两家企业

无问芯穹的项目发起人是清华大学电子工程系主任汪玉,创始人是其学生夏立雪。而清程极智创始人则出身清华计算机系。

而该赛道的国外企业包括英伟达亚马逊、Lepton AI、OctoAI等,以及伯克利大学开发的 vLLM。

创始人是AI领域连续创业者

硅基流动的创始人袁进辉也出身于清华,2008年,他从清华大学计算机系博士毕业。读博期间,他就开始研究神经网络科学,师从中国人工智能的开拓者、中国科学院院士张钹。

他还是一名AI领域的连续创业者,此前,袁进辉预期到未来的模型会越来越大,因而试图开发一种适用于模型变大后的运行的技术架构。于是,他创办了一流科技。

谈及为何创办硅基流动,袁进辉表示,主要源于对但前正处于生成式AI和大模型技术爆发关键环节的判断。“历史证明,得开发者得天下,最接近用户的生态位能最快响应市场变化和用户需求。AI Infra不仅为应用开发者提供了与硬件和模型之间的桥梁,提升开发效率和创新能力,还能有效应对市场对高性能、低成本AI解决方案的需求。”

与大厂相比,他认为硅基流动的核心优势在于:首先,公司具备大模型技术积累与创新,具备顶尖的AI Infra技术能力团队和作品,原班技术团队在一流科技时期就已打造出开源训练框架OneFlow;其次,作为创业团队,硅基流动可以快速捕捉到行业需求的变化并积极作出适配。

据悉,硅基流动的新产品 SiliconCloud 公测上线一个月后,平台用户日均调用数十亿 token,目前已经有了较好的体验口碑。

袁进辉此前还曾提出,服务大模型应用比服务大模型生产更容易做出标准化产品,市场空间也大得多,“模型生产是阶段性的,且由少数公司主导;大模型应用则会遍布各行各业、无处不在,被各种行业和规模的企业需要。”

丁昳婷也表示,袁进辉本人经历过两次创业后,对技术和商业结合的认知更加成熟,从“投人”的角度来说是最优人选。“我们团队与袁博士在他第一次创业期间就认识,在知道他再次创业后,很快就敲定投资。硅基流动作为重要的AI基础设施提供商与水木AI方向生态链企业也有很多合作机会,后续我们会持续通过校友网络继续加深多方面合作。”

截至目前,硅基流动经历了两轮融资,今年1月完成了上一轮5000 万元的天使轮融资,由创新工场领投,耀途资本、奇绩创坛、美团联合创始人王慧文等跟投,投后估值为数亿元人民币。

随着AI Infra赛道的发展,硅基流动将继续在技术创新和全球商业化方面发力,期待在市场验证后再次迎来新一轮融资。