2024年9月2日,無問芯穹(Infinigence AI)宣布完成近5億元A輪融資,至此,在成立短短1年4個月內(nèi),無問芯穹累計(jì)已完成近10億元融資。無問芯穹本輪融資聯(lián)合領(lǐng)投方包括啟明創(chuàng)投。
無問芯穹本次融資募集的資金將用于加強(qiáng)技術(shù)人才吸納與技術(shù)研發(fā),保持軟硬協(xié)同、多元異構(gòu)的技術(shù)領(lǐng)先優(yōu)勢;深入推動產(chǎn)品商業(yè)化發(fā)展,保持Infini-AI異構(gòu)云平臺產(chǎn)品與市場間的緊密嵌合;強(qiáng)化生態(tài)合作,激活異構(gòu)集群算力資源,構(gòu)建支撐M種模型和N種芯片的AI算力底座,做AI模型算力的“超級放大器”,致力于成為大模型時代首選的“算力運(yùn)營商”。
無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪表示:“感謝多方資本對無問芯穹的青睞,讓我們在‘天時、地利、人和’的創(chuàng)業(yè)征途上多了一份不負(fù)厚望的篤定。AI 2.0浪潮帶來的新‘二八定律’,Transformer架構(gòu)統(tǒng)一了新的技術(shù)范式,意味著只需解決20%的關(guān)鍵技術(shù)問題即可支撐80%的垂直場景泛化,給軟硬件聯(lián)合優(yōu)化技術(shù)的標(biāo)準(zhǔn)化和規(guī)?;峁┝穗y得的機(jī)遇;中國算力生態(tài)正面臨的供需矛盾以及資源分布不均的現(xiàn)狀,為我們拉動上下游協(xié)力實(shí)現(xiàn)多元異構(gòu)算力的高效整合創(chuàng)造了時代機(jī)遇;而我們源于清華電子系的深厚底蘊(yùn)、十余年的技術(shù)積累和豐富的產(chǎn)業(yè)經(jīng)驗(yàn)所形成的產(chǎn)研結(jié)合的‘復(fù)合型’團(tuán)隊(duì),更成為AI領(lǐng)域的人才‘引力井’,構(gòu)成了無問芯穹獨(dú)特的人才競爭力?!?/strong>
01/
依托軟硬協(xié)同、多元異構(gòu)技術(shù)優(yōu)勢
做AI模型算力的“超級放大器”
大模型能夠支撐的實(shí)際產(chǎn)業(yè)規(guī)模,取決于AI模型的實(shí)際可用算力,是一個壁壘更高、玩家更稀缺、價值量更高的領(lǐng)域。基于對AI行業(yè)的深刻理解和長期實(shí)踐,無問芯穹超前判斷大模型的實(shí)際可用算力不僅取決于芯片的理論算力,還可通過優(yōu)化系數(shù)放大算力利用效率,通過集群規(guī)模放大整體算力規(guī)模,由此,無問芯穹提出“芯片算力×優(yōu)化系數(shù)(軟硬協(xié)同)×集群規(guī)模(多元異構(gòu))=AI模型算力”公式。遵循這一公式,無問芯穹將通過軟硬件聯(lián)合優(yōu)化技術(shù),持續(xù)提升芯片算力在大模型任務(wù)中的利用率,并通過多元異構(gòu)算力適配技術(shù),提升集群算力利用率,并擴(kuò)大行業(yè)整體算力供給。
在軟硬件聯(lián)合優(yōu)化方面,無問芯穹通過自研的推理加速技術(shù)FlashDecoding++大幅提升主流硬件和異構(gòu)硬件的利用率,超越在先SOTA,完成多個主流開源大模型在AMD、華為昇騰、壁仞科技、寒武紀(jì)、燧原、海光、天數(shù)智芯、沐曦、摩爾線程、NVIDIA等10余種計(jì)算卡上的適配,并在部分計(jì)算卡上實(shí)現(xiàn)了行業(yè)第一的推理加速成果,高效滿足各行業(yè)愈發(fā)高漲的大模型推理需求。基于這一方案取得的優(yōu)化效果,無問芯穹已與AMD簽署戰(zhàn)略合作,攜手推動商用AI應(yīng)用的性能提升。
在多元異構(gòu)算力適配方面,無問芯穹也擁有業(yè)界稀缺的異構(gòu)適配與集群能力稟賦,7月發(fā)布的大規(guī)模異構(gòu)分布式混合訓(xùn)練系統(tǒng)HETHUB,是業(yè)內(nèi)首次在華為昇騰、天數(shù)智芯、沐曦、摩爾線程和AMD、NVIDIA共六種芯片“4+2”組合間實(shí)現(xiàn)了千卡規(guī)模的異構(gòu)算力混合訓(xùn)練,集群算力利用率最高達(dá)到97.6%,平均高出基準(zhǔn)方案約30%,這意味著,在相同的多元芯片機(jī)房條件或者集群條件下,無問芯穹可將訓(xùn)練總時長壓縮30%。
02/
打造Infini-AI異構(gòu)云平臺
提供異構(gòu)算力利用到大模型應(yīng)用開發(fā)全棧式能力
近年來,國際上模型層與芯片層逐漸形成“雙頭收斂”格局,而中國的模型層與芯片層依然持續(xù)呈現(xiàn)由“M種模型”和“N種芯片”構(gòu)成的“M×N”格局。然而,不同硬件平臺需要適配不同軟件棧和工具鏈,異構(gòu)芯片間長久存在著難以兼用的“生態(tài)豎井”現(xiàn)象。隨著越來越多國產(chǎn)異構(gòu)算力芯片被應(yīng)用于全國各地方算力集群,異構(gòu)算力難以被有效利用的問題日益嚴(yán)峻,逐漸成為中國大模型產(chǎn)業(yè)發(fā)展的瓶頸。
無問芯穹依托軟硬協(xié)同、多元異構(gòu)技術(shù)優(yōu)勢,已基于多元芯片算力底座打造出Infini-AI異構(gòu)云平臺。該平臺向下兼容多元異構(gòu)算力芯片,可有效激活全國各地沉睡異構(gòu)算力,現(xiàn)已運(yùn)營的算力覆蓋全國15座城市。此外,Infini-AI異構(gòu)云平臺還包含一站式AI平臺(AIStudio)和大模型服務(wù)平臺(GenStudio)。其中,AIStudio一站式AI平臺為機(jī)器學(xué)習(xí)開發(fā)者提供高性價比的開發(fā)調(diào)試、分布式訓(xùn)練與高性能推理工具,覆蓋從數(shù)據(jù)托管、代碼開發(fā)、模型訓(xùn)練、模型部署的全生命周期。GenStudio大模型服務(wù)平臺則為大模型應(yīng)用開發(fā)者提供高性能、易上手、安全可靠的多場景大模型服務(wù),全面覆蓋了從大模型開發(fā)到服務(wù)化部署的全流程,有效降低了開發(fā)成本和門檻。自平臺上線以來,已有Kimi、Liblib AI、獵聘、生數(shù)科技、智譜AI等多個大模型行業(yè)頭部客戶在Infini-AI異構(gòu)云平臺上穩(wěn)定使用異構(gòu)算力,并享受無問芯穹提供的大模型開發(fā)工具鏈服務(wù)。
03/
做大模型時代首選的算力運(yùn)營商
繁榮異構(gòu)算力生態(tài)、加速AGI普惠進(jìn)程
無問芯穹構(gòu)建的Infini-AI異構(gòu)云平臺不僅可幫助下游客戶輕松屏蔽硬件差異,無感高效地使用底層異構(gòu)算力的強(qiáng)大能力,還將有力打破國內(nèi)異構(gòu)算力的生態(tài)困境,加速上層應(yīng)用逐漸向異構(gòu)算力基座遷移,有效整合并擴(kuò)大國內(nèi)大模型產(chǎn)業(yè)可用算力的規(guī)模,真正將異構(gòu)算力轉(zhuǎn)化為能用、夠用、好用的大算力,助力構(gòu)建具有中國特色的本土化異構(gòu)算力生態(tài)。遵循算力利用率提升思路,結(jié)合軟硬件聯(lián)合優(yōu)化實(shí)力,無問芯穹在端側(cè)大模型和LPU IP領(lǐng)域亦有超前布局,致力打造“端模型+端芯片”閉環(huán)能力。無問芯穹堅(jiān)信端側(cè)場景快速增長和應(yīng)用爆發(fā)的必然趨勢,AI PC、AI手機(jī)將成為未來人機(jī)交互的重要接口,將助力每一個終端實(shí)現(xiàn)AGI級別的智能涌現(xiàn)。
以“釋放無穹算力,讓AGI觸手可及”為使命,無問芯穹致力于成為大模型時代首選的“算力運(yùn)營商”,目前正在強(qiáng)力推進(jìn)和產(chǎn)業(yè)鏈中最具價值的客戶建立戰(zhàn)略合作,再推廣到更廣泛的市場中實(shí)現(xiàn)標(biāo)準(zhǔn)化、批量化復(fù)制,建立規(guī)模優(yōu)勢。通過激活多元異構(gòu)算力和軟硬件聯(lián)合優(yōu)化,無問芯穹目標(biāo)讓大模型的落地成本降低10000倍,如同“水電煤”一般,成為行業(yè)觸手可及、廣泛受益的新質(zhì)生產(chǎn)力,加速AGI的普惠進(jìn)程。
啟明創(chuàng)投主管合伙人周志峰表示:“啟明創(chuàng)投在科技領(lǐng)域始終堅(jiān)持‘快半步’的投資理念,即預(yù)判趨勢、提前布局。無問芯穹是行業(yè)少有對AI基礎(chǔ)設(shè)施的發(fā)展脈絡(luò)和行業(yè)格局擁有先見性和敏銳性的企業(yè),在AI2.0時代基于‘推理加速、多元異構(gòu)’的核心能力,快速實(shí)現(xiàn)了核心技術(shù)的價值轉(zhuǎn)化,為芯片硬件、智算中心、大模型和AI應(yīng)用等產(chǎn)業(yè)上下游的每一個環(huán)節(jié)都提供了多快好省的解決方案,為大模型的降本增效帶來更好的效果,在技術(shù)、產(chǎn)品和商業(yè)模式上都具有獨(dú)到優(yōu)勢。啟明創(chuàng)投堅(jiān)信,無問芯穹是一家能夠創(chuàng)造行業(yè)拐點(diǎn)的企業(yè),將在AI2.0的時代浪潮中馭浪而行?!?/strong>
本輪融資聯(lián)合領(lǐng)投方為社保基金中關(guān)村自主創(chuàng)新基金(由君聯(lián)資本擔(dān)任基金管理人)、啟明創(chuàng)投和洪泰基金,跟投方包括聯(lián)想創(chuàng)投、小米、軟通高科等戰(zhàn)略投資方,國開科創(chuàng)、上海人工智能產(chǎn)業(yè)投資基金(由臨港科創(chuàng)投擔(dān)任基金管理人)、徐匯科創(chuàng)投等國資基金,以及順為資本、達(dá)晨財智、德同資本、尚勢資本、森若玉坤、申萬宏源、正景資本等財務(wù)機(jī)構(gòu)。