36 氪獲悉,AI 基礎設施廠商「基流科技」已于近期完成近億元 A+ 輪融資,由上海國投孚騰資本、國方創新聯合領投,克拉瑪依城發基金、張江燧芯基金跟投,老股東卓源亞洲連續四輪追加投資。本輪募集資金將主要用于核心技術研發、市場拓展和團隊建設。
基流科技成立于 2023 年 2 月,源自清華大學網絡安全實驗室。創始人胡效赫是清華大學博士、博士后,在高性能網絡和分布式系統領域有十余年研究經驗。核心團隊成員來自清華、北大等頂尖高校及阿里、百度、中興等頭部廠商。
基流科技定位為全棧自主的 AI 算力建筑商,團隊專注于攻克大規模算力集群的分布式計算通信難題。作為國內極少擁有數個萬卡集群落地經驗的 AI 基礎設施廠商,公司已服務包括智譜 AI、商湯科技、運營商、數據中心及地方國企在內的多個用戶。
" 不同于專注算力平臺運營的‘房地產開發商’和專注系統優化的‘裝修商’,我們聚焦搭建覆蓋計算通信軟硬件的高性能開源自主智算系統,類似‘蓋房子’。" 基流科技聯合創始人兼 CFO 謝文奇向 36 氪介紹。
隨著大模型和 AIGC 應用的爆發,算力已成為繼水、電、網之后的新型基礎設施,緊隨之而來的是網絡通信瓶頸、高故障率和供應商軟硬綁定帶來的高昂成本。英偉達憑借其 CUDA 生態,不僅銷售 GPU,還捆綁其專用的網絡設備,形成了封閉且昂貴的解決方案。
" 我們的核心優勢在于性價比與開放性,其本質在于實現‘解耦’ ",基流科技創始人胡效赫曾指出。通過基流科技自研的 RoCE 組網方案,客戶的成本可降低 40%,交付周期也從數月縮短至數周。在 2023 年下半年,基流科技就成功落地了國內最早的第三方千卡 H800 RoCE 集群,有力支撐了國產大模型公司的基座模型迭代。
目前,基流科技打造了自研的高性能開源智算系統 Galaxy HPAC(High-Performance AI Computing)。該系統主要包括三大核心產品:高性能融合 AI 網絡 ( Mercury-X ) 、人工智能平臺 ( Venus-AICloud ) 和算力建維平臺 ( Venus-AIDOC ) 。另外,公司自研的 MS6426 全國芯 25.6T 高速開源 AI 交換機,已通過智算集群 72 小時長穩測試,實現規模部署。
謝文奇介紹,經過兩年多時間的發展,公司累計組網調優交付的集群規模已達 23 個,超 6 萬 6 千張 GPU、4000 余臺交換機,和超 32 萬個光模塊,同時已成功落地多個跨遠距離訓推集群( 50 公里、100 公里、1500 公里)。
對于算力是否過剩的疑問,謝文奇告訴 36 氪,算力不只是為了預訓練存在,目前不管國內還是國外的大模型公司仍在進行預訓練,同時推理和后訓練的算力需求正快速增長。但從需求占比看,他提到,2023 年訓練與推理的算力需求比大概是 7:3,2024 年是 5:5,到 2025 年可能會達到 3:7。在立足北京、上海等核心區域同時,基流科技也積極響應國家戰略,在新疆、寧夏等地參與算力項目落地。
目前,基流科技已投入十萬卡集群的仿真和未來架構設計。胡效赫坦言,雖然國內對如何構建和使用十萬卡集群仍在探索階段,但技術必須先行。公司正與更多行業伙伴合作,推動硬件國產化替代和 AI 基礎設施生態開放與成熟。