九游体育app娱乐由招商局创投、华泰翻新、星连本钱、国方翻新蚁合投资-欢迎访问九游体育(JIUYOU) 中国大陆大陆官网

文 | 王方玉

剪辑 | 苏建勋

36 氪获悉,清华系算力网罗与算力建维办事商「基流科技」近期完成 Pre A+ 和 A 轮融资,由招商局创投、华泰翻新、星连本钱、国方翻新蚁合投资,老鼓励卓源亚洲、光速光合跟投,召募资金将主要用于家具研发、市集抓行和平淡运营。

基流科技的历史投资方包括了多家战投与国资基金,累计融资总数超亿元。

基流科技诞生于 2023 年 2 月,源自清华大学网罗安全履行室,公司攻克 AI 基础才气的散播式磋议通讯痛苦,在高速组网、聚认知信、并行框架、管控转机等方面变成了一系列关节时间。

自诞生以来,基流科技已已毕从百卡、千卡到万卡,从集群组网、调优到集群运维的升级。

规章现在,公司已复旧十余个智算集群落地,累计开采调优集群的 FP16 算力越过 40EFLOPs。公司已办事包括智谱 AI、商汤科技、数据中心、运营商、地点国企在内的多个头部用户。

行动推动东谈主工智能发展的三大因素之一,算力是东谈主工智能的"发动机"和中枢驱能源,也成为继水、电、气、路、网之后的新式基础才气。

本年 9 月发布的《中国综划算力指数呈报(2024)》指出,以前 20 年间,我国智能算力需求增长了百亿倍,而跟着 AI、具身智能等产业的快速发展,我国智算限制还将进一步急剧增长。一万张及以上的加快卡构成的"万卡集群"也将越来越多。

越是限制大的算力集群,网罗通讯和 GPU 组件故障的概率越高,快速打造大限制且判辨的算力集群,同期又作念到高性价比,是一项寰球共同面临的挑战。而这恰是基流科技要已毕的概念。

正如互联网时间的巨头想科主要科罚互联网膨胀和承接问题,算力网罗办事商变装就相称于大模子时间的想科。算力网罗具有垂危政策道理道理,近期英伟达因收购高性能网罗公司迈络想被市集监管总局张开反左右探员,GPU 的专用网罗互联设备和高速以太网网卡需要冲突禁闭。

"东谈主工智能对算力的需乞降传统 IT 有很大分袂,因此需要再行缠绵网罗架构,有关时间还处于初期阶段,在散播式磋议框架、硬件设备甚而芯片方面还有很大的假想空间。" 基流科技首创东谈主胡效赫对 36 氪示意。

现在国内有万卡以上大限制集群建维时间能力的团队很少,行业内也多半枯竭算力集群落地训诲与步伐。而基流科技是国内少许数领有万卡集群落地训诲的 AI 基础才气厂商,履历了国内算力限制从千卡到万卡功能的升级。

团队方面,首创东谈主胡效赫是清华大学博士、博士后,加州伯克利大学打听学者,在高性能网罗和高性能磋议标的作念了十余年连络,其在创业前就如故落地了世界首个运营商级 Tbps 可编程网罗家具。团队成员则源自清华、北大、北邮、北航等一线高校,阿里、好意思团、中兴等互联网和设备厂商,其中多名成员有越过二十年产研训诲。

收货于赛谈的爆发式增长,基流科技也在快速成长当中。据了解,2023 年公司阐述收入数千万元,2024 年瞻望收入将超亿元。

家具方面,基流科技现在主要有三部分,算力转机优化平台、算力开采运维平台和高速互联硬件。除了整套算力集群开采科罚决议外,公司在集群料理、磋议框架和高速网罗三个脉络上齐进行了家具化并有冉冉落地,并尽可能地提高录用效果、GPU 诈欺率和集群判辨性。

胡效赫告诉 36 氪,现在基流科技的算力集群决议在出产环境中不错为 GPU 集群擢升超 10% 的性能,匡助客户在千卡落地中勤俭成本上千万元,在万卡落地中勤俭数亿元。

关于更大限制的十万卡集群开采,胡效赫坦言"国内还没东谈主知谈十万卡该如何构建以及如何使用,还需要无间探索。" 而基流科技团队如故驱动插足十万卡仿真和改日架构缠绵的式样研发。

此外,高速算力互联硬件的国产化也如故在进行中。

胡效赫示意,算力网罗的中枢组件网卡、线缆、交换机,瞻望在 2025 年将已毕端到端的国产化,通过软硬件蚁合缠绵的形貌,优化算法、工艺与供应链,以系管辖动芯片发展,已毕硬件敞开生态,软件自主可控。

"跟着东谈主工智能产业快速发展,改日一到两年,国内一定会产生十万卡集群。在政策层面上,这是一个优质供给和需求匹配的历程。"胡效赫示意九游体育app娱乐,基流科技将无间发力超大限制集群的组网、调优和调理,为办事国度大政策作念出孝顺。