Future Tech

[转贴] 对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路

Tan KW
Publish date: Wed, 10 Apr 2024, 10:26 PM
Tan KW
0 500,395
Future Tech
对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路

智东西(公众号:zhidxcom)
作者 | 国仁 李水青
编辑 | 漠影

当下中国科技圈,什么样的创业公司最吃香?或许是身处爆发的大模型赛道,占据算力资源稀缺性,并获得资本、市场及政策等多重青睐,且有着远大AGI蓝图前景的公司。

英博数科,就是这样的一家公司。

从ChatGPT到Sora的爆火,智能算力成为一门公认的“好生意”。尽管云巨头相继推出诱人的大模型训推“全家桶”,但实际可用的算力仍是稀缺资源,国内AI企业纷纷患上“算力饥渴症”……

成立不满21个月的英博数科,成为了这一背景下国内最吃香的“算力黑马”之一。

它是半年拿下近30亿元人民币算力大单的新贵,目前落地的智算集群100%满载运行;它是大模型厂商的“香饽饽”,百川智能MiniMax深言科技等头部大模型创企都涌入了其怀抱;它是“彩票大王”鸿博股份的全资子公司,踩着英伟达GPU算力红利的顺风,带动鸿博股份股价在2023年最高飙涨580%……

英博数科的跨界突围,离不开一位关键人物——鸿博股份副总裁、英博数科CEO周韡韡

对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路
▲鸿博股份副总裁、英博数科CEO周韡韡

她曾是媒体人,拥有澳大利亚阿德莱德大学金融学学士、悉尼大学传播学硕士、国际政治经济关系博士学位,曾任澳视传媒执行董事、澳中文化友好交流协会秘书长及36氪副总裁。2021年底,周韡韡开始带队进行智算行业调研,当时就定下了“打造北京智算中心样板”的目标。

两年之后,随着2023年大模型与AIGC掀起热潮,将英伟达推上万亿美元市值的王座,周韡韡不仅提前达成了两年前立下的目标,还让英博数科公司拿下了国内最大资金规模的算力服务协议,甚至在最顶尖的云巨头口中夺食。

与此同时,关于“全栈式AGI生态服务平台”的新定位,也让英博数科的故事变得更有闪耀。英博数科被一些业内人士拿来与估值达160亿美元的美国算力独角兽CoreWeave比较,但在周韡韡看来,如果将目光放向“中国版App Store+Hugging Face”,中国同行的价值甚至有望赶超CoreWeave。

从ChatGPT到Sora,周韡韡如何稳踩智能算力市场的发展节奏点?从名不见经传到产业新星,英博数科做对了什么,又踩了哪些坑?面向未来,什么样的智能算力产业发展道路最适合中国?

近日,智东西总编国仁独家对话周韡韡,试图从个体视角,揭开“百模大战”混沌狂欢之下的智能算力产业真相。

对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路

▲鸿博股份副总裁、英博数科CEO周韡韡(左)与智东西总编国仁(右)

一、从Sora浪潮聊到产业趋势:通用大模型为王,智算产业现隐形护城河

国仁:进入2024年以来,大模型领域爆点不断,最让您感到兴奋的点是什么?

周韡韡:我感觉到兴奋的点,是能给我带来直接盈利收入的更多需求。

英博数科在2023年2月交付了国内第一个英伟达推荐架构、对外商业化运营的标准智算集群。以前这种集群都是存在于科研院校,外部的人很难接触到。当智算集群建成时,我才发现这个设备的稀缺性是因为它没有场景去释放它的性价比。当时我就想,我的用户是谁?我用户在哪儿?用户付不付得起这个钱?

OpenAI的闯入解决了我的问题。去年初OpenAI的ChatGPT出来之后,我们发现原来它(这些智算设备)是多模态大模型训练的几乎唯一选择。今年2月Sora的出现,进一步让大模型开发业内人士意识到差距焦虑,使他们对于超大型智算集群的需求变强,甚至愿意付出溢价的代价。

市场的这种反应,让英博数科之前的商业规划的预测得到了验证。即使128的集群可以找到,但512的集群只有我有,那我自然就会有一个稀缺性,就等于价值。

国仁:Sora和去年ChatGPT的爆发节奏很像,您认为哪一个对智能算力产业的影响会更大?

周韡韡:我认为是ChatGPT,因为它是根基。AI行业的研究已有七八十年了,但ChatGPT出现了之后,才让大家觉得这个技术跟我的生活工作是有相关度的。蒸汽机出现不算是工业革命,但是把蒸汽机装到了火车、轮船和各种生产工具上提高效率,才是工业革命。

Sora其实就是让我们看到了,把这种AI能力在一些细分场景上快速的实现。所以我觉得影响更大的肯定还是从根源上来讲的。Sora本身的体量非常小,但它的出现对一些现象级的热门视频应用降维打击,连抢救都不用了,带来了产业上的影响。

如果说过去我们对于“模型是做通用型还是做垂类型”这一问题还有分歧的话,到了这儿就完全没有争议了。Sora之所以能够体量这么小,出现这么快,能力这么强,就是因为它的模型基座够扎实。我一直管这种通用型模型的这种基座,叫“大G”。这个大G的架构决定了你可以“空中起高楼”,从上往下改。

所以即便当时出现好多所谓的垂类应用,但在我们当初挑客户的时候,只要你说是垂类的,我就不要。因为在我来看,你说做垂类就等于急功近利。我特别认可当时百川发布时(中国科学院院士、清华大学人工智能研究院院长、清华大学计算机系教授)张钹院士讲到的观点:模型一定是通用的。

Sora带来的可能是一个认知的统一,但ChatGPT是带来了行业上的一个质变

国仁:工信部最新数据显示,我国超10亿参数大模型已超100个。从结果来看,现在的智能算力供给是存在过剩和浪费还是远远不足?如果是过剩和浪费,产业要如何减少浪费?如果不足,缺口有多大?

周韡韡:如果单从英博数科的情况来看,我们现在可以提供的算力是“1”,那么我签的客户需求大概是“10~15”的样子。这里面还让一个难受点是,我并不能够因为这种稀缺度去涨价

从行业角度出发来看,一个好生意是给双方都留下合理的利润空间,你得考虑Sustainability(可持续性)的问题。GPU集群跟传统的IDC机房不一样——过去的IDC金租都按照三年回本的周期去计算,而GPU的回本周期要远远高于传统的这个IDC机房。因为回本周期长,我当然希望我的客户生存得也足够久。所以虽然这个东西很稀缺,但你也要考虑到客户的承受力,不能杀鸡取卵

国仁:按您这么说,应该是一个严重的供不应求的一个状态?

周韡韡:超级严重供不应求。我看到好像华为(副董事长、轮值董事长、CFO )孟晚舟讲到缺口比例,比我们这个要大得多。而且现在他们(大模型)发展的速度太快了,就像工信部所说的“10亿参数规模”的模型,模型我们很难用模型大小去衡量它,尤其是模型参数值现在变化也较快,你看到的小参数模型,它可能收敛做得比较好,在整个训练的过程里面(所需算力)是很大的。

国仁:算力最后发展的极限是什么?真的是无限地去扩大单位芯片的算能吗?

周韡韡:这一代的AI经常用一个词:调校,它已经不走海量(堆算力)的路线了,而是走精准稀缺路线,而且它现在的学习能力不用去拼量,而是拼质。

国仁:你也提到一个回本周期,咱们是怎样考虑的?

周韡韡:英博数科最初并不是说只想做一个智算中心,它其实是一个抓手。有了这个抓手,我们可以接触到头部客户及开发者。所以其实从一开始规划的时候,我们就有一个考量——除了从算力上追求收益,也从对这个企业提供算力服务生态服务生态联盟等方面获取收益,这是一个综合性的投资考量计划。

国仁:那这块进展怎么样呢?

周韡韡:进展挺好。当然跟OpenAI平台上来就几千个伙伴的差距很大。我所谓的我们的进展好,是我们从一开始的时候给自己划了四层,就是IaaS、PaaS、SaaS以及上层的数据模型服务的应用层。目前来看,我们这四个层级不能说齐头并进,但基本上都是有显著的里程碑的进度。

国仁:从已有智算中心应用落地来看,哪些场景对智能算力服务的需求更大?训练和推理各占多少?客户采用智能算力的动力是什么?

周韡韡:从GPU侧来讲的话,目前算力使用最多的是多模态大模型训练。这类需求团队在我们的平台上已经占到90%了,我们如果不克制它能占到100%。

但是要我们想稍微平衡一下。另外一部分是像类似于无问苍穹、潞晨科技这种做算法加速层的,他们要去做生态的兼容性、场景加速应用,这一类的客户会比较多。然后像无人驾驶,曾经无人驾驶和生物医药是我认为占比非常高的一个板块。

国仁:现在发现没有成为非常高的板块?

周韡韡:无人驾驶是有的,但生物制药现在还没有那么多,可能它的研发应用没太跟得上AI的节奏,但是单体的需求会非常大。一个生物制药如果去做原创药的研发,这种AI制药加速的的需求可以超过一个百川智能。

最初我们给自己定位AI有三个场景:高性能计算、推理和训练。当时我们直接放弃了高性能计算和推理,专注做专业的AI多模态大模型训练平台

现在来看,当我们的客户有了应用,有了面对市场的服务之后,推理的需求肯定还是非常大的。但这需要一些合纵连横来解决,因为推理包括云端交付、边缘侧的规划布局,不是我们一家能够做成的事情。我们更倾向于去加入一个联盟,或者大家做一些交换了解。

国仁:您认为今年的我国“百模大战”会进入什么阶段?智能算力产业发展的节奏如何?

周韡韡:这是一个媒体典型的问题,就像回去十年TMT行业,包括O2O领域好像一直在战斗。就我的观点,不管是提供算力的服务商,还是大模型的竞争,“百模大战”在今年底就会出现一个拐点

应该说是该燃的就燃,该回点的就回点了。基本上这个分水岭已经拉开了。我们现在已经可以看到有很多的模型和应用,或者是很明星式的创业者,实现了个人财富自由。但换成另外一句话来说,已经从大模型市场和大模型融资的市场上消失了。

所以在今年的下半年,我觉得会有大批量这种企业出现——失去客户的算力服务商,和用不了算力、解决不了融资问题的大模型研发团队——那只能面对现实。

国仁:我看过一个分析说,国内产业的一个特点是,遇到一个什么事儿大家都蜂拥上去,然后快速竞争和洗牌。这样的好处是行业能够快速走向成熟,但问题是会导致大量的资源浪费,比如共享单车就有很多废弃的单车。

周韡韡:我觉得这个是所有的商业发展从古到今竞争的一个必然结果。这个是通用的,只不过是有人可能觉得好像国内的风气更甚,其实是看行业吧?

有时候其实是资本方和研发者之间的一个相互博弈的过程。当市场上的热钱都愿意投向一个方向的时候,逼得一批要求生的创业者往那个方向走。不管他自己具备不具备,或者是有多少的可能性能成,但是作为一个创业者,他最基本职业道德是生存,那自然就会有很多不适合的进入到这里面,然后被淘汰掉。很多时候,资本市场起了很大的掣肘或是助攻的作用。

国仁:国内创投现在比前几年没有那么猛的势头了,可能对创业的推动没有之前那么热情了?

周韡韡:我觉得是热情的人少了,而不是不热情,留下来的还挺激进的。你看现在大模型的估值真的快投不起了,比如百川从去年4月是王小川天使轮5000万美金,然后到12月份投资已经是16亿美金了,到现在已经接近30亿美金了(这个跟很多科创板上市的这个公司的市值差不多了)。能够撑得起这样投资值估值的投资者,你能说他热情退了吗?我觉得没退,我都觉得他疯了

国仁:回到咱们的定位,智能算力提供者是要继续做好“卖铲子”的人,还是需要去推动大模型落地应用?

周韡韡:我们从刚开始的专业训练平台、算力平台,到去年12月份转型做全栈式AGI生态服务平台,这里面就包括了推动模型的落地

比如说刚才说大G研发出来之后,在跟细分产业做结合的时候会出现问题:因为工程人员不可能了解每一个产业,他需要类似于产品经理的人帮他翻译这个行业,做沟通的桥梁。比如我们之前有尝试把有经验的编剧,做网络投放高效的投手对接给像Minimax、百川,把他们的商业模式大模型结合,就(强调)这种商业“攒局”的能力。

过去,他们(大模型客户)刚开始淘金,我们去卖铲子;现在他们进化了,我们应该是从铲子进化到挖掘机,甚至是抽油的

国仁:有人认为当下包括“彩票大王”、“味精大王”等跨界玩家都涌入智能计算,说明算力产业技术门槛在降低,进入资源为王时代,对此您如何看待?

周韡韡:英博数科是(彩票大王)鸿博股份下一个全资子公司,是为了转型做AI这个事情而生的。我觉得不管哪个产业,想要去进入到另外一个产业,说明有更多人在看好这个产业。这说明AI算力产业是被看好的。

我一直觉得要做窄小深沉的事情,就是说你一定是细分的赛道、大厂不干的、边缘夹缝里的、小团队能运营的,然后护城河一定要深的,而且它得能够足够长远沉稳的发展,不能是一个几天就没了的产业。AI刚好是这样的一个产业。

如果说它(AI)入门的门槛低的话,只能说是刚开始的时候入门门槛的确是低的,这一点我承认。对于传统企业来讲,你花钱就可以买到硬件设备。但是现在看的话,我们发现它的这种隐形的护城河已经越来越高了。

现在参加一些活动,好像“万卡集群”都不好意思提,都得说“十万级”,这让我瞬间感觉来了个科幻论坛。我觉得我们得面对现实

首先我们得去承认混卡集群和同构在同一个物理空间内同一通讯集本质是完全不一样的。你可以用云去把各种型号的混卡都交付出去,但这种算力是没有办法用于AGI多模态大模型的专业团队研发的。他们要的是超大型集群,要的是像OpenAI一样,6万张卡能够串在一起去训练的集群。

我们现在国内的话,还没有这种千卡万卡的试验田的土壤,而且集群的通讯是一加一小于二的,它有个通讯衰减的过程。所以这中间的调优、网络通讯、系统性开发和管理,其实是一道隐形的、非常深的护城河。

我们整体缺乏GPU方面的专业人才,也缺乏对GPU的实验土壤的了解。那这个时候英博数科其实占了一个先发优势,反而是比别人多做了一些练习和试验。

国仁:现在智算产业玩家大概分几个梯队,大家的做法又有一些什么样的不一样?

周韡韡:目前智算产业玩家一种是自产自销的大厂,它们现在已经不对外提供GPU租用服务了,是完全是自用的状态,不提供市场化运营。

另一类是像我们这种市场化运营的服务商。国家现在鼓励国企央企去进行计算基建的投资,运营交给类似于英博数科的市场化运营的公司去做,这种模式在北京和上海已经先开始了。

还有一类是设备还处在小规模,还在寻找客户的初期阶段的服务商。它们没有进入到128节点以上大集群,仍在16、32、64节点这个阶段里面发展的一批智能算力玩家。

国仁:由于受制于芯片及算力上限,国内的智能算力格局的发展形态,会跟国外会呈现一个不同的态势?

周韡韡:我觉得国内外面临的情况差不多。因为首先英伟达芯片供应不足,它不是禁售或者是其他什么原因造成的。因为它的卡脖子问题还是被台积电卡脖子,受限于产能

二、从CoreWeave聊到创业心路:太刺激了,每天都在变,选择做最难的事

国仁:用一句话形容一下创业近两年来的感受,您最先想到的是什么?

周韡韡:太刺激了。我们有工作人员来英博工作了三天之后就说:“太刺激了”,后来不止一个工作人员,这样说,因为真的是变化特别快。包括政策上、技术方面、客户需求的变化,在早上、中午、晚上都不一样。

包括我自己发过好多次朋友圈,是我一个好闺蜜写的一本书,说每个你看起来运气好到开挂的姑娘,其实都在成功的路上努力到踉跄。一路走来我们现在还不能叫成功,“三年魔咒”就是九死一生。现在进入到AI时代之后,它不光是一个降本增效,同时带来的是每一个行业的全生命周期都在缩短

国仁:您如何看待外界将英博数科比作“中国版CoreWeave”的说法?近期有消息称CoreWeave估值或飙升至160亿美元,主要是什么成就了CoreWeave?国内玩家有可能达到这样的价值吗?

周韡韡:我之前也有看过把英博跟CoreWeave放一起做比较,我就觉得这个简直太看得起我们了,绝对是一个超高级别的。

前几天我看了一个摩根大通的报告,提到现有的GPU或专业高性能GPU的设备存量,CoreWeave在面占到了11%。11%的概念是什么?一些顶尖云大厂可能都是占1%不到,你可以想象到它体量有多大,几乎是我们国内所有加在一起都难以达到一个体量。如果说GPU现在已经是这样的一个有金融属性的产品,CoreWeave有160亿估值完全不奇怪。

然后第二个,CoreWeave团队以前是做虚拟货币起家,所以对GPU接触的熟悉的程度会比较早。然后它有英伟达的支持,虽然英伟达在中国本土和在美国本土都支持,但能够做的范围是相差非常远的。

所以如果我们从硬件体量上去拼估值的话,短期内国内没有玩家能够比得起。

但是我们在走一条不一样的路。CoreWeave还是主做算力出租,就是我拿更多的货,卖更多的设备。而且国外的算力租用的价格售卖比国内贵很多。英博数科的定位是AGI全栈式的生态服务平台。这听起来有点抽象,换成具象一点的说法,就是我的客户要什么我就提供,他缺算力我就给他算力,他要数据我就给他数据,他缺商业化转换的场景我就去帮他找,帮他拟合这种场景。

这个东西就像互联网时候,那个市场很大,但你收入只有三块,就是游戏、广告、用户付费。我所有给客户提供的各种各样的服务,最终会变成是算力带来的收入,比如说数据、模型、加速、PaaS层带来的云收入,以及我给客户提供的各种商业拟合创造,甚至投融资带来的企业服务的收入,就是这三类收入

如果从这个收入的组成上来看,它肯定比单一硬件的估值要来的高。从长远来讲的话,我觉得我们国内的这样的一个生态发展模式的话,是可以产生更高估值的公司的

国仁:2021年底您开始着手筹划创业,定下的目标是打造北京智算中心样板。当时为什么会有这样一个明确具体的目标?有什么样的契机?

周韡韡:这个目标是写在合同里了,是跟投资方定的。英博数科前身发展是来自于北京AI创新赋能中心,英伟达一个针对中国的生态发展特别计划而来的。这个计划从2016年推出到现在一直有,我们看到的时候已经是一个非常完整的规划了,合作范围不只是算力,更多是生态发展以及合作方式,还有发展目标最终要达到什么样,都是有非常清晰的定义的。

国仁:决定创业之初,您对这项创业可能遇到的困难有充分的预判吗?还记得哪些人给了你非常重要的意见,受用至今?从投资人到创业者,您为此做了哪些准备?

周韡韡:贵人好多。包括(百川智能创始人)王小川给了我们很多关于直接定位的指导建议,包括放弃HPC和推理场景,专注于做训练,我们的第一批设备也是和百川一块儿跟英伟达的远程技术支持做的调通;还有张钹院士非常清楚的告诉我们,所有的东西一定要回归到加速生产力上,回归本质,不能飘。然后一定要研究通用模型,打好基本功,再去说做垂类场景的应用。

包括(御风集团董事长)冯仑,最近冯叔就特别强调说,你们一定要有世界观、中国心、专业技术和本土功夫,对我说一定要做到企业不关门,个人不被抓,合规合法很重要;包括像我闺蜜在我做跨界转型时不停给我鼓励;我们家里一直有一句话,说“在不知道做哪件事儿的时候,去做那个最难的”。

国仁:英博数科创立至今经历了哪些关键节点?

周韡韡:第一个关键节点,我记得是在2022年7月,当时正值我们计划跟英伟达美国签约,签约却一天天被搁置。后来我们就分析说这个跟佩洛西访台有关系,中间如果要出现点什么摩擦,估计这个计划合作就黄了。一直到佩洛西走了之后,第二天合同就回来了。所以那个节点的话,我觉得就是蝴蝶效应,国际局势竟然牵扯到了我们一个很小的公司的发展。

第二个节点是签约之后,马上就可能出来一个限售政策。在限售政策下,你在两个都可选的情况下,英博数科是选择拿A100还是A800?这就要战略性地思考限售政策会不会进一步收紧,还是有可能会缓和。如果缓和的话,大厂开始大批量出钱去买货的话,我们该怎么面对这种冲击?这个时候我们就在美国设了专业的法务公关和商务团队,就各种政策去提前做分析,从而提前预判了禁售政策的执行。

我们从第一批设备刚选完,就开始加速设备团购。当然这有赌的成分在,但我们坚信国内自研大模型的需求量一定很大,所以一定要抓紧囤货

然后再到最近,应该说我们面临两个挺大的节点。一个是我们的母公司上市公司被宣布为无实控,这个对我们变成了一个挑战,毕竟还有很多事情需要得到母公司的授权和许可,就会造成一些决策的不畅,包括给你资金上带来的障碍。

一个是更贴近实际的一个难点,就是当我们有了512节点的设备,1024节点的设备,但是面对这样4000卡、8000卡、近万卡的集群的时候,我们怎么能让它高效跑通?这个其实就是调优方面的一些问题了。现在市场也有这样的公司,比如硅基流动CEO袁进辉老师做的研究,都是在这个方向。我们现在的做法就是让大家都来吧,把我这儿当成一块试验田

国仁:方便透露最新的团队规模吗?在组织架构方面,英博数科如何排兵布阵?有什么样的人才计划?

周韡韡:我们的规模不大,刚开始设备没有到货之前,我们只有几个核心技术人员存在,以及一些面向公司筹备的行政、市场人员,那时是一个投行背景的团队。就像我现在的合伙人邱领,是在美国硅谷银行做了三年,之后被派回中国硅谷银行工作三年,负责过上百个初创型企业的孵化加速。另外那时市场团队里面大多是有海外留学经验的,包括我们现在在招聘技术人员的时候,也不见得一定要有过实操经验,因为这个行业太新了,会更看重应聘者的自驱学习能力和理解能力,以及在工作上面一专多能的态度。

目前我们差不多快100人的样子。技术团队大概占到70%,技术团队其中也有一部分是做机房运营运维的,包括一些运维系统工程师,然后另一部分是做(英博数科研发的GPU云管平台)搏博云的研发。

国仁:团队已经从金融背景完全变成技术主导的公司了?

周韡韡:我们是一个轻研发重集成的公司。因为底层已经提供了大量的毛坯的东西,需要你像玩乐高一样去搭积木了。

然后像我们现在的早期的这种投行团队的同学,在上市公司给我们带来资金问题的时候,就发挥出来了极大的价值,通过一级二级市场各种融资方式,帮公司解决现金流和发展问题。如果是只看现金流的话,英博数科第一个月现金流就是正向的。

三、从10亿级大单聊到商业化之路:机器满转,交付体验是新阶段重点

国仁:去年,英博数科有三个项目最为瞩目,分别是京能10亿元智算中心项目、百川智能近14亿元算力大单、MiniMax近3亿元的大单,目前这三个项目算力的应用情况分别如何?机器使用率有多少?

周韡韡:首先这三个项目上统一的特点是,机器的使用率是都已经100%了。因为我们布局是一需求是十,没有任何设备是被闲置的。

国仁:对于目前英博数科落地的智能算力服务,您打多少分?为什么?

周韡韡:这个打分的话看怎么打,我是一个比较推崇鼓励的。从行业角度来看,由于行业之前没有GPU云,目前国内大家都处在一个起步的阶段。我可以自信一点说我是100分,我也可以谦虚一点说,我和大家差不多了解。因为大家可能都还在去定义、优化、完善的一个阶段。

而且在这个阶段,我觉得现在国内的AGI的市场,跟那时候(此前互联网)战斗的市场不一样,大家是一个竞合的市场,互相之间交流特别多。比如现在你经常可以看到头部智谱AI的唐杰老师或者张鹏老师,跟百川、Minimax的CTO坐在一起,就一个问题直接在台上争起来了。但大家争完之后,又是一个既竞争又合作的关系,不介意跟竞争对手分享踩坑经验。

国仁:自部分智算中心算力启用以来,产品目前的用户使用情况如何?收到了什么样的用户反馈?这使得团队的聚焦点有什么新调整和布局?

周韡韡:收到的客户反馈应该说是投诉大于表扬。当然这个也不完全是英博数科造成的,也有本身原厂家造成。原厂家质量也是很成问题的一个事情,包括在坏了之后换修这种客观上增添了一些困难,的确给我们在过去造成了不少投诉。对此,我们只能按照合同条款进行补偿,大家遵守契约精神。但因为现在市场太稀缺了,所以客户也给了我们很大的一个包容性

接下来往下一步去走的话,我们更看重的第一个是GPU云平台这个交付体验的问题;第二个是GPU云平台作为一个生态入口上面交易的活跃度的问题;第三个我们跟很多家一起共同成立的算力创新赋能中心,对于融合替代创新解决方案的问题,我们不分AMD卡还是英伟达卡,不分国产还是国内生态,我们只看大的AGI生态。

国仁:前面你也提到了,咱们团队整体是重集成轻研发的布局,那么公司如何分配公司在硬件、软件和服务层的资源投入?

周韡韡:没有刻意的去侧重,但是它天然造成了一个占比分配。首先硬件一定是占比最大的,第一个阶段刚起步时,我们90%的钱都用在硬件上了。然后现在,因为我们有了多种多样的硬件合作模式,比如说新的客户来采购并委托给我们代运营,这种方式转嫁了我的采购和折旧成本,那这方面投入就会逐步降低。这个阶段我们在做云研发,在做运维工程师的培训,在整个生态拓展的引入方面投入也好,收入也好,就会逐步的增加。

国仁:在去年跟您聊的时候,您提到英博数科跑赢同行的主要优势是“有算力”。但存量算力是有限的,英博数科这一优势能保持多久?如何保持?

周韡韡:我觉得这到最后就是结果决定关系,我们看一个结果就可以了。不管今天说你是有算力还是没算力,能干还是不能干,结果是你有没有客户,你的客户有没有变多。那从这个角度上来讲,英博以前的老客户仍然存在,新的客户不断进来,我觉得这个就已经说明了我们的所有能力。

国仁:您之前谈到“英伟达几乎是提供算力硬件的最佳选择”,这是不是意味着英博数科不太会去考虑国产硬件?

周韡韡:会,我们现在一直在尝试。我们去尝试了很多种,不只是国产,像非常早的时候AMD的卡还没有做限售通知的时候,就提供给我们了。我们做过AMD的,也试过海光的,然后我们也通过跟合作方像百川智能和智源研究院这种去看过华为昇腾、寒武纪这些。包括我们跟软通、华鲲这边的沟通都非常频繁。

而且当我们的客户发展到一定阶段,推理的需求一定会上涨。那这个时候就会有大量的国产算力去填补这个市场的,这跟英伟达的合作是不冲突的。

国仁:在英博数科的规划中,公司要跟英伟达学生态做中国版App Store+Hugging Face。为什么不延用英伟达的生态,或延用其他云巨头的生态?

周韡韡:这个其实回到我们刚开始第一个问题,跟讨论CoreWeave有点类似了。英伟达的成功使我们看到了生态的价值。但是在哪里去发展这个生态,用什么样的方式发展,是要结合我们自己的情况。这就有个“橘生淮南还是淮北”的问题了。我们是存在着硬件软件各方面先天性受限的,在这种情况下,我们要想发展生态,首先你得有足够的基数人群。

这就解释了我们为什么那么看重像Hugging Face模式。因为他适不适合做这一行,你得先让他看到这一行。你要为这个产业考虑,只有加入进来的人越多,你才在有可能在以后赚得更多。其实国内是完全具备这个条件,包括我们也看到阿里云的魔塔社区,也是在走这个方向。我们必须去找更多的人进来加入,才能去找到更多的可能性

然后像App Store这种方式,我们主要强调是它对于我们平台在未来的一种盈利的模式。就比如说现在苹果它其实是硬件赚钱,但是它的App Store毛利更高,几乎收入接近于毛利。

所以我们未来给自己的一个目标和盈利模式的定位,就是我刚才所谓的云收入,我们的企业服务收入。

国仁:英博数科有哪些获利模型?方便透露英博数科的盈利情况吗?

周韡韡:鸿博股份去年的年报做了扭亏的预告,这个扭亏主要是来自于英博数科。实事求是地说,目前收入来源仍是以算力服务为主,此外,我们也跟京能合作共建算力中心项目,在2023年底,这一部分收入贡献较大。但是在未来的话,智算中心的运营服务也会是一个重要收入来源。然后像随着云业务、数据业务一点点起来,还有具体应用场景撮合,这些服务收入肯定是要越来越高的。

国仁:那如果要拓展这些创新服务,咱们的销售体系架构就不一样了?

周韡韡:实话实说,我们现在没有(主动)销售。因为我们不需要靠销售,反而需要挑客户因为我们没有东西可卖。那我们的这个商务团队是在干嘛呢?他们在去寻找生态合作伙伴,就是找一些想要在当地开展AI业务的项目,以算力或者是资金的形式去扶植加速他们的发展。

国仁:公司接下来有什么重要新品要发布,有什么样的时间表可以公布吗?

周韡韡:我们去年做了一个AI Tech Day的活动,今年会把这个活动延续下来。

一方面,是会发布我们自己的产品和解决方案,但是以后占的比例肯定会越来越少了。我们自己产品解决方案主要是集中在搏博云的进展,还有大型集群通讯到了哪个阶段,这方面的一些讨论。

另一方面,我们最主要的是想给客户创造一个展示自己的平台。应该说是会有更多的客户,不管是竞品之间的交流,还是已经有的垂类应用,在过去已经产生的这种贡献和作用。类似于算力接入各种生产力的场景,也是我们以后想在本次中国生成式AI大会活动中展现出来的。

 

https://zhidx.com/p/420177.html

Discussions
Be the first to like this. Showing 0 of 0 comments

Post a Comment