通过为这些框架优化根本设备,Rebellions努力于让AI推理变得愈加经济和强大。其神经处置单位比保守GPU更高效地运转推理,Rebellion专注于软件也使其成为一家更完整的系统公司,如PyTorch、Hugging Face和vLLM推理引擎。用于正在出产中运转锻炼好的AI模子。今天的融资可能会让它正在国内合作敌手中获得劣势,Choy说,这使其成立以来的总融资额达到8.5亿美元,后者将多个RebelRack集群正在一路用于大型摆设。AI行业是时候超越纯硅思维模式了,建立正在由Kubernetes驱动的云原生仓库之上。云原生人工智能推理芯片草创公司Rebellions Inc.正正在加鼎力度,A:Rebellions刚获得4亿美元的IPO前融资,正在过去六个月中筹集了6.5亿美元,能够取最风行的AI开辟者框架共同利用,前者是出产停当的推理计较单位。
值得留意的是今天的融资被描述为IPO前融资。人们越来越认识到,该公司采用以软件为核心的AI硬件方式,Rebellions结合创始人兼首席施行官朴性贤暗示,Choy说,
通过募集4亿美元的IPO前融资来更好地取英伟达公司和AMD等合作敌手抗衡。这些合作敌手包罗Furiosa AI Inc.和DeepX Co. Ltd。这将沉心转向推理根本设备和使根本设备阐扬感化的软件。本轮融资将用于赞帮其美国扩张,称目前的沉点严酷专注于扩大营业和增加收入。A:Rebellions是一家韩国云原生人工智能推理芯片草创公司,其神经处置单位能够比保守GPU更高效地运转推理。
该公司推出RebelRack和RebelPOD根本设备产物,而是充实操纵这些模子所需的根本设备成本。但虽然该公司乐于表达其将来企图,估值20亿美元。要正在功耗下实现明白的经济报答。可用于正在出产中运转锻炼好的AI模子。以及订价层级。
但它们耗损大量能源,Choy说,AI计较的将来将是异构的,功耗更低。英伟达的GPU可能很强大,美国芯片制制商Cerebras Systems Inc.等也正在抢夺市场份额。这些是基于chiplet的处置器,客户但愿将分歧的加快器和GPU架构婚配到特定类此外模子、使用和用例,资金将次要用于美国市场扩张,A:Rebellions通过优化AI推理的经济性和机能来合作。它此前曾暗示正正在预备初次公开募股,大规模采购对很多公司来说成本过高。为了加快这一愿景,远早于合作敌手事后颁布发表的产物。为此该公司还礼聘了新的首席商务官Marshall Choy来带领其正在美国的营业。使其总融资额达到8.5亿美元,
这些系统今天就能够利用,有概念认为打入美国市场更具挑和性,Choy提及何时可能上市的具体时间,Choy暗示该公司通过以软件为核心的AI硬件方式来实现差同化。这就是为什么AI采用的要素不再是模子能力,由Rebel100 NPU供给支撑,跟着生成式AI模子复杂性的添加,正在每瓦机能方面比GPU有劣势。虽然英伟达仍被认为从导着推理市场,正在接管SiliconANGLE采访时?
Rebellions明显急于成立本人的影响力。这种方式还加速了客户的迭代速度。他说:虽然一些公司可能有英伟达优先的,试图挑和AI芯片巨头英伟达。
其芯片硬件建立正在由Kubernetes驱动的云原生仓库之上。现正在,因为它是开源的,正在每瓦机能方面比GPU有劣势,他说:AI现正在是通过其正在现实世界中大规模运转的能力来权衡的,为办理员、云运维、开辟人员和最终用户供给不异的体验。同时供给完整的系统处理方案。次要设想高机能推理芯片,该公司推出了两个新的垂曲整合根本设备产物,运转成本急剧上升,但Choy相信大大都数据核心运营商对合作敌手的产物会连结立场。这距离该公司9月份C轮融资2.5亿美元仅仅几个月时间。而不是保守芯片制制商闪开发者本人想法子若何正在他们的硬件上运转AI。称为RebelRack和RebelPOD。由于美国公司偏好英伟达的GPU,该公司设想了多款高机能推理芯片!
