新闻中心
新闻中心
新闻中心
大家都开始体验豆包“付费版”了吗?
近日,豆包正式上线付费订阅服务推出专业版付费套餐,引发广泛讨论。
而这背后,是整个AI行业的共同信号:曾经靠平台补贴的「免费算力时代」正在退场,商用大模型全面进入成本显性化阶段。
不少深度依赖AI能力的中小企业开始重新算账——按业务规模长期调用公有大模型,不仅费用逐年上涨,核心业务数据上传第三方平台还存在不可控的安全风险。
越来越多的企业将目光转向大模型本地部署,尤其是推理测的本地化落地。这样既能把数据牢牢掌握在自有数据中心内,又能通过一次性硬件投入摊薄长期成本,实现推理时延、数据安全、总体拥有成本的三重优化。
而本地推理的核心,在于构建能承载多卡并行、稳定高效运行的异构算力底座。
亿万克G852N7正是面向这一需求打造的企业级4U异构服务器,搭载英特尔第四代/第五代至强可扩展处理器,全面适配大模型本地推理场景的算力诉求。
针对大模型推理对GPU 并行能力的高要求,亿万克G852N7提供灵活的拓扑方案:直通方案最大可支持8张全高全长双宽GPU卡;Switch方案可扩展至10张GPU加速卡。同时最多可提供16个标准PCIe5.0插槽,可灵活配置高速网卡、推理加速卡等扩展设备,适配各类AI大模型的部署要求。
大模型权重加载与业务数据读写,对存储与内存带宽有严苛要求。整机最大支持16个NVMe SSD,可实现大模型权重文件的秒级加载与业务数据的高速读写;内存方面,配备32个DDR5内存插槽最高支持5600MHz频率,满足大模型推理、多任务并发运行的内存资源需求。

从公有调用转向本地部署,是企业AI应用走向深度化、自主化的必然趋势。亿万克G852N7以高性能异构算力、灵活扩展能力与企业级可靠设计,为各行业大模型本地推理落地提供坚实硬件底座,助力中小企业在可控成本内安全、高效地释放AI价值。
版权所有:深圳市亿万克数据设备科技有限公司