绿算技术亮相“科金荟”投融资生态活动,重磅开讲新一代AI推理基础设施

9月18日,由北京科技创新促进中心、北京中关村留学人员创业园协会、北京银行北京分行联合主办的"金融赋能与资本聚力"投融资生态活动现场,绿算技术市场商务主管成佳钰重磅开讲:"原生适配NVIDIA G3/3.5:新一代AI推理'CMX—上下文内存'基础设施,为AI大模型提供'永久记忆',打破显存墙,释放千亿推理市场。"一句掷地有声的判断,直指当前大模型推理最核心的瓶颈。

亮相"科金荟":算力基础设施代表获资本关注

本次"科金荟"暨"京彩新质π"投融资生态活动,汇聚政府部门、一线金融投资机构与多家科技新锐企业,围绕核心技术、产品能力与商业化进展展开深度对接。绿算技术作为重点算力基础设施企业受邀路演,向现场投资机构充分展示了自身的技术路线与产业化路径,并在投融资互动环节收获广泛关注。

主题演讲:打破显存墙,让"永久记忆"成为可能

当前,大模型推理正遭遇一道绕不开的"显存墙"——随着上下文长度与并发规模持续攀升,GPU显存日益成为推理吞吐与成本的硬约束。绿算技术提出的"新一代AI推理‘CMX--上下文内存’基础设施"原生适配NVIDIA G3/3.5,作为G3.5CMX架构的硬件基石,GP7000专为AI推理场景设计,深度集成DPU、ASIC、FPGA与RDMA网络,实现存储资源池化;支持TB至PB级弹性扩容,从容应对大模型推理的动态负载,为高并发、低延迟的AI服务提供坚实的存储支撑。

“科金荟”活动现场:绿算技术讲解 G3.5 存储层级架构

在绿算看来,"永久记忆"并非概念空谈,而是AI从"对话"走向"生产"的关键一跃。CMX—上下文内存基础设施正是绿算技术对这一方向的落子。未来,绿算技术将持续深耕AI推理基础设施,与产业伙伴携手释放千亿推理市场的真正潜能。

绿算技术有限公司 ← 返回新闻列表