深信服发布AI算力网关,每月可节约40万Token调度成本
2026年5月21日,深信服正式发布AI算力网关,帮助企业实现Token治理、成本治理、安全治理。OpenRouter最新数据显示,5月11日至17日一周,中国大模型周度总调用量约达7.693万亿Token,已达美国的1.81倍,连续三周登顶全球。
深信服AI算力网关定位为用户自己的AI算力智能调度中枢。通过强大的可见性,以及看到-管好-用好的全生命周期护航,将AI能力转化为驱动业务持续增长的核心引擎。深信服自身有3000人的研发团队,在用上AI算力网关之前,每个月Token花费上百万,AI Coding本地算力成本上亿。现在通过AI算力网关对算力的调度及一系列优化手段,每月可节约40万+的Token调度成本、几千万的本地算力成本。
在Token治理方面,AI算力网关实现看得清、管得住、用得稳。通过统一入口,用户可以看见各类云端模型、本地和租赁算力,在统一的管理界面里直接完成模型和算力资源的接入。AI算力网关可以进行精细化用量统计,用户可分别从业务组、应用等维度看见Token的调用量、消耗额度、成功率、配额等情况。
在管理控制方面,AI算力网关可以按照组织架构和API Key进行配额管理,管理员可以为下属组织和员工设置Token费用配额。为保障重点业务的运行,还可以对不太关键的需求或异常请求进行精准限流,让算力优先流向更有需要的地方。通过对Token的精细管控,可以让全局Token消耗降低50%,核心业务AI算力保障能力提升2-3倍。
在安全治理方面,AI算力网关提供模型安全防护能力,帮助企业应对AI时代的新型安全风险,包括数据防泄露、敏感信息过滤、恶意Prompt防护等。
深信服科技股份有限公司成立于2000年,总部位于深圳,是国内领先的网络安全、云计算、IT基础设施与基础服务供应商。公司于2018年在创业板上市,产品覆盖企业级安全、企业级云、企业级服务三大业务板块。
版权声明:
1. 本站部分内容源自互联网公开信息和用户自主上传,旨在传递行业知识、促进技术交流,不声明或保证内容的绝对准确性;
2. 若您认为某内容侵犯了您的合法权益(包括但不限于著作权、商标权),请通过以下方式提交权属证明:
邮箱:service@softxiaoer.com 主题:【侵权删除】+文章标题/网址
3. 收到有效通知后,我们将在72小时内核实并删除相关内容;
4. 转载/引用本站内容请注明来源并添加反向链接。