Akamai;全球GPU节点;扩充;延迟目标;未来一年

Akamai:未来一年内将全球GPU节点扩充至数百个,延迟目标10至20毫秒

4月15日消息,Akamai亚太区云计算架构师总监李文涛在媒体沟通会上表示,公司已在全球大规模部署英伟达RTX 6000 Pro Blackwell系列GPU,目前覆盖130多个国家、4400多个边缘节点。未来一年内,具备GPU能力的节点将扩充至数百个以上,目标实现10至20毫秒级低延迟AI推理响应。李文涛称,通过语义缓存技术可将重复推理成本降低50%至80%,在token出海方面出方向流量定价为0.005美元/GB。

    广告等商务合作,请点击这里

    未经正式授权严禁转载本文,侵权必究。

    打开界面新闻APP,查看原文
    界面新闻
    打开界面新闻,查看更多专业报道

    热门评论

    打开APP,查看全部评论,抢神评席位

    热门推荐

      下载界面APP 订阅更多品牌栏目
        界面新闻
        界面新闻
        只服务于独立思考的人群
        打开