高通公司发布了一款名为Cloud AI 100 Ultra的云AI推理加速卡

 2024-01-06  阅读 17  评论 0

摘要:近日,高通公司发布了一款名为Cloud AI 100 Ultra的云AI推理加速卡。这款产品专为生成式AI和大型语言模型设计,提供了相当于上一代产品四倍的性能。Cloud AI 100 Ultra可以支持单张150W的卡部署100B参数模型,甚至在两张卡上部署175B参数。高通公司还表示,Cloud AI 100平台在最新基准测试结果的所有加速卡中均处于领先地位。同时,高通公司也公布了Cloud

近日,高通公司发布了一款名为Cloud AI 100 Ultra的云AI推理加速卡。这款产品专为生成式AI和大型语言模型设计,提供了相当于上一代产品四倍的性能。

Cloud AI 100 Ultra可以支持单张150W的卡部署100B参数模型,甚至在两张卡上部署175B参数。高通公司还表示,Cloud AI 100平台在最新基准测试结果的所有加速卡中均处于领先地位。

同时,高通公司也公布了Cloud AI 100 Ultra的具体价格和功率等方面的信息。这款产品的性能、定价、功率、效率、可扩展性和安全性结合在一起,在希望采用尖端AI并转变其运营的组织中被认为是一个理想选择,同时也支持可持续发展目标。

总结起来,这款新产品将带来更高效和便捷的AI计算体验,并且对于那些希望利用生成式AI技术的组织来说,具有重要意义。

免责声明:本文由用户上传,如有侵权请联系删除!

版权声明:本站所有资料均为网友推荐收集整理而来,仅供学习和研究交流使用。

原文链接:https://www.sast-sy.com/ea6d7BD0CBwZWVgYK.html

发表评论:

管理员

  • 内容1434378
  • 积分0
  • 金币0

Copyright © 2022 四叶百科网 Inc. 保留所有权利。 Powered by ZFCMS 1.1.2

页面耗时0.0416秒, 内存占用1.72 MB, 访问数据库18次

粤ICP备21035477号