Obscure初创公司赢得了享有盛誉的CES2024奖项

 2024-01-20  阅读 14  评论 0

摘要:在即将于1月举行的2024年消费电子展(CES)上,备受瞩目的创新奖被一家韩国初创公司凭借其人工智能加速器斩获。Panmnesia基于ComputeExpressLink(CXL)3.0技术构建了AI加速器设备,该技术允许与主机共享外部内存池以及CPU等组件,从而可以转换为近乎无限的内存容量。这要归功于将CXL3.0控制器集成到加速器芯片中。CXL用于连接系统设备,包括加速器、内存扩展器、处理器和

在即将于1月举行的2024年消费电子展(CES)上,备受瞩目的创新奖被一家韩国初创公司凭借其人工智能加速器斩获。

Panmnesia基于ComputeExpressLink(CXL)3.0技术构建了AI加速器设备,该技术允许与主机共享外部内存池以及CPU等组件,从而可以转换为近乎无限的内存容量。这要归功于将CXL3.0控制器集成到加速器芯片中。

CXL用于连接系统设备,包括加速器、内存扩展器、处理器和交换机。通过使用CXL交换机连接多个加速器和内存扩展器,该技术可以为人工智能应用的密集型系统提供足够的内存。

在此类设备中使用CXL2.0将允许特定主机访问池化外部内存的专用部分,而最新一代允许主机在需要时访问整个池。

Panmesia创始人兼首席执行官MyoungsooJung在一份声明中表示:“我们相信我们的CXL技术将成为下一代人工智能加速系统的基石。”

“我们仍然致力于不仅为人工智能加速系统带来革命性的变革,而且还致力于为数据中心、云计算和高性能计算等其他通用环境带来变革。”

Panmnesia的技术工作原理类似于服务器集群共享外部SSD来存储数据的方式,对于服务器特别有用,因为它们经常需要访问内置内存中可以保存的更多数据。

该设备专为大规模人工智能应用而构建,其创建者声称,它执行基于人工智能的搜索功能的速度比传统服务快101倍,传统服务使用SSD存储数据并通过网络连接。该架构还最大限度地降低了能源成本和运营支出。

如果与其他供应商的硬件一起用于OpenAI等公司用来托管其大型语言模型(LLM)(例如ChatGPT)的服务器配置中,它可能会大大提高这些模型的性能。

免责声明:本文由用户上传,如有侵权请联系删除!

版权声明:本站所有资料均为网友推荐收集整理而来,仅供学习和研究交流使用。

原文链接:https://www.sast-sy.com/eaa63AD0CAAZYUgMB.html

发表评论:

管理员

  • 内容1434378
  • 积分0
  • 金币0

Copyright © 2022 四叶百科网 Inc. 保留所有权利。 Powered by ZFCMS 1.1.2

页面耗时0.0594秒, 内存占用1.72 MB, 访问数据库17次

粤ICP备21035477号