您现在的位置是:知识 >>正文
亚马逊云科技:Amazon EC2 P5e 实例正式可用
知识592人已围观
简介9月18日消息,亚马逊云科技宣布由英伟达H200 GPU提供支持的 Amazon Elastic Compute Cloud P5eAmazon EC2 P5e)实例现已正式可用。据了解,亚马逊云科技 ...
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例福建某某企业管理咨询专卖店亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马福建某某企业管理咨询专卖店用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)

Tags:
相关文章
退学北大复读清华“事出有因”:24岁小伙郭恩惠分享求学心路历程
知识24岁河南焦作小伙郭恩惠2019年考入北大医学院,入学后上第一堂课就决定退学,复读一年如愿考上清华。为何坚持退学,目前情况如何?6月20日,郭恩惠接受华商报大风新闻记者采访,讲述他的心路历程。> ...
【知识】
阅读更多国内主要航司未受微软故障影响
知识[#美国多家航司全球停飞 中国航司未受影响]当地时间7月19日,微软公司旗下部分应用和服务出现访问延迟、功能不全或无法访问的问题,全球多地的航空、银行和媒体机构等运营受到影响。美联航、美国航空公司 ...
【知识】
阅读更多见证中国发展进步 多国政要:世界对中国充满期待
知识高举改革开放旗帜,推进强国复兴伟业,党的二十届三中全会的部署和决策影响着每一个人。进一步全面深化改革、推进中国式现代化,中国的决策和发展牵动着世界的目光。见证了中国的变化与发展,各国领导人给出了自 ...
【知识】
阅读更多