AI时代下的HBM与CXL发展
摘要
由于人工智慧(AI)及高效能运算(HPC)发展,伴随著更为仰赖机器学习(Machine Learning)及推论(Inference)的需求,建构出的模型复杂度随著需求的精细程度有所增加,因此在计算时须处理的资料亦随之增大。在这样的情境下,庞大的资料处理量受硬体效能侷限,导致使用者在设备的建置面临了效能、容量、延迟度及成本间的取舍问题,从而刺激HBM及CXL的出现,试图解决日益加剧的难题。
由于人工智慧(AI)及高效能运算(HPC)发展,伴随著更为仰赖机器学习(Machine Learning)及推论(Inference)的需求,建构出的模型复杂度随著需求的精细程度有所增加,因此在计算时须处理的资料亦随之增大。在这样的情境下,庞大的资料处理量受硬体效能侷限,导致使用者在设备的建置面临了效能、容量、延迟度及成本间的取舍问题,从而刺激HBM及CXL的出现,试图解决日益加剧的难题。
© 2024 拓墣科技 及/或 集邦科技(集邦咨询顾问(深圳)有限公司) 版权所有