LLM、AI晶片性能跃升,800G光互连时代提前到来

摘要

本篇报告一方面聚焦2024年AIGC应用大举入市、大型语言模型(LLM)蓬勃发展的趋势,另一方面则探讨支撑多元应用、模型发展之AI晶片加速升级,何以带动800G光互连(Optical Interconnect)解决方案需求。

一. AIGC应用持续扩张,LLM群雄并起
二. 为扩展云端AI运算,核心晶片加速升级迭代
三. 突破巨量资料传输瓶颈,800G光互连将成主流
四. 拓墣观点

图一 推估训练GPT 4、Llama 4所需之AI晶片与光互连数量
图二 2024、2026年400G、800G光模组市场占比推估

表一 比较Runway Pro、Pika Pro与ChatGPT Plus
表二 2024年推出之LLM举要
表三 新创AI厂商于2024年发表之LLM测试成绩举要
表四 NVIDIA A100、H200与B200晶片比较
表五 Meta MTIA v1与v2晶片比较
表六 指标厂商自2019年以来推出的AI晶片
表七 有望受惠于800G光互连需求攀升之台湾厂商举要

 

LLM、AI晶片性能跃升,800G光互连时代提前到来

请输入您的会员账号与密码,即可浏览全文

Login 如何购买 下载完整报告档案 1.04MB PDF

会员专属
您好,该资料属会员权益方可浏览,您需成为会员且购买此产业项目权限才可观看,详细说明如下:
  • 拓墣产业研究院之「产业数据库」为付费的会员服务,若您尚未具备会员身份,欢迎您申请加入或是与我们的客服联络了解。
  • 若您所属公司机关已具有拓墣会员身份,并且设定予贵公司人员在线申请,请先行移至「申请会员账号」填写申请数据后送出,我们会尽快为您审核办理。若未开放在线申请,请您询问贵公司的承办联系人处理,谢谢。
  • 由于贵公司无采购此产业项目,因此您将无法浏览此篇文章,欲查询贵公司所购买的产业项目明细,请至「会员权益」查询,谢谢。
  • 客户服务专线: 02 8978-6498 ext.822
    客户服务信箱:

宣传推广

产业洞察

AI浪潮驱动资料中心互连应用崛起,预估2025年全球市场产值年增14.3%

根据TrendForce最新研究,2025年随著生成式AI逐步融入人们的生活应用,SK T [...]

地缘政治推动AI晶片自主浪潮,中美云端巨头齐拼自研ASIC,市场版图重塑

根据TrendForce最新研究,AI server需求带动北美四大CSP加速自研ASIC [...]

2024全球封测前十大营收出炉,中国业者年成长达双位数,市场格局加速重塑

根据TrendForce最新半导体封测研究报告,2024年全球封测(OSAT)市场面临技术 [...]

三菱加速电动化、鸿海拓展国际造车版图,供应合作将是互利共生

三菱汽车(Mitsubish Motors)宣布与鸿海子公司鸿华先进科技签订电动车供应备忘 [...]

在地自动化成关税风暴避风港,惟美国智慧工厂建置成本远超中国

根据TrendForce「人机科技报告」指出,Trump政府于2025年4月初推出的对等关 [...]