Kimi流量持续高增,月之暗面五次扩容Kimi网站仍宕机。
随着大模型流量的高增以及长文本上下文长度的提升,算力需求有望持续提升。上周Kimi宣布支持200万字超长无损上下文引发关注,其访问量、app端的下载量及日活用数皆很可观。
3月21日下午,Kimi的APP、小程序以及网页版均显示无法正常使用。公司表示自3月20日观测到流量异常高增后,已经进行了5此扩容工作,而推理资源会持续配合进行扩容,以承载持续增长的用户量。
同时,百度、阿里纷纷准备开放长文本能力。随着大模型流量的高增以及长文本上下文长度的提升,算力需求有望持续提升。
阶跃星辰发布Step-2万亿参数MoE语言大模型预览版,万亿参数模型对算力提出极高要求。
3月23日,阶跃星辰发布Step系列通用大模型,包括Step-1千亿参数语言大模型、Step-1V千亿参数多模态大模型,以及Step-2万亿参数MoE语言大模型的预览版,提供API接口给其部分合作伙伴试用。
据阶跃星辰,万亿参数大模型至少需要等效A800万卡单一集群和高效稳定的训练。
我们认为,随着阶跃星辰等大模型顺着Scalinglaw在万亿参数及多模态大模型中的不断攀升,算力需求有望进一步提升。
上海发布2024-2025算力浦江计划,设立智算规模及智算国产化等目标。3月21日,上海十一部门联合印发《上海市智能算力基础设施高质量发展“算力浦江”智算行动实施方案(2024-2025年)》。
该方案设立多个智算建设目标:到2025年,上海智能算力规模超过30EFlops,占比达到总算力的50%以上;新建智算国产算力芯片占比超50%等。政府持续积极推动智算建设与算力国产化,国产算力条线值得关注。
随着Kimi等大模型访问量持续高增、长文本长度提升、模型参数以及训练token数量提升,推理算力以及训练算力的需求有望持续提升。在算力的浪潮中,算力国产化是长期趋势。
我们认为,算力需求有望持续提升。随着以Kimi为首的大模型的火爆,访问量等持续高增,各家推理算力的扩容势在必行。
另外,随着长文本上下文长度的提升,算力的消耗也必将提升。而随着Kimi等大模型的不断迭代升级,模型参数量以及训练数据量皆有望持续提升,Scalinglaw将持续发挥作用,拉动算力需求。
国产AI芯片厂商、国产AI芯片条线及英伟达条线服务器厂商、算力租赁、IDC、服务器运维等算力服务商皆有望持续获益。
投资机会
国产算力:海光信息、寒武纪-U、高新发展、神州数码、烽火通信、软通动力、广电运通等;
英伟达算力链:浪潮信息、紫光股份等;
算力服务提供方:云赛智联、润泽科技、亚康股份、优刻得-W、首都在线、深桑达A、铜牛信息、华铁应急等;
风险提示:
AI大模型相关产业发展不及预期风险;算力相关政策落地不及预期风险;算力发展不及预期风险。
来源:整理自东方证券研报(12)
未经允许不得转载:德讯证券顾问 » 大模型发展拉动算力需求,产业链有望持续受益
评论前必须登录!
登陆 注册