当前位置:首页 > 燃气灶 > 文章正文

记者实探:一台英伟达AI超算售价高达200万元 AIGC时代的算力瓶颈若何破解?

编辑:[db:作者] 时间:2024-08-25 09:13:05

来自OpenAI的剖析报告显示,2012 年至2018年的6年间,人工智能演习任务中利用的算力需求便增长了约30万倍。
这一趋势下,GPU被广泛运用于加速芯片,也让环球GPU市场82%份额的英伟达成为个中的受益者。

记者实探:一台英伟达AI超算售价高达200万元 AIGC时代的算力瓶颈若何破解?

“一台包含8张A800的DGX超算,现在市情上的价格可能要到230万元到250万元之间,价格还在持续上涨。
”位于上海张江的一家数据公司内,公司卖力人陈运文正在向技能卖力人纪达麒讯问算力设备的采购情形。

上海张江一家初创公司 内部正在商榷英伟达DGX的采购操持

自从今年3月份发布了面向垂直领域的“曹植”大措辞模型,弘大的算力规模需求,让英伟达DGX的采购操持,涌如今了公司每周的日程表内。

算力本钱高企

海内大模型开拓者期待国产办理方案

“我们的算力平台是自建的,像海内的云做事厂商,还没有这么大的算力做事。
我们现在采购的是DGX的高性能的一些办理方案,单套8张GPU价格靠近200万元,现在已经采购了很多套。
”在陈运文看来,现在市情上英伟达A800的供应还是有保障的,便是得排队,真正难买的是存量的A100产品。

不过,无论哪种办理方案,算力本钱短期内将给这些从事大模型开拓的初创公司,带来极大的困扰。
陈运文表示,现在公司算力举动步伐紧张依赖于入口产品,他们也很期待,海内的GPU厂商能够推出与之媲美的产品,来有效降落算力本钱的投入。

而海内的GPU厂商,实在也已经看到了AIGC带来的算力机遇。
海内GPU厂商燧原科技,早在两年前就落地了海内第二个千卡集群的演习项目,那时候AIGC还未引发关注。

燧原科技事情职员正在对产品进行测试

而现在AIGC火了,燧原科技看到了大模型预演习之上的市场机会。
燧原科技创始人、董事、CEO赵立东见告,在大模型预演习之上,还有一层Fine-tune精调层,再上面是推理运用层。

当有了根本模型往后,还可以针对场景做一些精调的演习,而这些演习须要的算力需求就小了很多,准入门槛也低了很多,会有大量的开拓者涌入这个赛道。
针对这样的需求变革,海内GPU厂商也在调度自身的产品路线图,使得它更加符合AIGC时期的人工智能算力需求。

上海人工智能研究院院长助力、行业赋能中央主任杨浩也表示,海内通用芯片厂商目前有数十家,可能未来有一两家脱颖而出,而更多的厂家会在FPGA、ASIC等专用芯片领域,找到新的市场机会。

新型算力研发提速

海内首条光子芯片中试线有望明年建成

传统电子芯片技能已经逼近物理极限,在AIGC时期,谁来承接人工智能打算需求的指数级增长?

以光子打算、量子打算为核心的新型算力技能,可能成为新的接棒者。

“传统的电子芯片,包括英伟达的GPU,再早的CPU,一贯沿着摩尔定律向前发展,而我们现在新型架构的芯片,是沿着知足人工智能打算需求的方向发展,它的增长曲线一定是更陡峭的。
” 图灵量子创始人、上海交大教授金贤敏对表示。

上海交大金贤敏团队将建成海内首条光子芯片中试线

自从2014年带团队从事光子芯片研发以来,从在校学术成果积累,到创办公司进行家当化运用,金贤敏团队即将迎来阶段性成果——海内首条光子芯片中试线有望在明年年中建成,估量产能可达上万片。

金贤敏非常自满地见告,如果在无锡的产线建成,他们将是环球范围内唯一一个拥有光芯片流片中试线的团队。

在AIGC时期,算力已经成为大模型开拓的短期瓶颈,而要办理算力短缺的问题,将是一个别系性的工程。
上海社科院信息所研究员、互联网研究中央主任惠志斌表示,现在不只要看到国外GPU厂商的一些前辈的产品,更要立足长远,在光子打算、量子打算等一些颠覆性技能的领域,也要加强科技攻关。

本站所发布的文字与图片素材为非商业目的改编或整理,版权归原作者所有,如侵权或涉及违法,请联系我们删除,如需转载请保留原文地址:http://www.baanla.com/rqz/210199.html

XML地图 | 自定链接

Copyright 2005-20203 www.baidu.com 版权所有 | 琼ICP备2023011765号-4 | 统计代码

声明:本站所有内容均只可用于学习参考,信息与图片素材来源于互联网,如内容侵权与违规,请与本站联系,将在三个工作日内处理,联系邮箱:123456789@qq.com