首页 > 财经 >

燧原科技赵立东:AGI时代,算力普惠亟待推进

发表于: 2023-07-06 20:28:23 来源:集微网


(资料图片)

集微网报道 7月6日,在2023世界人工智能大会上,燧原科技创始人、董事长、CEO赵立东发表主题演讲,他指出,在AI大模型等驱动下,算力需求呈指数级增长,算力普惠问题亟待解决。会上,他还介绍了燧原科技在推进AI算力普惠方面所做的努力及成果。

去年ChatGPT大模型的问世,掀起了一股生成式AI应用大潮,对AI算力的需求随着AIGC参数呈指数级增长。一方面大模型的部署对算力需求增长迅猛,另一方面,可提供的算力却跟不上需求发展。与此同时,目前AIGC大模型应用尚处于从 0到1阶段,相比训练,未来大模型的推理部署需要更大的算力,对成本更敏感。

“今天我们的算力已经供不应求的情况下,未来算力需求更是不可估量,实现算力普惠进程亟待加速。”赵立东说。

所谓算力普惠,“普”是指在需要的时候可以得到,“惠”是指在需要的时候可以负担得起。在赵立东看来,今天的形势离算力普惠还相差甚远。“现在整个市场对AI算力的追求几乎是不惜代价,还经常面临买不到的挑战,所以在这种情况下,如何实现算力的普惠,我们还有很多的工作要做。”

为了满足AI大模型带来的算力挑战,业界甚至不得不付出能耗代价,一些芯片的功耗已推到了700瓦800瓦,板卡的功耗更是接近千瓦。

对此,赵立东认为,必须在架构、能耗还有集群上想办法,架构包括了芯片的架构,也包括了3D堆叠等封装新形式,而集群是未来整个智算中心建设的非常重要的基本单元。

作为AI芯片供应商,燧原科技在推进算力普惠过程中进行了积极探索和努力,并取得了显著成果。

一个是为大型科研机构部署了千卡规模的AI训练算力集群,这个案例已经成功落地;二是与大型互联网公司合作的AI芯片取得了优异的落地成果,在OCR文字识别,智能交互,智能会议,像语音降噪等方面,性能达到了业界同类产品两倍以上,在性价比上具有很高优势;三是在智慧城市方面,完成2022年成都高新区国产化AI视频基础设施平台项目建设,包括城市安全、智慧教育、智慧交通、智慧社区、智慧工地,还有重大场所的防控等,都已经落地上线。燧原科技还推出云燧一体机,打造AI算力集群,为大规模AI算力基础设施建设量身定制。

赵立东指出,“目前AI大模型还处于0~1的阶段,今年下半年第一波训练会陆续出来,随着后续AI大模型的更多布局,企业还是要回归商业规律,要有经济效益,要能实现回本。所以,在AI大模型时代,算力普惠势在必行。”

标签:

Copyright ©  2015-2022 东方公司网版权所有  备案号:沪ICP备2020036824号-8   联系邮箱:562 66 29@qq.com