随着模型技术的持续发展和应用,GPU行业也迎来了更多机遇和挑战。当下,AI、云计算、数据分析和高性能计算等核心科技行业已离不开最顶级的图像处理技术(GPU)的强力支持。
站在时代的机会面前,中国芯想要突围,就必须抓住“窗口期”。
瀚博半导体作为自研高端GPU芯片及解决方案提供商,就抓住了这次难得的时代机遇。近日,瀚博发布了名为SG100的GPU芯片,除了具备图形渲染性能外,SG100更是一款集渲染、AI、视频于一体的全功能GPU芯片。
在谈到瀚博芯片研发的长期目标时,身为产品总监的王晓宁介绍,瀚博希望用5-10年的时间,成长为世界级的芯片设计公司。
以下是我们和瀚博半导体产品总监王晓宁的对话——
受访对象:王晓宁
策划、编辑:Xin Wang
LiveVideoStack:王晓宁老师你好,按照常规惯例,请简单介绍下你这次将要分享的主题内容,以及目前你在瀚博所处的部门及其所负责的工作内容,谢谢。
王晓宁:这次我分享的内容主题是《从像素到杰作——瀚博GPU加速高质量元宇宙内容生产》,主要内容将围绕瀚博的新一代全功能GPU SG100以及我们最新发布的系列新品。
作为一个专注于云端,集成渲染,AI和视频编解码的全功能GPU,SG100有业界领先的渲染性能、低延迟的AI算力以及强大的视频处理能力,能够为各种场景特别是元宇宙场景提供基础算力,具体产品的细节我也会在演讲中详细分享。
我也简要介绍一下我们公司。瀚博半导体成立于2018年,是一家自研高端GPU芯片及解决方案提供商,我们以两代GPU芯片系列衍生AI、渲染、视频三大产品矩阵,基于VUCA统一计算架构,瀚博在2022年量产基于第一代芯片的云端通用AI及视频加速卡系列,2023年已经量产基于第二代7nm全功能 GPU 芯片产品系列。
瀚博的产品可以高效赋能人工智能与元宇宙两大产业,助力大模型与生成式人工智能、智算数据中心、智慧工业、车路协同、数字孪生、渲染工作站、工业软件、云手机、云电脑、云渲染等应用场景落地。
除了全功能GPU新品发布,本月初我们还发布了瀚博AIGC相关新品方案,支持生成式AI配合全功能GPU的图形渲染能力,为元宇宙行业提供算力基础。
我目前在瀚博产品部门全面负责GPU的客户需求收集、产品规划、产品定义、市场分析、竞争分析、市场推广等方面的工作。
LiveVideoStack:你最近在关注GPU领域哪些新事件和新技术,对你和团队的实际研发工作有无灵感上的帮助?
王晓宁:我近期主要关注云渲染、云计算、元宇宙数字孪生、数字人等方面的技术。我们已经和上下游的合作伙伴对云端GPU的渲染引擎、落地场景、单卡多实例支持等多种场景下做了很多工作。
LiveVideoStack:瀚博是如何确保GPU产品在渲染上能搭建起高质量的场景的?
王晓宁:瀚博GPU芯片本身提供了业界领先的渲染性能,我们板卡的良好设计可以充分发挥芯片的渲染算力,我们的软件团队又针对不同的场景做了很多渲染的性能优化。
因为在芯片、板卡、软件、系统都做到最好,瀚博GPU才在这些渲染场景上提供了最好的效果。
LiveVideoStack:瀚博是怎么想到打造数据+边缘计算+GPU系列组合的?优势是什么?
王晓宁:瀚博半导体同时拥有“大算力AI”、“高质量视频处理”和“高性能渲染”三大核心技术,并基于这三大核心技术研发设计了一系列高端芯片和产品,许多客户的商业化落地情况也证明了我们的产品在渲染GPU、AI和视频领域都有非常强的竞争力。
LiveVideoStack:GPU渲染还需要额外的使用成本,包括一套高效的冷却系统等,在成本问题上,瀚博是怎么解决的?
王晓宁:对于数据中心客户来说,他们关心的成本实际上是每个用户实例的综合成本。瀚博SG100通过出色的芯片设计、板卡设计和软件优化,使得单卡可以通过发挥更好的性能来支持更多用户实例,从而降低客户的成本。
LiveVideoStack:可以分享下瀚博针对人工智能与元宇宙行业的最新产品研发成果吗?
王晓宁:除了发布了全功能GPU新品,今年我们还发布了瀚博AIGC相关新品方案。
首先我想从大模型开始说起。大模型的“大”其实代表着很大的模型参数,所以大模型需要很大的显存,例如175B(或者1750亿的ChatGPT参数需要接近512GB的显存)。因此,大模型也意味着高成本,目前很多政企、银行、教育、医疗等客户想尝试大模型,但不是每个客户都买得到友商的GPU或者愿意投入这么多资金在大模型上。
基于这个市场观察,瀚博推出了AIGC大模型一体机方案。我们的方案可以支持512GB的显存,从而支持到1750亿参数的大模型,我们的产品优势在于极大降低了大模型的应用门槛,也是对国内中小企业支持大模型提供最优惠的一体机。
另外,我们还有2个非常特殊的选配:第一个选配是1-2卡单独运行语音转文字或者文字转语音,提供了智能对话功能。第二个选配是用我们的SG100做云端实时渲染,实现2U服务器搭载10-11卡同时提供大模型会话+数字人渲染功能。
更多新品的细节我也会在演讲中为大家揭晓。
LiveVideoStack:作为瀚博的产品总监,您对于瀚博接下来的芯片研发工作短期目标是什么?长期目标又是什么?现在距离目标你认为有多远?
王晓宁:短期目标,是SG100这一代产品的商业化落地。只有产品被客户真正量产使用,才能检验和证明SG100的产品力。
长期目标,是根据市场需求,研发更具有竞争力的产品,我们希望5-10年的时间,瀚博可以成长为世界级芯片设计公司。
LiveVideoStack:谢谢你接受我们的采访,期待你在大会上的精彩演讲。
▲扫描图中二维码或点击“阅读原文” ▲
查看更多LiveVideoStackCon 2023上海站精彩话题