云中子〖计算杂谈〗 · 6月11日 · 北京市

亚马逊云科技:开启生成式AI重塑的时代

在亚马逊云科技中国峰会第二天,亚马逊云科技大中华区产品总经理陈晓建发表了《生成式AI重塑时代》的主题演讲,他表示:先进的人工智能技术广泛应用于商务、金融、制造业、信息技术等诸多领域,显示出强大处理能力及对人类社会的深远影响。AI可通过对大量数据的学习与分析,准确理解和处理人类语言文字,高效执行各类任务,大幅提升工作效率并推动产业升级。而且,借助云和分布式计算技术,AI系统的训练和部署更为便捷、经济,使更多企业和个人能参与到AI技术的发展与应用中。

未来,伴随技术持续进步及应用场景进一步拓展,人工智能将在促进经济增长、提升生活品质等方面发挥更为关键的作用。

“重塑”一次屡屡出现在陈晓建的演讲中,其实仔细观察不难发现,在当今云计算与AI相结合的时代,这些先进技术正在以更高效的方式改变着世界。

Moderna借助亚马逊云科技的机器学习服务,于疫情期间,仅用短短两天便实现了mRNA新冠疫苗的基因测序,且在25天后就开展了第一批临床试验,然而在以往,这样的过程通常要花费数年时间。

WPS AI办公软件拥有逾2亿的海外用户,当前正与亚马逊云科技合作,把生成式AI能力全方位引入其产品线。WPS AI借助Amazon Bedrock服务来运用Anthropic的Claude 3模型,以此加快文档写作中诸如内容识别、内容生成等常用功能,极大地优化了用户体验,提高了创作效率。

而以上这些实践,才仅仅是AI时代智能化应用的冰山一角,还有众多的行业正在拥抱AI,以智能的方式重塑生产力。

基础架构全方位跟进AI

在基础模型架构中,主要涉及两种工作模式:模型训练和模型推理。模型训练阶段,系统通过分析大量的训练数据来学习和提升基础模型的性能;而模型推理则是指运用这些经过训练的模型来创建和输出各种内容,如文本、图像和视频等。

同时,这些重要任务也对算力提出了更高要求,为此,亚马逊云科技在基础架构层面为用户提供了更加高效的硬件组合,几乎囊括了当前市场中所有的算力产品,满足用户的不同需求。

亚马逊云科技大中华区解决方案架构总经理代闻也其《架构演进连接未来想象》的主题演讲表示,亚马逊云科技自行研发设计出了更契合云计算业务以及新时代要求的处理器,即当前被最为广泛运用的基于ARM架构的云计算处理器Graviton。在过去五年中,亚马逊云科技已经推出了四代Graviton处理器。在全球范围内,亚马逊云科技提供了超过150种基于Graviton的Amazon EC2实例,构建的Graviton处理器数量超过200万个,并且拥有超过50,000名客户。这些客户包括使用基于Graviton实例的EC2前100名客户,他们通过使用这些实例为他们的应用程序提供了最佳的性价比。

大宇无限作为Graviton的早期使用者,通过运用Graviton2使得大数据作业的成本降低了20%;涂鸦智能则大规模部署了Graviton3实例,进而将IoT平台的加解密性能提升了50%。

此外,历经十余年的打磨,EC2计算实例的数量种类也已发展到了750种,能够为几乎所有负载提供合适的服务。

在当前的EC2虚拟化架构设计中,服务器资源完全归用户实例所独占,而网络、存储的虚拟化、虚拟机的管理、安全性和监控等功能则被转移到Nitro系列硬件上。这样的设计使得主机的性能损耗几乎为0。

GPU方面,亚马逊云科技中国区正式推出搭载英伟达A10G GPU的Amazon EC2 G5实例,为中国区客户提供生成式AI工作负载的高性价比解决方案。自推出以来,众多客户已经开始使用EC2 G5实例,用于基于Llama基础模型的微调和推理等工作负载的处理。

自研AI算力方面,在过去五年中,亚马逊云科技在定制芯片领域的投资显著降低了机器学习训练和推理的成本。具体来说,基于Amazon Trainium芯片的Trn1 EC2实例和基于Amazon Inferentia芯片的Inf2 EC2实例,与使用通用GPU的类似Amazon EC2实例相比,Trn1实例能够将训练成本降低高达50%,而Inf2实例则能将推理成本降低高达40%。

机器学习应用利器:Amazon SageMaker

Amazon SageMaker,作为一项强大的托管机器学习服务,为开发人员提供了从构建、训练、微调到部署基础模型的全程支持。七年来,Amazon SageMaker凭借其持续的创新,如自动模型微调、分布式训练、灵活的部署选项、先进的机器学习操作工具以及内置的负责任AI功能,帮助用户加速创新步伐。

Amazon SageMaker HyperPod现已正式投入使用,这一技术革新可将模型训练时间显著减少高达40%。Hugging Face,一家知名的机器学习公司,其开源基础模型深受用户喜爱,已累计数百万次下载。Hugging Face通过采用SageMaker HyperPod,实现了训练效率的显著提升,一年内节省了数百小时的训练时间,加速了其计算创新的步伐。

为了进一步满足开发者的需求,Amazon SageMaker Jumpstart提供了丰富的功能,包括模型选择、深度模型定制和评估等。它使用户能够轻松获取、微调和部署来自学术界和工业界的最新公开可用预训练模型,如Meta Llama3、Cohere Command以及Hugging Face的开源模型等。此外,SageMaker Jumpstart还为机器学习从业者提供了深度模型定制和评估功能,使用户能够基于已熟悉的环境轻松访问和定制基础模型。

为了满足中国区域用户的需求,亚马逊云科技正不断拓展SageMaker Jumpstart中的基础模型种类。陈晓建在峰会现场宣布:现已将零一万物的Yi-1.5 6B/9B/34B基础模型正式引入中国区域的SageMaker Jumpstart,而来自百川智能的Baichuan-2 7B基础模型也即将上线。这些新增的模型将为中国客户和全球开发者提供更多基于优秀模型开发生成式AI应用的选择,助力他们更快速地实现创新目标。

据了解,百川智能推出的开源大语言模型Baichuan 2-7B,是一个基于2.6万亿条高质量多语言数据的训练成果。该模型在数学、代码、安全、逻辑推理和语义理解等多个领域展现出卓越的性能,尤其是在中文通用领域的表现尤为突出。

另一方面,零一万物的Yi-1.5系列开源大模型是Yi系列模型的升级版,此前备受好评。Yi-1.5在前作的基础上,使用了高质量的5000亿个标记语料库进行持续预训练,因此延续了Yi系列开源模型的优异表现。在语言理解、常识推理和阅读理解能力方面,Yi-1.5保持了高水准,同时在编码、数学、推理和指令执行能力方面也得到了显著提升。

Amazon Bedrock有效降低AI使用门槛

“每个现代化企业都是数据驱动型企业,而坚实的数据基座除了包括一套全面、集成的服务体系,以及用于端到端数据工作流管理的工具之外,我们今天当然要考虑如何能够更好的使用和支持生成式AI应用的能力。Amazon Bedrock提供了一整套完整的功能,包括微调、持续预训练,检索增强生成RAG等等,帮助企业基于私有数据去创建生成式AI应用。”陈晓建在演讲中也多次提及了AI领域的“当红小生”Amazon Bedrock,其俨然成为了当今企业构建人工智能应用的重要组成部分。

在这个AI时代,Amazon Bedrock几乎家喻户晓,它的最大特点就是以极简的方式帮助用户完成生成式人工智能(AI)应用程序构建和扩展。它允许用户轻松地将生成式AI集成到业务中,从而改善用户体验、优化产品设计和改革工作流程。Amazon Bedrock为用户提供了一系列工具和服务,以支持生成式AI的应用开发。

在模型选择方面,Amazon Bedrock提供了多种预训练的AI模型,用户可以通过单一的API访问来自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亚马逊等领先人工智能公司的高性能基础模型。这些模型针对不同的应用场景和需求进行了优化。

在模型定制方面,Amazon Bedrock提供自定义模型导入、模型评估、知识库和代理等功能。用户可根据自己的特定需求对选定的模型进行定制,进一步提高模型的准确性和适用性,并简化构建生成式AI应用 的工作,够轻松将生成的AI内容集成到现有的应用程序和流程中。无论是自然语言处理、图像识别还是其他类型的生成式AI任务,Amazon Bedrock都能帮助用户快速构建出高效、可靠的解决方案。

安全方面,亚马逊云科技是负责任AI的倡导者,通过Amazon Bedrock提供了一系列工具和指南,帮助用户确保生成的AI内容是安全、可靠且符合道德标准的。此外,它还支持数据隐私和安全性,保护客户数据不被滥用或泄露。

可以说,无论客户来自哪个行业,都能通过Amazon Bedrock轻松地将生成式AI融入到其核心业务中,实现用户体验、产品和流程的全面升级。

在整个第二日的峰会上,亚马逊云科技还介绍了Serverless、优良架构体系、Amazon Titan系列模型、Amazon Q、安全以及生成式AI人才培养计划,可谓干货满满,一场专业化的AI盛宴就此开启。

“重塑”一词的字面意思是对某个事物进行根本性改变或重构,使其达到新的形态。可以看到,我们的工作与生活正在随着AI的到来而呈现出重塑状态,很多应用一夜之间就发生了巨变。

我们正处在一个智能化技术变革的伟大时代,鉴证历史,就在当下!

推荐阅读
关注数
853
内容数
99
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息