麦斯科技 · 2023年07月03日 · 四川

2023边缘原生AI黑客松

https://www.opencompute.org/summit/global-summit/hackathon

由OCP, LF Edge 和 ETSI共同主办

1.PNG

边缘计算,包括云提供商区域数据中心、通信服务提供商有线和无线点的存在以及本地企业设备,正在不断涌现,其使用案例需要将工作负载从集中式数据中心分布到边缘位置。其目标是提供低延迟响应时间,最小化传输数据所消耗的带宽,并尊重数据主权,同时动态优化工作负载的位置。为了使事情更有趣,AI工作负载将被放置在边缘以及集中式数据中心内。

因此,OCP、LF Edge和ETSI选择了边缘原生AI/HW/SW协同设计作为即将举行的黑客松的主题。黑客松的三个应用垂直类别如下图所示,特别适用于边缘原生设计、使用AI和HW/SW协同设计:

  • AI和自动化:如何将边缘原生和AI应用于数据分析和自动化?
  • 可持续性:边缘原生和AI如何有助于增强应用程序、服务和网络的可持续性?
  • 5G 边缘:如何在5G边缘基础设施中部署和利用AI以实现边缘原生分布式应用程序?

8c74fa6c234359f1336da0db7860fb8f5ace38d4.png

带有边缘原生AI应用程序的边缘计算面临了特殊的挑战:

边缘为架构师和开发人员提供了本地、低延迟的资源,以创建一类新的“边缘原生”应用程序和服务。这些边缘原生解决方案专门设计,以充分利用边缘网络的分布式特性。

  • 越来越多的边缘资源不仅包括计算和存储,还包括访问GPU、AI模型和工具、实时上下文数据和分析等高级资源。
  • AI HW/SW 协同设计基本上是必需的,以匹配平台到服务的能力。这个反馈循环旨在为应用程序开发人员提供最大的灵活性,以继续创新和最大化系统性能。
  • 在这次黑客松中,团队们被挑战设计和原型化一个边缘原生解决方案,重点关注使用AI并考虑整体应用程序性能优化。关键考虑因素包括:

    • 边缘不是同质的,从现场边缘节点到移动网络边缘到城市或区域边缘数据中心提供一系列资源和硬件能力。还有云及其能力。
    • 任何边缘原生解决方案的基本设计挑战是确定在系统中每个位置最好运行哪些功能,以及如果功能可能需要根据应用程序要求、设备移动性、最终用户体验质量和边缘资源的可用性从一个位置转换到另一个位置。
    • 您的解决方案可以包括客户端应用程序、边缘应用程序和服务以及云组件的任何组合。
    • 例如,如果解决方案需要生成式AI(如聊天机器人),如何在集中式云数据中心与边缘区域或本地边缘节点之间或它们的不同HW能力和网络延迟之间优化大型语言模型(LLM)的性能。
    • 我们如何定义黑客松的性能?我们没有。性能取决于解决方案的上下文和需求。因此,我们要求团队在其上下文中定义性能,并分享他们对AI/HW/SW共同设计如何影响性能的见解。

黑客松资源(提供给参赛团队)

OCP提供两个云环境:

  • Qarnot (https://qarnot.com/en) (https://tasq.qarnot.com/login/) 。

    PaaS/SaaS平台:黑客松团队可以使用docker容器轻松部署HPC/batch计算任务。
    裸金属平台:黑客松团队将获得对OCP认可服务器的完全SSH访问权限(甚至包括IPMI/L2,如果需要)。

  • Flax Computing (https://www.flaxcomputing.com...)
    为了支持AI,黑客松团队可以获得OCP认可的GPU服务器,每个服务器配备8个K90 GPU,以及NVMe存储节点。
    对于5G Edge,黑客松团队可以获得OCP认可的服务器,并提供Wifi选项。

LF Edge提供

ETSI MEC提供

ETSI MEC提供了一组开放和标准化的边缘服务API,以便在规模上开发和部署本地应用程序。对于此次黑客松,以下MEC服务适用。OpenAPI表示可在forge.etsi.org上使用并准备进行开发。

  • MEC011-边缘平台应用程序启用(Mp1):MEC应用程序和服务支持和管理(例如,MEC应用程序注册,MEC服务广告和发现)
  • MEC012-无线电网络信息服务(RNIS):4G / 5G无线电网络上下文信息
  • MEC013-位置服务:有关终端和基础设施的网络和地理位置信息等。
  • MEC015-带宽管理服务和多接入流量转发服务
  • MEC016-设备应用程序接口:使终端设备能够发现MEC应用程序并创建应用程序上下文的服务
  • MEC021-应用程序移动性服务(AMS):在部署的MEC平台上在MEC应用程序实例之间重新定位用户上下文
  • MEC028-WLAN访问信息服务(WAIS):WiFi网络上下文信息
  • MEC030-V2X信息服务(VIS):预测车辆路线的服务质量。

有关使用ETSI MEC Service API开发的有用信息,请参阅这些ETSI白皮书。

  • 支持面向边缘原生设计的MEC
  • 为多接入边缘计算开发软件

黑客松团队还将获得访问ETSI MEC Sandbox的权限。MEC Sandbox是一个在线环境,开发人员可以在其中访问和与位于摩纳哥的模拟边缘网络中提供的实时ETSI MEC Service API进行交互,其中包括4G、5G和WiFi网络配置、单个和双重MEC平台部署等。

黑客松现场活动:2023年OCP全球峰会

在黑客松远程阶段的高潮时,将选择三个入围决赛的团队参加10月17日至19日在圣何塞举行的OCP全球峰会的最终现场比赛。三个入围的黑客松团队将在OCP全球峰会的Expo Hall Floor上展示他们的解决方案,入围者有机会与参加活动的全球行业领袖建立联系。在最终演讲中,三个入围的团队将在现场观众和代表ETSI、LF Edge、OCP和其他机构的评审小组面前展示他们的解决方案。前三名团队中的每一个都将获得2000美元的旅行津贴。

获胜者将获得:

  • 第一名:3000美元
  • 第二名:2000美元
  • 第三名:1000美元

截止日期

  • 提交期间开放:7月1日
  • 提交期间关闭:7月14日
  • 接受通知:7月17日
  • 黑客松开始-远程比赛:7月17日至9月15日
  • 团队最终提交-9月15日
  • 三个入围团队在9月25日那周得到通知
  • OCP全球峰会上的黑客松现场活动:10月17日至19日

团队规模:5名成员(最多)

价格:提交免费,选定团队参加黑客松也是免费的,并包括免费入场参加整个3天的2023年OCP全球峰会。

报名链接:https://forms.gle/wiyhubVtgyZh5oT46

赞助机会

我们正在寻找赞助商参加黑客松!

奖品赞助商- 10,000美元(包括现金奖励)

  • 第一名奖项- 3,000美元
  • 第二名奖项- 2,000美元
  • 第三名奖项- 1,000美元

旅行赞助商- 赞助团队旅行的小津贴- 10,000美元

设备赞助商- 提供开发人员在黑客松中使用的材料的机会,例如:
。适用于具有人工智能开发的x86 / ARM / RISC-V平台,包括潜在的加速器/ GPU选项,高内存选项,可访问高存储容量。
。边缘特定平台,例如Open Edge Servers等 任何启用开放API、工具、数据集等的内容。

赞助商将获得以下内容:

  • 活动网站、电子邮件通知、宣传资料和社交媒体帖子上的标志曝光。
  • 现场标识 在颁奖典礼上发言5分钟(无幻灯片-仅限前3名赞助商)。
  • 作为黑客松的评委参加相关活动。

如果您有兴趣赞助这个令人兴奋的活动,请联系dirkv@opencompute.org

推荐阅读
关注数
25
文章数
540
Arm供应商,Arm技术推广者
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息