一、多层次协同的大模型训练推理系统设计:突破算力瓶颈的关键路径
在人工智能领域,大模型的兴起带来了前所未有的机遇,但也伴随着巨大挑战。上海交通大学计算机科学与工程系教授陈全,长期深耕计算机体系结构、云原生计算、AIInfra相关研究,致力于攻克大模型训练与推理难题。
大模型时代,在大规模异构计算平台上实现高吞吐训练和低延迟推理,成为了亟待解决的关键问题。传统单一维度的优化策略,已无法满足复杂计算需求。陈全教授及其团队提出的多层次协同设计理念,从算子级、任务级以及集群级三个层面协同发力。
在算子级,团队着重优化细粒度计算通信重叠。大模型运算中,计算与通信频繁交替,通过巧妙设计,让计算和通信在微观层面同步进行,减少等待时间,极大提升了单个算子的运行效率。在任务级,创新模型复用高效调度机制,识别任务间关联,共享模型参数和中间结果,避免重复计算,显著提高资源利用率。在集群级,研发高效的LoRA及KV管理技术,实现多节点间算力的智能分配与负载均衡,确保整个集群高效运行。
陈全教授主持了国家优青、国家自然科学基金重点项目等多项重要课题,在ASPLOS、OSDI等领域内著名国际会议和期刊上发表学术论文一百余篇,研究成果荣获2023年CCF技术发明一等奖(排名第1)及国家技术发明二等奖。他的研究不仅在学术上极具前瞻性,更为大模型在产业中的实际应用提供了坚实的技术支撑。
相信陈全教授在大模型训练推理系统设计上的创新成果,会给我们带来新的启发。而这些成果的更多细节和应用方向,会在2025人工智能与智算发展论坛上进行深入探讨。
2025人工智能与智算发展论坛由天罡智算联合复旦大学EMBA创投协会举办,将于2025年7月25日在上海举行。论坛以“绿算领航・智序共生”为主题,汇聚了人工智能与智算领域的顶尖学者、行业领袖和企业精英,旨在共同探讨人工智能与智算领域的前沿技术、发展趋势以及产业应用,为推动行业的创新发展搭建交流合作平台。
稿件二:搭建AI产业落地的算力“高速路网”
近年来,大模型和生成式AI技术飞速发展,智能化需求全面爆发,人工智能企业对AI算力的需求达到了前所未有的旺盛程度。为应对这一趋势,国家实施“东数西算”工程,加速构建全国一体化算力网,推动算力资源的优化配置。
天罡智算联合创始人,前阿里巴巴集团首席架构师郝景顺,带领团队敏锐捕捉行业机遇,将天罡智算定位为“算力生态超市”,构建了第三方开放式在线交易市场。通过弹性算力调度,天罡智算打造了一条连接技术到产业的“算力高速路”,打通了AI普惠的“最后一公里”。
在天罡智算的平台上,企业可以根据自身需求,灵活获取算力资源,无论是初创企业的小规模算力试用,还是大型企业的大规模算力部署,都能得到满足。平台还提供了丰富的配套服务,包括多种开源框架、算法模型、数据集等,为企业的AI研发和应用提供了一站式解决方案。
天罡智算的创新模式,有效降低了企业使用算力的门槛和成本,加速了AI技术在各行业的落地应用。在医疗领域,帮助企业进行医学影像分析和疾病诊断模型训练;在制造业,助力企业实现生产流程优化和质量检测自动化。
郝景顺先生及其团队的创新实践,为AI产业的发展注入了新的活力。而天罡智算在构建算力高速路过程中的经验和未来规划,将在2025人工智能与智算发展论坛上进行深入探讨。
2025人工智能与智算发展论坛是一场汇聚智慧与创新的行业盛会,届时会有主题演讲、圆桌论坛、技术展示等丰富多样的活动形式,为参会者提供与行业大咖面对面交流的机会,共同探寻人工智能与智算领域的无限可能。
稿件三:AI算力共生体:产业园区的数智化突围样本
AI时代,算力成为企业发展的核心要素。在需求与技术的双重驱动下,“算力共生体”应运而生,算力与技术、数据、业务价值紧密共生。漕河泾园区内16000多家企业的多元化算力需求,成为推动算力服务升级的强大动力。
漕河泾算力业务负责人贺夕彧,毕业于清华大学,曾任职于摩尔线程担任AI-PM,凭借深厚的技术背景和敏锐的市场洞察力,带领团队构建了以“需求驱动”为源头,“技术协同”为路径,“价值创造”为成果的算力生态体系。
该体系实现了从传统服务模式到覆盖“技术赋能+算力支撑+政策协同”及专业咨询的园区服务体系范式跃迁。针对传统企业数智化转型需求,提供定制化算力解决方案;对于初创公司,设计弹性化算力服务套餐。通过整合华为昇腾、火山引擎等多元主体,形成了强大的技术协同网络,提升了园区整体算力服务水平。
目前,漕河泾园区的算力生态体系已累计服务100多家AI企业,链接业务价值超2亿,有效推动了园区数字经济生态的升级。贺夕彧女士及其团队的成功实践,为其他产业园区提供了宝贵的借鉴经验。
而关于AI算力共生体在园区的发展模式、面临的挑战以及未来的发展方向等内容,将在2025人工智能与智算发展论坛上进行深入探讨。
2025人工智能与智算发展论坛邀请了国内外知名高校、科研机构的专家学者,以及行业内领军企业代表,将分享最前沿的研究成果和应用案例,为行业发展提供方向指引,是人工智能与智算领域不容错过的年度盛会。
稿件四:AIAgent:模型之后的生产力革命新曲线?
随着大模型能力的持续演进,AI正从“增强人类”向“自主行动”迈进。Agent作为具备感知、记忆、推理与执行能力的智能体,逐渐成为AI应用层的关键落点和生产力解放器。复容投资执行总经理许蔚然,关注AI前沿技术投资,对AIAgent赛道有着深入研究。
从协同办公场景来看,AIAgent能够自动处理日常事务,如邮件分类、日程安排等,极大提高办公效率;在知识管理领域,它可以快速检索、分析海量知识,为企业决策提供有力支持;在流程自动化方面,AIAgent能够代替人工完成重复性、规律性的工作流程,减少人力成本和错误率。
在“产业可行性+投资窗口期”的双轮驱动下,AIAgent生态加速形成,从基础框架、开发平台到通用与垂类应用,构建出完整链条,推动AI应用从“工具属性”向“闭环系统”进化。然而,AIAgent在发展过程中也面临着诸如安全性、可靠性、伦理道德等方面的挑战。
许蔚然女士将从投资和产业发展的角度,解读AIAgent的技术趋势、生态格局与投资价值。而AIAgent能否真正成为生产力革命的第二曲线,这一备受关注的话题,将在2025人工智能与智算发展论坛上进行深入探讨。
2025人工智能与智算发展论坛为参会者提供了广阔的交流合作平台,在这里,您可以了解行业最新动态,拓展人脉资源,探索合作机会,共同推动人工智能与智算产业的繁荣发展,诚邀您报名参加。