vLLM 是一款专为大语言模型推理加速而设计的框架,实现了 KV 缓存内存几乎零浪费,解决了内存管理瓶颈问题。
以 AlphaFold 为代表的 AI 系统,能够以前所未有的精度预测蛋白质三维结构,为理解蛋白质功能和开发靶向药物提供了革命性工具。在药物研...
「我以为我只有 10% 的机会获得诺贝尔化学奖」,得知获奖消息后,John Jumper 在电话采访中笑着说道。他的语气中带着谦逊与感慨,而这份...
深度强化学习是人工智能领域最具挑战性的研究方向之一,其设计理念源于生物学习系统从经验中优化决策的机制。在众多深度强化学习算法中...
夜间到日间翻译(Night2Day)旨在实现夜间场景的日间视觉。然而,在无配对条件下处理具有复杂降质的夜间图像仍然是一个重大的挑战。之前...
「CASP14 赛前,很多课题组看到 DeepMind 来参赛,觉得他们带来的成果可能和上次 (CASP13) 差不多,大家都没太当回事」,南开大学郑伟教...
在 2024 年的 NeurIPS 会议上,Ilya Sutskever 提出了一系列关于人工智能发展的挑战性观点,尤其集中于 Scaling Law 的观点:「现有的预...
扩散模型在生成高质量图像领域具有显著优势,但其迭代去噪过程导致计算开销较大。分布匹配蒸馏(Distribution Matching Distillation,D...
回顾历次工业革命,社会经济发展的关键,就是把握住最核心的生产力引擎。比如有人说,内燃机引擎轰鸣的一刹那,现代世界的格局就已经写...
从20世纪50年代起,AI技术经历了70多年的发展。其间多种技术曾占据不同时代的高位,而当时间来到21世纪20年代,抵达我们今天正在经历的...
就在本月,Meta 发布了 Llama 3.3 唯一开源模型 Llama-3.3-70B-Instruct,虽然参数规模只有 70B,但堪比 405B 模型性能。这是 Llama 3 ...
在机器人自主学习的旅程中,触觉是不可或缺的一环,它赋予机器感知物理世界细节的能力。然而,传统触觉感知系统的训练往往依赖于海量数...
大型语言模型在各个领域都展现出了卓越的性能,但其核心组件之一——softmax 注意力机制在计算资源消耗方面存在显著局限性。本文将深入探...
从自然语言问题(文本到 SQL)生成准确的 SQL 是一个长期以来的挑战,因为用户问题理解、数据库模式理解和 SQL 生成中的复杂性。传统的...
行业智能化,高度依赖于人才的创造力,今天已经是全社会的共识。但更能链接行业与技术的行业+AI交叉型人才,到底从何而来?这仍是一个不...
近年来,在全球持续变暖等大背景下,我们见证了一系列罕见的极端气候事件,它们似乎在无声地宣告着我们所处时代面临的严峻挑战。2024 年...
目录- ML Commons的MLPerf基准测试:Llama-2-70b- 8x GPU:MI300X与H100-SXM旗鼓相当- 多GPU线性扩展评估、B100单卡表现优异- Tensor并...
Key-Value (KV)缓存已成为大语言模型(LLM)长文本处理的关键性能瓶颈。当前研究尚未充分关注解码阶段的优化,这一阶段具有同等重要性,因...
然而,当我们切实地走进一位鲲鹏开发者的一天当中,去看见他参加鲲鹏应用创新大赛的一天吧,或许你对他们会有更清楚的认知。
2024年一季度,人形机器人厂商纷纷推动自家人形机器人“进厂打工”,早有特斯拉明确Optimus目标为代替人劳动,预计24年将用于特斯拉工厂,...
大模型的发展开启了AIGC时代,没有大模型的AI已经是上一代的AI,缺乏竞争力的AI。技术是AI每次革命性发展的起点,商业应用是发展的加速...
而悲观的声音也越来越多,就在刚刚过去的周末,OpenAI前首席科学家Ilya在NeurIPS 2024大会上演讲时明确表态:“预训练将会终结(Pre-trai...
当我们在谈论AI应该如何落地、如何与实际业务结合时,一家成立17年的AI企业,给出了新的解题思路——C端市场。这也让它们的产品知名度直线...
“Slower than it looks(AI比看起来要慢),LLMs tend average(大语言模型趋于人类的平均智慧水平),Not replacing humans(AI并非要...
20世纪50年代,美国城市化发展路径面临转型,城市化从追求人口集中、城市数量增加和城市规模扩大的传统模式,向改善城市生活质量、增强...
12月10日,中国科技产业智库「甲子光年」在北京中关村国家自主创新示范区展示交易中心举办「万千流变 一如既往——2024甲子引力年终盛典」...
即将过去的2024,对科技产业来说是异常丰富的一年,我们能看到眼花缭乱的新技术,听到种种自相矛盾的声音。
2024 年 11 月,Google DeepMind 发布报告「A new golden age of discovery: Seizing the AI for Science Opportunity」,指出 AI 正在...
中小企业,是市场经济的灵魂乐章。一曲经济腾飞和百业兴旺的壮丽乐章,离不开大型企业奏响的“主旋律”,同样也少不了亿万如蚂蚁雄兵般的...
多维偏好分析(Multidimensional Preference Analysis, MPA)是一种在市场营销、心理学和公共政策等领域广泛应用的分析工具,用于研究多...