大型语言模型在各个领域都展现出了卓越的性能，但其核心组件之一——softmax 注意力机制在计算资源消耗方面存在显著局限性。本文将深入探...
从自然语言问题（文本到 SQL）生成准确的 SQL 是一个长期以来的挑战，因为用户问题理解、数据库模式理解和 SQL 生成中的复杂性。传统的...
行业智能化，高度依赖于人才的创造力，今天已经是全社会的共识。但更能链接行业与技术的行业+AI交叉型人才，到底从何而来？这仍是一个不...
近年来，在全球持续变暖等大背景下，我们见证了一系列罕见的极端气候事件，它们似乎在无声地宣告着我们所处时代面临的严峻挑战。2024 年...
目录- ML Commons的MLPerf基准测试：Llama-2-70b- 8x GPU：MI300X与H100-SXM旗鼓相当- 多GPU线性扩展评估、B100单卡表现优异- Tensor并...
Key-Value (KV)缓存已成为大语言模型(LLM)长文本处理的关键性能瓶颈。当前研究尚未充分关注解码阶段的优化，这一阶段具有同等重要性，因...
然而，当我们切实地走进一位鲲鹏开发者的一天当中，去看见他参加鲲鹏应用创新大赛的一天吧，或许你对他们会有更清楚的认知。
2024年一季度，人形机器人厂商纷纷推动自家人形机器人“进厂打工”，早有特斯拉明确Optimus目标为代替人劳动，预计24年将用于特斯拉工厂，...
大模型的发展开启了AIGC时代，没有大模型的AI已经是上一代的AI，缺乏竞争力的AI。技术是AI每次革命性发展的起点，商业应用是发展的加速...
而悲观的声音也越来越多，就在刚刚过去的周末，OpenAI前首席科学家Ilya在NeurIPS 2024大会上演讲时明确表态：“预训练将会终结（Pre-trai...
当我们在谈论AI应该如何落地、如何与实际业务结合时，一家成立17年的AI企业，给出了新的解题思路——C端市场。这也让它们的产品知名度直线...
“Slower than it looks（AI比看起来要慢），LLMs tend average（大语言模型趋于人类的平均智慧水平），Not replacing humans（AI并非要...
20世纪50年代，美国城市化发展路径面临转型，城市化从追求人口集中、城市数量增加和城市规模扩大的传统模式，向改善城市生活质量、增强...
12月10日，中国科技产业智库「甲子光年」在北京中关村国家自主创新示范区展示交易中心举办「万千流变 一如既往——2024甲子引力年终盛典」...
即将过去的2024，对科技产业来说是异常丰富的一年，我们能看到眼花缭乱的新技术，听到种种自相矛盾的声音。
2024 年 11 月，Google DeepMind 发布报告「A new golden age of discovery: Seizing the AI for Science Opportunity」，指出 AI 正在...
中小企业，是市场经济的灵魂乐章。一曲经济腾飞和百业兴旺的壮丽乐章，离不开大型企业奏响的“主旋律”，同样也少不了亿万如蚂蚁雄兵般的...
多维偏好分析（Multidimensional Preference Analysis, MPA）是一种在市场营销、心理学和公共政策等领域广泛应用的分析工具，用于研究多...
美国 Rivian 和 Lucid 两家公司，在汽车电子领域跑的挺快的，现在根据海外网站的拆解 Air 的材料，我们来看看这个智能控制器的特点。
在已知宇宙中，人类大脑是最复杂的结构之一。它由大约 1 千亿个神经元组成，每个神经元通过数千个突触与其他神经元相连，形成了一个难以...
1959年8月31日，经过了5次大改的红旗CA72轿车终于问世，标志着新中国就此拥有自己的豪华汽车。
大语言模型的指令遵循能力需要模型能够准确识别指令中的细微要求，并在输出中精确体现这些要求。现有方法通常采用偏好学习进行优化，在...
在本文来自于 encord，从 VLM 算法架构，原理，到应用方向，挑战难点方面探讨 VLM 的架构、评估策略和主流数据集，以及该领域的主要挑战...
这篇文章是 AWQ（activation-aware weight quantization）的阅读笔记，实际上这篇文章是 9 月 12 日我在从广州飞往洛杉矶的飞机上就开始...
2024年，无数人在谈论AI。兴奋的创业者、热情的投资人、担心工作出现变化的普通人，大家都在猜测和规划与AI有关的未来。
Apache TVM 是一个端到端的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。更多 TVM 中文文档可访问 →Apache TVM 是一个端...
大型语言模型在各个领域都展现出了卓越的性能，但其核心组件之一——softmax 注意力机制在计算资源消耗方面存在显著局限性。本文将深入探...
从自然语言问题（文本到 SQL）生成准确的 SQL 是一个长期以来的挑战，因为用户问题理解、数据库模式理解和 SQL 生成中的复杂性。传统的...
行业智能化，高度依赖于人才的创造力，今天已经是全社会的共识。但更能链接行业与技术的行业+AI交叉型人才，到底从何而来？这仍是一个不...
近年来，在全球持续变暖等大背景下，我们见证了一系列罕见的极端气候事件，它们似乎在无声地宣告着我们所处时代面临的严峻挑战。2024 年...
目录- ML Commons的MLPerf基准测试：Llama-2-70b- 8x GPU：MI300X与H100-SXM旗鼓相当- 多GPU线性扩展评估、B100单卡表现优异- Tensor并...
Key-Value (KV)缓存已成为大语言模型(LLM)长文本处理的关键性能瓶颈。当前研究尚未充分关注解码阶段的优化，这一阶段具有同等重要性，因...
然而，当我们切实地走进一位鲲鹏开发者的一天当中，去看见他参加鲲鹏应用创新大赛的一天吧，或许你对他们会有更清楚的认知。
2024年一季度，人形机器人厂商纷纷推动自家人形机器人“进厂打工”，早有特斯拉明确Optimus目标为代替人劳动，预计24年将用于特斯拉工厂，...
大模型的发展开启了AIGC时代，没有大模型的AI已经是上一代的AI，缺乏竞争力的AI。技术是AI每次革命性发展的起点，商业应用是发展的加速...
而悲观的声音也越来越多，就在刚刚过去的周末，OpenAI前首席科学家Ilya在NeurIPS 2024大会上演讲时明确表态：“预训练将会终结（Pre-trai...
当我们在谈论AI应该如何落地、如何与实际业务结合时，一家成立17年的AI企业，给出了新的解题思路——C端市场。这也让它们的产品知名度直线...
“Slower than it looks（AI比看起来要慢），LLMs tend average（大语言模型趋于人类的平均智慧水平），Not replacing humans（AI并非要...
20世纪50年代，美国城市化发展路径面临转型，城市化从追求人口集中、城市数量增加和城市规模扩大的传统模式，向改善城市生活质量、增强...
12月10日，中国科技产业智库「甲子光年」在北京中关村国家自主创新示范区展示交易中心举办「万千流变 一如既往——2024甲子引力年终盛典」...
即将过去的2024，对科技产业来说是异常丰富的一年，我们能看到眼花缭乱的新技术，听到种种自相矛盾的声音。
2024 年 11 月，Google DeepMind 发布报告「A new golden age of discovery: Seizing the AI for Science Opportunity」，指出 AI 正在...
中小企业，是市场经济的灵魂乐章。一曲经济腾飞和百业兴旺的壮丽乐章，离不开大型企业奏响的“主旋律”，同样也少不了亿万如蚂蚁雄兵般的...
多维偏好分析（Multidimensional Preference Analysis, MPA）是一种在市场营销、心理学和公共政策等领域广泛应用的分析工具，用于研究多...
美国 Rivian 和 Lucid 两家公司，在汽车电子领域跑的挺快的，现在根据海外网站的拆解 Air 的材料，我们来看看这个智能控制器的特点。
在已知宇宙中，人类大脑是最复杂的结构之一。它由大约 1 千亿个神经元组成，每个神经元通过数千个突触与其他神经元相连，形成了一个难以...
1959年8月31日，经过了5次大改的红旗CA72轿车终于问世，标志着新中国就此拥有自己的豪华汽车。
大语言模型的指令遵循能力需要模型能够准确识别指令中的细微要求，并在输出中精确体现这些要求。现有方法通常采用偏好学习进行优化，在...
在本文来自于 encord，从 VLM 算法架构，原理，到应用方向，挑战难点方面探讨 VLM 的架构、评估策略和主流数据集，以及该领域的主要挑战...
这篇文章是 AWQ（activation-aware weight quantization）的阅读笔记，实际上这篇文章是 9 月 12 日我在从广州飞往洛杉矶的飞机上就开始...
2024年，无数人在谈论AI。兴奋的创业者、热情的投资人、担心工作出现变化的普通人，大家都在猜测和规划与AI有关的未来。
Apache TVM 是一个端到端的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。更多 TVM 中文文档可访问 →Apache TVM 是一个端...
AI 应用
安谋科技自研产品
Arm 计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
智东西
