不知不觉，从去年的 first commit 到 v2.4.0 版本的发布，X-AnyLabeling 如同四季轮回，已悄然走过了春华秋实的岁月。这如同亲手撒下的...
尽管LLMs的巨大规模使其在广泛的应用场景中表现卓越,但这也为其在实际问题中的应用带来了挑战。本文将探讨如何通过压缩LLMs来应对这些挑...
近年来，大语言模型 (LLM) 在理解和生成复杂文本时展现出强大的能力，能够处理高达 100,000 个 tokens 的输入，但在生成超过 2,000 词的...
光的波长探测在科学研究和工业应用中具有重要作用，光学光谱仪是其中不可或缺的分析工具。如今，体积庞大的传统光谱仪已经无法满足日益...
中国有两个全球化通道，一个以海路航运为主，为长三角、珠三角等沿海地区，带来了几十年的经济高速增长，另一个由陆路交通串联起来，古...
检索增强生成（RAG）是一种新兴的 AI 技术栈，通过为大型语言模型（LLM）提供额外的 “最新知识” 来增强其能力。
原文：[链接]本文主要介绍vLLM推理引擎的框架执行流程 (v0.1.2)，相关文章：vLLM源码之PagedAttention（持续更新）引用本文内容主要源于...
1945年，在第二次世界大战即将结束之际，一场看似简单的纸牌游戏引发了计算领域的重大突破。这项突破最终导致了蒙特卡洛方法的诞生。参...
通过指尖操作，在“智能小虹”平台中输入关键词“居住证补办”，几乎同时，详尽的办理流程便清晰展现；通过整合居民办事相关政策库、基层治...
能够以「原子精度」预测出所有生物分子结构和相互作用的 AlphaFold 3，一经面世便引起了业界的广泛讨论。8 月 13 日，在上海交通大学 AI...
微小目标检测成为计算机视觉中最具挑战性的任务之一，这是由于物体尺寸有限和信息不足所致。标签分配策略是影响目标检测准确性的关键因...
注意力机制已经成为深度学习模型，尤其是卷积神经网络（CNN）中不可或缺的组成部分。通过使模型能够选择性地关注输入数据中最相关的部分...
贵州，人杰地灵，其中黔灵山更是有着「黔南第一山」的称呼。然而最近，黔灵山可谓是热闹非凡，许多猴子在此聚居，而「小钱」是其中的「...
这个8月，是属于“天命人”的。我身边无数平时不太接触单机游戏的朋友，都在最近加入了《黑神话：悟空》的浪潮。但游戏并不太低的难度，也...
在人工智能领域，多模态数据处理一直是个难题。面对复杂的 PDF、网页和多种格式电子书，有效提取关键信息并非易事。
在机器学习和深度学习项目中,数据处理是至关重要的一环。PyTorch作为一个强大的深度学习框架,提供了多种灵活且高效的数据处理工具。本文...
《流浪地球》中，科学家利用木星的“引力弹弓”效应，为地球加速，成功脱离危机，是整部电影最激动人心的高潮段落。
计算机算数是计算机工程的一个重要分支，现代计算类的软件多是构造在浮点运算之上的。了解浮点数和浮点运算对于我们理计算类任务，提升...
本文介绍如何用 Relay 构建图卷积网络（GCN）。本教程演示在 Cora 数据集上运行 GCN。Cora 数据集是图神经网络（GNN）的 benchmark，同...
以史观今，一直以来，人们从未停止对历史史实的探寻，而文字无疑是历代文明存活的最佳印记，更是了解其发展历程的途径。甲骨文 (OBS) 是...
给定一个模型架构、数据类型、输入形状和优化器,你能否计算出前向传播和反向传播所需的GPU内存量?要回答这个问题,我们需要将流程分解为...
近日，上海交通大学 AI for Bioengineering 暑期学校完美落幕，百余名来自企业、研究机构、高校的行业专家、企业界代表及优秀青年学者共...
金秋9月的第一周，两场科技领域的盛会将在北京隆重举行。9月3-4日，2024开放数据中心大会将在北京国际会议中心举办，届时，众多顶尖专家...
在vllm里面看到flash attention包了一层@torch.library.custom_op装饰器（[链接]），查阅了一下资料，发现这个是torch 2.4之后的新featu...
随着多代理系统的出现,强化学习的复杂性不断增加。为了管理这种复杂性,像 TorchRL 这样的专门工具提供了一个强大的框架,可以开发和实验...
记得前两年，我参加某AI活动，一位国家电网的专家分享道：“领导嘱托我一定要来跟大家做一个分享，电力行业虽然已经有百年传统，但我们国...
为了引出什么是 RAG，先看一下 LLM 当前存在的问题：幻觉、过时的知识、不透明无法追踪的推理过程
地瓜机器人新一代机器人开发者套件RDK X5，搭载旭日5智能计算方案，极简机器人开发体验，助力机器人开发一步通关（更多产品信息请关注20...
时间序列是一种特殊的存在。这意味着你对表格数据或图像进行的许多转换/操作/处理技术对于时间序列来说可能根本不起作用。
近期，一款叫《黑神话：悟空》的国产游戏突然在全网“刷屏”了，作为中国首个真正意义上的国产3A游戏大作，《黑神话：悟空》自全球发售以...
AI 应用
安谋科技自研产品
Arm 计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
智东西
