Overview部分主要介绍了长上下文Transformer模型及其相关应用的几个主题。具体内容如下：
在深度学习和计算机视觉领域，数据增强已成为提高模型性能和泛化能力的关键技术。本文旨在全面介绍当前广泛使用的图像数据增强库，分析...
在「Meet AI4S」系列直播第三期中，我们有幸邀请到了上海交通大学自然科学研究院 & 上海国家应用数学中心博士后周子宜， 他所在的上海交...
在人工智能快速发展的今天，如何有效利用大型语言模型（LLMs）成为了一个普遍关注的话题。这是9月份的一篇论文，提出了LangGPT结构化提...
2020 年，谷歌发表了一篇具有里程碑意义的预印本论文「Chip Placement with Deep Reinforcement Learning」，首次向世界展示了其采用新...
在深度学习模型的训练过程中，学习率作为一个关键的超参数，对模型的收敛速度和最终性能有着重大影响。传统方法通常采用统一的学习率，...
外行看热闹，内行看门道，这句话在医学影像领域可谓是绝对真理。不仅如此，即便身为内行人，要想在复杂的 X 光片、CT 光片或 MRI 等医学...
如果说 OpenAI 的 ChatGPT 拉开了「百模大战」的序幕，那 Meta 的 Ray-Ban Meta 智能眼镜无疑是触发「百镜大战」的导火索。自去年 9 月...
图灵奖得主 Jim Gray 曾划分了科学研究的四大范式，即实验科学、理论科学、计算科学与数据密集型科学。近年来，随着 AI 的爆发式发展，...
大家好我是🐧小弟，🐦了巨久之后今天继续带来一期基础的深度学习模型部署的入门文章，随着上一期讲完 torch 的一些基础知识之后。这一期带...
大语言模型(LLM)的推理能力可以通过测试时聚合策略来改进,即为每个问题生成多个样本并对它们进行聚合以找到更好的答案。这些方法往往会...
在深度学习训练过程中，学习率调度器扮演着至关重要的角色。这主要是因为在训练的不同阶段，模型的学习动态会发生显著变化。
蛋白质是生命活动的主要执行者，其结构与功能之间的关系一直是生命科学领域研究的核心议题。近年来，随着深度学习的兴起，借助其强大的...
这是9月发布的一篇论文，Pagliardini等人在其论文中提出了一种新的优化算法——AdEMAMix。这种算法旨在解决当前广泛使用的Adam及其变体（...
北京时间 9 月 26 日凌晨 1 点（美国时间 9 月 25 日上午 10 点），Meta Connect 2024 年度开发者大会即将举行。 届时，Meta 首席执行官...
在当代深度学习领域，PyTorch 已成为开发和训练神经网络的主要框架之一。然而随着模型复杂度的增加和数据规模的扩大，开发者常常面临各...
Claude3.5sonnet简单介绍：Claude 3.5 Sonnet是Anthropic公司开发的先进人工智能语言模型,是Claude系列的最新版本之一。它具有强大的自...
近年来，扩散模型在文生图任务中得到了广泛的应用，但其在实现高质量图像生成的过程中，通常需要多步推理进行去噪，这显然大大增加了计...
人类大脑是自然界中最复杂和神秘的信息处理系统之一，其约 1.4 千克的微小重量，仅占身体重量的 2%，却奇迹般地消耗了人们体内约 20% 的...
2014 年 8 月，美国俄亥俄州托莱多市超 50 万名居民突然收到市政府的一则紧急通知——不得擅自饮用自来水！
近年来,Vision Transformer(ViT)在计算机视觉领域取得了巨大突破。然而ViT模型通常计算复杂度高,难以在资源受限的移动设备上部署。为了...
本文将介绍MemLong，这是一种创新的长文本语言模型生成方法。MemLong通过整合外部检索器来增强模型处理长上下文的能力，从而显著提升了...
长久以来，从艺术风格多样化的 Midjourney，到背靠 OpenAI 的 DALL-E，再到开源的 Stable Diffusion（简称 SD），文生图模型的生成质量...
Kolmogorov-Arnold网络（KAN）的提出为深度学习领域带来了重要突破，它作为多层感知器（MLP）的一种替代方案，展现了新的可能性。MLP作...
本文继续深入探讨蒙特卡罗 (MC)方法。这些方法的特点是能够仅从经验中学习,不需要任何环境模型,这与动态规划(DP)方法形成对比。
在科技浪潮是推动下，传统农业正经历一场智能化变革。作为现代农业的「千里眼」，农业遥感通过收集卫星和无人机等平台的遥感数据，被广...
大型语言模型（LLMs）作为一种生成式AI技术，在近两年内获得了显著的关注和应用。但是在实际部署中，LLMs的知识局限性和幻觉问题仍然是...
通过探索看似不相关的大语言模型(LLM)架构之间的潜在联系,我们可能为促进不同模型间的思想交流和提高整体效率开辟新的途径。
今年 6 月，苹果在 WDDC 上正式推出 Apple Intelligence。消息发布次日，苹果股价在盘中突破 200 美元大关，创 2022 年 11 月 10 日以来...
蛋白质是构成生命的物质基础，是生命活动的主要承担者。在后基因组时代，随着蛋白质测定技术的发展，蛋白质序列数据库规模呈爆炸式增长...
AI 应用
安谋科技自研产品
Arm 计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
智东西
