衰老，从古至今困扰了无数仁人志士。无论是千古一帝秦始皇，还是雄才大略汉武帝，亦或者挥斥方遒唐太宗，这些伟大的帝王无一例外的都留...
本篇文章与2023年底尝试挖掘并探寻以chatGPT为代表的LLM和以AlphaGO/AlphaZero及当下AlphaDev为代表的RL思想的背后底层理论及形式上的统...
Text-to-SQL（或者Text2SQL），顾名思义就是把文本转化为SQL语言，更学术一点的定义是：把数据库领域下的自然语言（Natural Language，N...
根据国家卫生健康委员会发布的《卵巢癌诊疗指南（2022 版）》，我国卵巢癌年发病率居女性生殖系统肿瘤第 3 位，仅次于子宫颈癌和子宫体...
在本篇文章我们将详细讨论推测解码，这是一种可以将LLM推理速度提高约2 - 3倍而不降低任何准确性的方法。我们还将会介绍推测解码代码实...
AiStudio是一个很好的学习平台，我相信无时无刻都有很多像我一样的小白出于对人工智能的兴趣，而汇聚在这里。这一次，我想做一个入门级...
【导读】近日，天才程序员Justine Tunney发推表示自己更新了Llamafile的代码，通过手搓84个新的矩阵乘法内核，将Llama的推理速度提高了5...
提到这个有些高大上的名词，大多数人的反应或许是，它们是属于政府机构和企业的事儿，跟个人的关系不大。其实，你我每天都会使用到的终...
世界是复杂的，没有人知道未来会怎样，但如果单纯从技术的角度，我们总是能够沿着技术发展的路径，找到一些主导未来趋势的脉络。
今年一月份，聆思极术社区启动的【免费试用】聆思大模型AI开发套件评测申请 活动受到了很多开发者小伙伴的关注，经过报名筛选最终有36位...
AI换脸，也称为“深度伪造”（Deepfake），是一种利用人工智能技术将人脸替换到另一个人的脸部上的技术。“深度伪造”技术涉及多种技术和算...
重点：• 全新 Arm Ethos-U85 NPU 性能提升四倍，为工厂自动化和商用或智能家居摄像头等高性能边缘 AI 应用提供有力的支持。• 全新 Arm ...
2024 年 2 月，OpenAI 又一次站在了镁光灯下，Sora 横空出世并引发热烈讨论，「文生视频」的热潮被那段 60 秒的展示视频再度推高，也使...
FlashAttention（FA）是一系列针对Transformer模型训练和推理加速方案。自从去年（2022年）五月发布以来，历经了多次迭代，并借着其节省...
在腾势 N7 上市 9 个月后，一个普通的愚人节夜晚，7000 多位老车主迎来了降价 7 万的「全新腾势N7」。
最近，Redis 从开放源代码的 BSD 许可证过渡到了更加限制性的 Server Side Public License (SSPLv1)。一石激起千层浪，Redis 的这一举动...
在过去的几十年里，由于经济发展和城市化，废弃物产生的速度激增。废弃物数量的上升对世界各国政府在有效处理和管理方面提出了重大挑战...
生成式人工智能（AIGC）已然成为了全球科技行业最热门的领域，对于亚马逊而言，一方面加大了投资，一方面正在加紧自研模型，这能否让其...
今天，我们身处的时间节点，是新工业革命的肇始。以AI、云计算、物联网、大数据等ICT技术为核心的数字浪潮，正引发一场全球范围内的生产...
工业世界里，高纯气体被广泛应用于半导体制造、光纤生产、科学研究、医疗健康、环保能源等诸多领域。例如，半导体行业，高纯气体是芯片...
如果你一直在关注大型语言模型的架构，你可能会在最新的模型和研究论文中看到“SwiGLU”这个词。SwiGLU可以说是在大语言模型中最常用到的...
Continuous Batching现已成为大型模型推理框架的关键技术，也是框架性能优化的主战场。通过将多个在线请求进行批处理（Batching），可以...
就在几个月前，生成式人工智能还只是对未来可能性的承诺。今天，几乎每个有一丝好奇心的人都尝试过 ChatGPT。大多数人都对它的功能印象...
随着产业界对模型落地的态度逐渐回归理性，企业客户的认知从原来的“觉得大模型什么都能做”的阶段，已经收敛到“大模型能够给自身业务带来...
2023年是大模型蓬勃发展的一年。据统计，截至2023年10月，中国大模型创新主体共254家，分布于20余个省市和地区。截止到目前，国内公布的...
近两年来，大模型的热度持续高涨，并且开始在更广泛的领域进行落地探索。随着行业整体的快速发展，越来越多的开源大模型涌入市场，进一...
去年十月，美商务部禁令的出现，使中国客户无法使用NVIDIA H100/H200旗舰芯片。一时间，各种NV存货、中国限定卡型、其他厂商NPU纷至沓来...
大模型是一种利用海量数据进行训练的深度神经网络模型，其特点是拥有庞大的参数规模和复杂的计算结构。通过在大规模数据集上进行训练，...
归一化层是深度神经网络体系结构中的关键，在训练过程中确保各层的输入分布一致，这对于高效和稳定的学习至关重要。归一化技术的选择（B...
今年的《政府工作报告》中，“大力推进现代化产业体系建设，加快发展新质生产力”，被列为2024年十大工作任务之首。
AI 应用
安谋科技自研产品
Arm 计算
SoC 芯片设计
IoT 与嵌入式
教育与职场
全球资源
SegmentFault
移知
安芯教育
InfoQ
深圳湾
脑极体
甲子光年
半导体行业观察
爱集微
E 企研究院
CSDN
全志在线
智东西
