大模型作为产业变革的核心引擎。通过 RAG、Agent 与多模态技术正在重塑 AI 与现实的交互边界。三者协同演进，不仅攻克了数据时效性、专...
在数字经济蓬勃发展与国家“新基建”战略推动下，交通行业转型升级势头强劲，众多交通领域企业搭乘数智化快车，借助云计算、人工智能等新...
Arm KleidiAI是一个利用arm CPU向量扩展指令（包括NEON MLA, dot product, i8mm矩阵乘，SME2 outer product, SME2 multi-vector等）加速...
笔者一直想找个开源的推理引擎框架学习一下源代码，机缘巧合认识了 sglang 社区的朋友，于是也参与了一些sglang的code walk through。本...
在经历了“人工智障”、“答非所问”、“一问三不知”等诸多客服困境后，AI大模型的出现让企业仿佛瞬间等到了春天。
最近大型语言模型的进展，激发了人们将它们应用于电子设计自动化（EDA，即利用软件工具辅助设计电子系统，比如芯片设计）任务的兴趣，特...
近年来，多模态预训练模型如雨后春笋般涌现，其中 OpenAI 的 CLIP 凭借其简洁的对比学习框架和强大的零样本迁移能力，无疑是里程碑式的...
Apache TVM 是一个深度的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。更多 TVM 中文文档可访问 →[链接]
vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。
Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境，以高效编写自定义 DNN 计算内核，并能够在现代 GPU ...
随着电动汽车和电子设备等行业的迅猛发展，高性能电池需求呈现出井喷式增长。作为下一代储能技术的核心，固态电池凭借更高的安全性、能...
使用扣子生成一个角色扮演机器人也是挺简单的，我们需要先在个人空间里先创建一个智能体，操作如下图，点击工作空间，然后再点击右上角...
DeepSeek 是一个广受欢迎的开源大型语言模型 (LLM)，因其强大的性能而备受赞誉。然而，由于其庞大的规模和独特的架构（采用多头潜在注意...
1.1. LLM和DeepSeek是什么大语言模型（LLM）是基于深度学习的人工智能技术，通过海量文本数据训练，采用Transformer架构实现自然语...
病理图像包含了丰富的表型信息，依据病理图像进行病理诊断被广泛视为癌症诊断的「黄金标准」。其中，全视野切片图像 (Whole Slide Image...
本文来自：[链接] ，由 GiantPandaLLM 翻译和 Repost。作者是来自 Linkedin 的 Biaoh He && Qingquan Song .
基于 Transformer 的模型（一种多头自注意力机制的神经网络架构）是高性能大型语言模型（LLMs）的核心，但它们相较于传统的深度神经网络...
星瑞 O6 的 AI 能力依托先进的技术架构得以展现。其采用 Armv9 架构，集成了 Arm®v9 CPU 核心、Arm Immortalis™ GPU 以及安谋科技 “周易...
清华大学 AIR GenSI 研究组联合清华大学药学院共同提出了一种用于蛋白质家族特异性生成建模的工具——ProfileBFN（即轮廓贝叶斯流网络）。...
人工智能，尤其是大型语言模型（LLMs），已经深刻地改变了我们日常的工作和交流方式。然而，由于计算密集型需求、繁重的内存访问、多样...
