嵌入式应用无处不在，从消费电子到工业控制，让智能化生活触手可及。然而，在便利的背后，安全威胁也在不断增加，针对电子设备的安全攻...
今年一月份，聆思极术社区启动的【免费试用】聆思大模型AI开发套件评测申请 活动受到了很多开发者小伙伴的关注，经过报名筛选最终有36位...
重点：• 全新 Arm Ethos-U85 NPU 性能提升四倍，为工厂自动化和商用或智能家居摄像头等高性能边缘 AI 应用提供有力的支持。• 全新 Arm ...
FlashAttention（FA）是一系列针对Transformer模型训练和推理加速方案。自从去年（2022年）五月发布以来，历经了多次迭代，并借着其节省...
Continuous Batching现已成为大型模型推理框架的关键技术，也是框架性能优化的主战场。通过将多个在线请求进行批处理（Batching），可以...
本次公开课为极术社区2024年大模型系列第一场公开课，由安谋科技技术专家Alex Shang分享。 公开课探讨了大模型及生成式AI出现对智能物联...
大模型时代，根据大模型缩放定律，大家通常都在追求模型的参数规模更大、训练的数据更多，从而使得大模型涌现出更多的智能。但是，模型...
视频中，我们将深入了解利用GPU加速在Orange Pi 5上跑LLMs的精彩世界。最近知乎上的一篇文章《利用GPU加速，在Orange Pi上跑LLMs》引起...
深度学习已成为许多机器学习应⽤程序不可或缺的⼀部分，现在可以在⽆数电⼦设备和服务中找到，从智能⼿机和家⽤电器到⽆⼈机、机器⼈和...
MNN(Mobile Neural Network)是一个高性能、通用的深度学习框架，支持在移动端、PC端、服务端、嵌入式等各种设备上高效运行。MNN利用设备...
聆思大模型 AI 开发套件（CSK6-MIX）不仅提供了完善的多模态大模型调用功能，还提供了丰富的本地外设接口，可以通过端侧结合大模型来实...
Agents这一模块在langchain的使用过程中也是十分重要的，官方文档是这样定义它的“The core idea of agents is to use a language model ...
本文为笔者学习LangChain时对官方文档以及一系列资料进行一些总结～覆盖对Langchain的核心六大模块的理解与核心使用方法，全文篇幅较长...
手势识别方面，通过头肩检测识别用户的手势，返回当前目标的手势、得分等。 支持 5 种手势，分别为 LIKE(👍)、OK(👌)、STOP(🤚)、YES(✌️)、...
于是我很想验证这个“说法”，所以我决定在我的 Raspberry Pi 4 上使用 Ollama 本地运行大语言模型。
采用kaggle上的猴子数据集，包含两个文件：训练集和验证集。每个文件夹包含10个标记为n0-n9的猴子。图像尺寸为400x300像素或更大，并且...
LLaMA全称是Large Language Model Meta AI，是由Meta AI研究人员发布的一个预训练语言模型。与最近爆火的ChatGPT相比，LLaMA架构更小，...
在这个万物互联的时代，数据安全的“飓风”正在袭来。随着集成电路的广泛应用，安全问题也日益凸显。从芯片漏洞到硬件攻击，这些问题都给...
随着移动计算技术的迅速发展，在移动设备上部署高效的目标检测算法成为计算机视觉领域的一个关键研究点。本研究聚焦于优化YOLOv7算法，...
计算机对浮点数的表示都是对真实实数的近似，计算机系统必须小心计算机算术和真实世界算术的差距，程序员也务必小心近似值的含义。
