🎯 本文目标:在星睿O6上运行智谱AI视觉大模型,测试GLM-Edge视觉系列和GLM-4V系列的多模态能力,验证ARM设备上的图像理解和分析功能。
🎯 本文目标:为llama.cpp和chatglm.cpp部署Web服务与OpenAI兼容API,构建完整的AI服务生态系统,实现真正的产品化部署,让星睿O6成为可...
🎯 本文目标:在星睿O6上部署CodeGeeX2实现智能代码生成,完成整个智谱AI全栈大模型生态系统的构建,让星睿O6成为真正的AI开发工作站。
🎯 本文目标:在星睿O6上基于chatglm.cpp框架运行智谱AI文本大模型,对比llama.cpp的性能差异,重点测试GLM系列模型在专用框架上的优化效...
🎯 本文目标:在星睿O6上基于llama.cpp框架运行智谱AI文本大模型,包括GLM-Edge系列、GLM-4系列和最新的GLM-4.6V-Flash模型,进行全面的...
🎯 本文目标:将chatglm.cpp环境部署到星睿O6开发板,专门针对GLM系列模型进行优化,在ARM设备上实现更高的运行效率和更低的内存占用。
🎯 本文目标:将llama.cpp环境迁移到星睿O6开发板,并针对ARMv9架构进行专门优化配置,充分发挥硬件性能。
🎯 本文目标:在PC上搭建chatglm.cpp推理环境,这是专为GLM系列模型优化的推理框架,在星睿O6上运行时内存使用更高效,对话体验更流畅。
🎯 本文目标:在PC上搭建llama.cpp推理环境,为后续模型格式转换和量化处理做准备。这是整个部署流程的第一步,为星睿O6上的大模型运行奠...
🎯 本系列文章的核心价值:经过深入研究和实践,在星睿O6 ARM开发板上成功部署了完整的智谱AI大模型生态系统,包括文本生成、视觉理解、...
在Radxa官方文档Orion O6此芯 SDK获取源代码页面,提示“SDK 在容器内运行时可能会遇到权限问题,建议使用实体机或虚拟机进行编译”。但我...
本文以 YOLOv8-L 模型为例,系统讲解其从 ONNX 模型到 NPU 支持的cix格式的完整编译与推理流程。
本文记录了在 Orion o6 平台上,运行官方 cix_ai_model_hub 中的模型时的步骤以及碰到的问题,包括以下内容:
whisper.cpp 是一个基于 C/C++ 实现的轻量级开源语音识别库,旨在让 OpenAI 的 Whisper 模型能够在各种设备(包括嵌入式系统、边缘设备...
之前我们介绍了如何通过采集卡来安装系统,但是有的时候分辨率很低,采集卡看到的画面很糊。今天我们介绍另外一种方式来安装系统。使用...
本文主要描述如何在 Radxa Orion O6 上使用 llama.cpp 部署 Deepseek R1 模型,包含以下内容:
随着大语言模型(LLM)的迅速发展,AI 不再只是“会聊天”的工具,而是能够理解、推理并生成多模态内容的智能体。本文将基于Orion O6平台...
关于此芯Armv9 AI PC开发套件瑞莎“星睿O6”评测第二期,经过严格的评估和筛选,最终试用测评名单已公布如下,恭喜各位开发者!安谋科技会...
O6搭载的CIX P1 12核Armv9处理器配合30TOPS算力的NPU和高性能GPU,非常适合AI模型端侧部署。阿里云文字识别OCR(读光OCR),是一款由阿...
本期直播为极术社区2025年推出的此芯AI PC开发套件瑞莎“星睿O6”系列第四场公开课。本期安谋科技资深技术专家聚焦“星睿O6”开发套件,重点...