理想三旬 · 9月22日 · 香港

【SiRider S1芯擎工业开发板测评】+SiRider S1运行通义千问大模型

1.前言

非常荣幸能够获得SiRider S1芯擎工业开发板测评机会。SiRider S1 是 Radxa 与芯擎科技及安谋科技联合推出工业单板计算机,融合芯擎科技的工业级 “龍鹰一号” 7nm AIoT应用处理器SE1000-I,安谋科技自研“周易”NPU。开发参数如下,看着挺强,不过目前资料还比较少。本次就开发板运行通义千问大模型进行测试。
image.png

2.实现步骤

2.1自动下载

下载Ollama可以访问官网,https://ollama.com/,会出现一个链接,根据这个链接下载执行就行了,但是下载比较慢
image.png
安装命令:
$ sudo apt install curl
$ curl -fsSL https://ollama.com/install.sh | sh
需要等很长时间,建议手动安装。同时还可能存在其他问题,比如空间大小等,通过手动下载可以调整脚本中的安装路径。

2.2手动安装

手动安装先建立一个ollma文件,手动下载 https://ollama.com/install.sh 这个文件:
$ sudo mkdir ollama
cd ollama
$ sudo wget https://ollama.com/install.sh
手动注释掉以下内容,如下所示:
image.png
接下俩注释掉#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama,修改为如下所示:
image.png
手动下载https://ollama.com/download/o...,去浏览器下载很快,几下就下载完了。放在install.sh文件夹,sh ./install.sh进行安装,启动 ollama serve
image.png
拉取模型:
image.png

2.3演示

完成后启动,ollama run qwen,简单测试:
image.png

推荐阅读
关注数
10419
内容数
80
搭载基于安谋科技自研“周易”NPU的芯擎科技工业级“龍鹰一号”SE1000-I处理器
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息