1.前言
非常荣幸能够获得SiRider S1芯擎工业开发板测评机会。SiRider S1 是 Radxa 与芯擎科技及安谋科技联合推出工业单板计算机,融合芯擎科技的工业级 “龍鹰一号” 7nm AIoT应用处理器SE1000-I,安谋科技自研“周易”NPU。开发参数如下,看着挺强,不过目前资料还比较少。本次就开发板运行通义千问大模型进行测试。
2.实现步骤
2.1自动下载
下载Ollama可以访问官网,https://ollama.com/,会出现一个链接,根据这个链接下载执行就行了,但是下载比较慢
安装命令:
$ sudo apt install curl
$ curl -fsSL https://ollama.com/install.sh | sh
需要等很长时间,建议手动安装。同时还可能存在其他问题,比如空间大小等,通过手动下载可以调整脚本中的安装路径。
2.2手动安装
手动安装先建立一个ollma文件,手动下载 https://ollama.com/install.sh 这个文件:
$ sudo mkdir ollama
cd ollama
$ sudo wget https://ollama.com/install.sh
手动注释掉以下内容,如下所示:
接下俩注释掉#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama,修改为如下所示:
手动下载https://ollama.com/download/o...,去浏览器下载很快,几下就下载完了。放在install.sh文件夹,sh ./install.sh进行安装,启动 ollama serve
拉取模型:
2.3演示
完成后启动,ollama run qwen,简单测试: