实操把文心一言接入聆思CSK6大模型开发板（上）

前言

多模态交互离不开硬件载体，近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型，能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型，这个是必须支持的。但由于各家接口和数据格式不一样，有些朋友直接参考chatgpt的方式没有走通，因此本篇以聆思CSK6大模型开发板接入文心一言为例，分享具体的接入步骤，大家按照文档步骤操作即可。

由上图可见，官方当前SDK方案是把开发套件当做输入端，文字或图片内容先上传到聆思的大模型平台（LSPlatform），然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能，我们如果要使用其他大模型，只需要从云端更改大模型接入节点，而无需去修改硬件端。

实操接入文心一言

1.新建应用

登录LSplatform，新建一个空应用，进入应用编排服务。

2.导入工程

1.下载工程示例： https://pan.baidu.com/s/1kCu0...
2.导入工程示例：选择文心一言js.json文件进行导入。

3.配置参数

1.修改文心一言子流程节点参数，双击文心一言子流程节点，可以看到可配置的参数，这里主要需要修改API-KEY Host Model Stream等参数，修改完成后点击完成即可。

配置参数

（1）API-KEY：调用aip.baidubce的access_token(文心一言需要用access_token鉴权访问调用api，获取方法：获取access_token - 千帆大模型平台 | 百度智能云文档）
（2）Host：可通过百度云文档来查看所要调用模型的Host ERNIE-4.0-Turbo-8K - 千帆大模型平台 | 百度智能云文档
（3）Model：提供ERNIE-3.5-8K/ERNIE-4.0-8K可选择，可自行添加更多模型选项。
（4）Stream：是否流式返回
文心一言子流程节点默认封装了访问aip.baidubce的v1/wenxinworkshop/chat/completions_pro接口，若需要调用aip.baidubce其他接口则需要修改子流程节点代码。
2.修改Prompt节点提示词内容（可选），根据需要修改提示词的内容。

4.部署验证

   在完成参数配置，进入完整体验之前，我们可以简单测试验证，验证是否成功调用文心一言。

（1）部署应用

   部署成功以后先关闭当前编排服务

（2）重启应用

   由于导入的工程示例中导入了axios包，需要重启以确保应用依赖的包完成安装。重启完成以后重新进入编排服务。

（3）测试接口，

        点击注入节点，会触发一次文心一言子流程调用，观察调试节点输出日志是否正常。

至此，可以确认文心一言接入成功。如果要在硬件上验证文心一言的交互效果可以借助聆思官方提供的聆思CSK6大模型开发板（https://docs2.listenai.com/x/...），绑定开发板硬件的操作可以参考官方文档： https://docs2.listenai.com/x/...

前言