前言

FastGPT 默认使用了 OpenAI 的 LLM 模型和语音识别模型,如果想要私有化部署的话,可以使用openai 开源模型Whisper。参考文章 《openai 开源模型Whisper语音转文本模型下载使用》

开源项目地址 :
兼容openai接口api服务 http://gitee.com/taisan/whisper-api

设置安全凭证(即oneapi中的渠道密钥)

默认值:sk-tarzan
也可以通过环境变量引入:sk-key。有关docker环境变量引入的方法请自寻教程,此处不再赘述。
接入 One API
为 Whisper1添加一个渠道,参数如下:
Fastgpt接入Whisper本地模型实现语音输入插图

接入 FastGPT

修改 config.json 配置文件,在 llmModels 中加入 qwen-plus, 在 vectorModels 中加入 M3E 模型, 在 whisperModel中加入 openai的开源模型Whisper :

{
   
  
本站无任何商业行为
个人在线分享 » Fastgpt接入Whisper本地模型实现语音输入
E-->