部署New API管理AI模型
部署New API管理AI模型

部署New API管理AI模型

Github地址:https://github.com/Calcium-Ion/new-api

基于 Docker 进行部署

docker run --name new-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/new-api:/data calciumion/new-api:latest

默认账号root 密码123456

安装宝塔面板,并添加反向代理,代理名称填New API,目标URL填http://IP:3000

进入New API后台,点击令牌->添加令牌,输入名称,点击永不过期和设为无限额度并提交。

选择令牌并复制所选令牌到剪贴板,令牌为sk-开头的一串字符。

点击渠道->添加渠道,选择类型为OpenAI,为渠道命名,分组选default,填入自定义模型名称,比如gpt-3.5-turbo和gpt-4ox6,模型重定向:

{
"gpt-4ox6": "gpt-4o"
}

密钥填none,代理填https://finechat.zhucn.org,然后点击提交。

最后点击测试,看是否成功。

http://192.9.134.96:3000/是我的New API,我的New API的完整请求地址http://192.9.134.96:3000/v1/chat/completions
,我在渠道里添加了他给的地址和密钥,当云崽请求http://192.9.134.96:3000/v1/chat/completions时,然后New API接收到请求后,根据模型名称,寻找到渠道和对应模型,并请求https://finechat.zhucn.org,然后将响应转发给云崽。

客户端->New API->目标服务器->New API->客户端

进入云崽锅巴面板,打开ChatGPT-Plugin,找到以下为API方式(默认)的配置:

OpenAI API Key填之前复制的令牌,OpenAI 模型填gpt-3.5-turbo或gpt-4ox6,OpenAI API服务器地址填http://192.9.134.96:3000/v1/,勾选强制使用OpenAI反代。

这里提供随心大佬的New API网站:https://suixinweb.top/

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

Title - Artist
0:00