Update docker-compose.yml
This commit is contained in:
Yiming Liu
GitHub
parent
a88b119bf0
commit
313e0f068a
|
|
@ -27,52 +27,6 @@
|
||||||
## ===================================================
|
## ===================================================
|
||||||
## 「方案零」 部署项目的全部能力（这个是包含cuda和latex的大型镜像。如果您网速慢、硬盘小或没有显卡，则不推荐使用这个）
|
## 「方案零」 部署项目的全部能力（这个是包含cuda和latex的大型镜像。如果您网速慢、硬盘小或没有显卡，则不推荐使用这个）
|
||||||
## ===================================================
|
## ===================================================
|
||||||
version: '3'
|
|
||||||
services:
|
|
||||||
gpt_academic_full_capability:
|
|
||||||
image: ghcr.io/binary-husky/gpt_academic_with_all_capacity:master
|
|
||||||
environment:
|
|
||||||
# 请查阅 `config.py`或者 github wiki 以查看所有的配置信息
|
|
||||||
API_KEY: ' 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 '
|
|
||||||
# USE_PROXY: ' True '
|
|
||||||
# proxies: ' { "http": "http://localhost:10881", "https": "http://localhost:10881", } '
|
|
||||||
LLM_MODEL: ' gpt-3.5-turbo '
|
|
||||||
AVAIL_LLM_MODELS: ' ["gpt-3.5-turbo", "gpt-4", "qianfan", "sparkv2", "spark", "chatglm"] '
|
|
||||||
BAIDU_CLOUD_API_KEY : ' bTUtwEAveBrQipEowUvDwYWq '
|
|
||||||
BAIDU_CLOUD_SECRET_KEY : ' jqXtLvXiVw6UNdjliATTS61rllG8Iuni '
|
|
||||||
XFYUN_APPID: ' 53a8d816 '
|
|
||||||
XFYUN_API_SECRET: ' MjMxNDQ4NDE4MzM0OSNlNjQ2NTlhMTkx '
|
|
||||||
XFYUN_API_KEY: ' 95ccdec285364869d17b33e75ee96447 '
|
|
||||||
ENABLE_AUDIO: ' False '
|
|
||||||
DEFAULT_WORKER_NUM: ' 20 '
|
|
||||||
WEB_PORT: ' 12345 '
|
|
||||||
ADD_WAIFU: ' False '
|
|
||||||
ALIYUN_APPKEY: ' RxPlZrM88DnAFkZK '
|
|
||||||
THEME: ' Chuanhu-Small-and-Beautiful '
|
|
||||||
ALIYUN_ACCESSKEY: ' LTAI5t6BrFUzxRXVGUWnekh1 '
|
|
||||||
ALIYUN_SECRET: ' eHmI20SVWIwQZxCiTD2bGQVspP9i68 '
|
|
||||||
# LOCAL_MODEL_DEVICE: ' cuda '
|
|
||||||
|
|
||||||
# 加载英伟达显卡运行时
|
|
||||||
# runtime: nvidia
|
|
||||||
# deploy:
|
|
||||||
# resources:
|
|
||||||
# reservations:
|
|
||||||
# devices:
|
|
||||||
# - driver: nvidia
|
|
||||||
# count: 1
|
|
||||||
# capabilities: [gpu]
|
|
||||||
|
|
||||||
# 「WEB_PORT暴露方法1: 适用于Linux」与宿主的网络融合
|
|
||||||
network_mode: "host"
|
|
||||||
|
|
||||||
# 「WEB_PORT暴露方法2: 适用于所有系统」端口映射
|
|
||||||
# ports:
|
|
||||||
# - "12345:12345" # 12345必须与WEB_PORT相互对应
|
|
||||||
|
|
||||||
# 启动容器后，运行main.py主程序
|
|
||||||
command: >
|
|
||||||
bash -c "python3 -u main.py"
|
|
||||||
|
|
||||||
|
|
||||||
## ===================================================
|
## ===================================================
|
||||||
|
|
@ -106,128 +60,4 @@ services:
|
||||||
### ===================================================
|
### ===================================================
|
||||||
### 「方案二」 如果需要运行ChatGLM + Qwen + MOSS等本地模型
|
### 「方案二」 如果需要运行ChatGLM + Qwen + MOSS等本地模型
|
||||||
### ===================================================
|
### ===================================================
|
||||||
version: '3'
|
|
||||||
services:
|
|
||||||
gpt_academic_with_chatglm:
|
|
||||||
image: ghcr.io/binary-husky/gpt_academic_chatglm_moss:master # (Auto Built by Dockerfile: docs/Dockerfile+ChatGLM)
|
|
||||||
environment:
|
|
||||||
# 请查阅 `config.py` 以查看所有的配置信息
|
|
||||||
API_KEY: ' sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx '
|
|
||||||
USE_PROXY: ' True '
|
|
||||||
proxies: ' { "http": "socks5h://localhost:10880", "https": "socks5h://localhost:10880", } '
|
|
||||||
LLM_MODEL: ' gpt-3.5-turbo '
|
|
||||||
AVAIL_LLM_MODELS: ' ["chatglm", "qwen", "moss", "gpt-3.5-turbo", "gpt-4", "newbing"] '
|
|
||||||
LOCAL_MODEL_DEVICE: ' cuda '
|
|
||||||
DEFAULT_WORKER_NUM: ' 10 '
|
|
||||||
WEB_PORT: ' 12303 '
|
|
||||||
ADD_WAIFU: ' True '
|
|
||||||
# AUTHENTICATION: ' [("username", "passwd"), ("username2", "passwd2")] '
|
|
||||||
|
|
||||||
# 显卡的使用，nvidia0指第0个GPU
|
|
||||||
runtime: nvidia
|
|
||||||
devices:
|
|
||||||
- /dev/nvidia0:/dev/nvidia0
|
|
||||||
|
|
||||||
# 「WEB_PORT暴露方法1: 适用于Linux」与宿主的网络融合
|
|
||||||
network_mode: "host"
|
|
||||||
|
|
||||||
# 启动命令
|
|
||||||
command: >
|
|
||||||
bash -c "python3 -u main.py"
|
|
||||||
|
|
||||||
# P.S. 通过对 command 进行微调，可以便捷地安装额外的依赖
|
|
||||||
# command: >
|
|
||||||
# bash -c "pip install -r request_llms/requirements_qwen.txt && python3 -u main.py"
|
|
||||||
|
|
||||||
|
|
||||||
### ===================================================
|
|
||||||
### 「方案三」 如果需要运行ChatGPT + LLAMA + 盘古 + RWKV本地模型
|
|
||||||
### ===================================================
|
|
||||||
version: '3'
|
|
||||||
services:
|
|
||||||
gpt_academic_with_rwkv:
|
|
||||||
image: ghcr.io/binary-husky/gpt_academic_jittorllms:master
|
|
||||||
environment:
|
|
||||||
# 请查阅 `config.py` 以查看所有的配置信息
|
|
||||||
API_KEY: ' sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx,fkxxxxxx-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx '
|
|
||||||
USE_PROXY: ' True '
|
|
||||||
proxies: ' { "http": "socks5h://localhost:10880", "https": "socks5h://localhost:10880", } '
|
|
||||||
LLM_MODEL: ' gpt-3.5-turbo '
|
|
||||||
AVAIL_LLM_MODELS: ' ["gpt-3.5-turbo", "newbing", "jittorllms_rwkv", "jittorllms_pangualpha", "jittorllms_llama"] '
|
|
||||||
LOCAL_MODEL_DEVICE: ' cuda '
|
|
||||||
DEFAULT_WORKER_NUM: ' 10 '
|
|
||||||
WEB_PORT: ' 12305 '
|
|
||||||
ADD_WAIFU: ' True '
|
|
||||||
# AUTHENTICATION: ' [("username", "passwd"), ("username2", "passwd2")] '
|
|
||||||
|
|
||||||
# 显卡的使用，nvidia0指第0个GPU
|
|
||||||
runtime: nvidia
|
|
||||||
devices:
|
|
||||||
- /dev/nvidia0:/dev/nvidia0
|
|
||||||
|
|
||||||
# 「WEB_PORT暴露方法1: 适用于Linux」与宿主的网络融合
|
|
||||||
network_mode: "host"
|
|
||||||
|
|
||||||
# 启动命令
|
|
||||||
command: >
|
|
||||||
python3 -u main.py
|
|
||||||
|
|
||||||
|
|
||||||
## ===================================================
|
|
||||||
## 「方案四」 ChatGPT + Latex
|
|
||||||
## ===================================================
|
|
||||||
version: '3'
|
|
||||||
services:
|
|
||||||
gpt_academic_with_latex:
|
|
||||||
image: ghcr.io/binary-husky/gpt_academic_with_latex:master # (Auto Built by Dockerfile: docs/GithubAction+NoLocal+Latex)
|
|
||||||
# 对于ARM64设备，请将以上镜像名称替换为 ghcr.io/binary-husky/gpt_academic_with_latex_arm:master
|
|
||||||
environment:
|
|
||||||
# 请查阅 `config.py` 以查看所有的配置信息
|
|
||||||
API_KEY: ' sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx '
|
|
||||||
USE_PROXY: ' True '
|
|
||||||
proxies: ' { "http": "socks5h://localhost:10880", "https": "socks5h://localhost:10880", } '
|
|
||||||
LLM_MODEL: ' gpt-3.5-turbo '
|
|
||||||
AVAIL_LLM_MODELS: ' ["gpt-3.5-turbo", "gpt-4"] '
|
|
||||||
LOCAL_MODEL_DEVICE: ' cuda '
|
|
||||||
DEFAULT_WORKER_NUM: ' 10 '
|
|
||||||
WEB_PORT: ' 12303 '
|
|
||||||
|
|
||||||
# 「WEB_PORT暴露方法1: 适用于Linux」与宿主的网络融合
|
|
||||||
network_mode: "host"
|
|
||||||
|
|
||||||
# 启动命令
|
|
||||||
command: >
|
|
||||||
bash -c "python3 -u main.py"
|
|
||||||
|
|
||||||
|
|
||||||
## ===================================================
|
|
||||||
## 「方案五」 ChatGPT + 语音助手 （请先阅读 docs/use_audio.md）
|
|
||||||
## ===================================================
|
|
||||||
version: '3'
|
|
||||||
services:
|
|
||||||
gpt_academic_with_audio:
|
|
||||||
image: ghcr.io/binary-husky/gpt_academic_audio_assistant:master
|
|
||||||
environment:
|
|
||||||
# 请查阅 `config.py` 以查看所有的配置信息
|
|
||||||
API_KEY: ' fk195831-IdP0Pb3W6DCMUIbQwVX6MsSiyxwqybyS '
|
|
||||||
USE_PROXY: ' False '
|
|
||||||
proxies: ' None '
|
|
||||||
LLM_MODEL: ' gpt-3.5-turbo '
|
|
||||||
AVAIL_LLM_MODELS: ' ["gpt-3.5-turbo", "gpt-4"] '
|
|
||||||
ENABLE_AUDIO: ' True '
|
|
||||||
LOCAL_MODEL_DEVICE: ' cuda '
|
|
||||||
DEFAULT_WORKER_NUM: ' 20 '
|
|
||||||
WEB_PORT: ' 12343 '
|
|
||||||
ADD_WAIFU: ' True '
|
|
||||||
THEME: ' Chuanhu-Small-and-Beautiful '
|
|
||||||
ALIYUN_APPKEY: ' RoP1ZrM84DnAFkZK '
|
|
||||||
ALIYUN_TOKEN: ' f37f30e0f9934c34a992f6f64f7eba4f '
|
|
||||||
# (无需填写) ALIYUN_ACCESSKEY: ' LTAI5q6BrFUzoRXVGUWnekh1 '
|
|
||||||
# (无需填写) ALIYUN_SECRET: ' eHmI20AVWIaQZ0CiTD2bGQVsaP9i68 '
|
|
||||||
|
|
||||||
# 「WEB_PORT暴露方法1: 适用于Linux」与宿主的网络融合
|
|
||||||
network_mode: "host"
|
|
||||||
|
|
||||||
# 启动命令
|
|
||||||
command: >
|
|
||||||
bash -c "python3 -u main.py"
|
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue