github-clones
/
gpt_academic
mirror of https://github.com/binary-husky/gpt_academic.git
1
0
Fork 0
Code Issues Packages Projects Releases Wiki Activity
gpt_academic/request_llm
History
binary-husky e64c26e617 紧急修复报错异常 2023-10-28 19:53:05 +08:00
..
README.md change claude model name to stack-claude 2023-05-19 10:46:12 +08:00
bridge_all.py 紧急修复报错异常 2023-10-28 19:53:05 +08:00
bridge_chatglm.py 细分代理场景 2023-09-23 22:43:15 +08:00
bridge_chatglmft.py 修复了一个导致无法加载未量化的ChatGLM2 fine-tuning模型的问题(quantization_bit=0) 2023-10-26 14:38:58 +00:00
bridge_chatglmonnx.py interface with qwen 2023-08-07 01:24:41 +08:00
bridge_chatgpt.py 紧急修复报错异常 2023-10-28 19:53:05 +08:00
bridge_chatgpt_website.py interface with ChatGPT-to-API 2023-08-16 22:21:51 +08:00
bridge_claude.py add clear history tips 2023-07-27 23:07:59 +08:00
bridge_internlm.py interface with qwen 2023-08-07 01:24:41 +08:00
bridge_jittorllms_llama.py add clear history tips 2023-07-27 23:07:59 +08:00
bridge_jittorllms_pangualpha.py add clear history tips 2023-07-27 23:07:59 +08:00
bridge_jittorllms_rwkv.py add clear history tips 2023-07-27 23:07:59 +08:00
bridge_llama2.py 细分代理场景 2023-09-23 22:43:15 +08:00
bridge_moss.py add clear history tips 2023-07-27 23:07:59 +08:00
bridge_newbingfree.py Newbing组件已不再维护 2023-10-25 11:56:20 +08:00
bridge_qianfan.py 修复文心一言的接口问题 2023-09-03 15:32:39 +08:00
bridge_qwen.py handle local llm dependency error properly 2023-08-07 02:11:48 +08:00
bridge_spark.py 修复没填写讯飞APPID无报错提示的问题 2023-09-06 10:24:11 +08:00
bridge_stackclaude.py add clear history tips 2023-07-27 23:07:59 +08:00
bridge_tgui.py add clear history tips 2023-07-27 23:07:59 +08:00
chatglmoonx.py fix minor bug in chatglm-onnx 2023-08-07 01:07:55 +08:00
com_sparkapi.py 支持讯飞星火v3 （sparkv3） 2023-10-25 11:48:28 +08:00
edge_gpt_free.py fix msg.data.split(DELIMITER) exception when msg.data is int 2023-07-21 03:51:33 +08:00
local_llm_class.py 支持百度云千帆和文心一言 2023-08-25 12:31:51 +08:00
requirements_chatglm.txt 统一 transformers 版本 2023-09-23 22:26:28 +08:00
requirements_chatglm_onnx.txt 统一 transformers 版本 2023-09-23 22:26:28 +08:00
requirements_jittorllms.txt 统一 transformers 版本 2023-09-23 22:26:28 +08:00
requirements_moss.txt 统一 transformers 版本 2023-09-23 22:26:28 +08:00
requirements_newbing.txt 实现Newbing聊天功能 2023-04-22 21:18:35 +08:00
requirements_qwen.txt interface with qwen 2023-08-07 01:24:41 +08:00
requirements_slackclaude.txt 捕获缺少依赖时的异常 2023-05-19 10:55:50 +08:00

README.md

如何使用其他大语言模型

ChatGLM

  • 安装依赖 pip install -r request_llm/requirements_chatglm.txt
  • 修改配置，在config.py中将LLM_MODEL的值改为"chatglm"
LLM_MODEL = "chatglm"
  • 运行！
`python main.py`

Claude-Stack

Newbing

  • 使用cookie editor获取cookie（json）
  • 把cookie（json）加入config.py （NEWBING_COOKIES）

Moss

  • 使用docker-compose

RWKV

  • 使用docker-compose

LLAMA

  • 使用docker-compose

盘古

  • 使用docker-compose

Text-Generation-UI (TGUI，调试中，暂不可用)

1. 部署TGUI

# 1 下载模型
git clone https://github.com/oobabooga/text-generation-webui.git
# 2 这个仓库的最新代码有问题，回滚到几周之前
git reset --hard fcda3f87767e642d1c0411776e549e1d3894843d
# 3 切换路径
cd text-generation-webui
# 4 安装text-generation的额外依赖
pip install accelerate bitsandbytes flexgen gradio llamacpp markdown numpy peft requests rwkv safetensors sentencepiece tqdm datasets git+https://github.com/huggingface/transformers
# 5 下载模型
python download-model.py facebook/galactica-1.3b
# 其他可选如 facebook/opt-1.3b
#           facebook/galactica-1.3b
#           facebook/galactica-6.7b
#           facebook/galactica-120b
#           facebook/pygmalion-1.3b 等
# 详情见 https://github.com/oobabooga/text-generation-webui

# 6 启动text-generation
python server.py --cpu --listen --listen-port 7865 --model facebook_galactica-1.3b

2. 修改config.py

# LLM_MODEL格式:   tgui:[模型]@[ws地址]:[ws端口] ,   端口要和上面给定的端口一致
LLM_MODEL = "tgui:galactica-1.3b@localhost:7860"

3. 运行！

cd chatgpt-academic
python main.py