说明

安装

下面的pip install 命令如果失败可以加上-i https://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
如 pip install –upgrade pip -i https://mirrors.aliyun.com/pypi/simple/ –trusted-host mirrors.aliyun.com

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
# 通过 venv 模块创建名为 llm_learn 的python虚拟环境
python3 -m venv llm_learn

# 进入 llm_learn 虚拟环境
source llm_learn/bin/activate

# 在虚拟环境中更新pip 这里的pip已经是pip3了
pip install --upgrade pip

# 安装 ipykernel 内核管理工具
pip install ipykernel

# 将 llm_learn 添加至 ipykernel 中 这里的python已经是python3了
python -m ipykernel install --user --name llm_learn --display-name "Python (llm_learn)"

# 执行下面的文本前先看下面定义的版本，并写入requirements.txt中
# 在 llm_learn 环境中安装代码执行的依赖
pip install -r ./requirements.txt

# 退出 llm_learn 虚拟环境
deactivate

部署阿里云大模型

使用阿里云提供的教程来部署
阿里云大模型教程

定义依赖版本 vim requirements.txt

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
gradio==4.32.0
faiss-cpu==1.8.0.post1
dashscope==1.20.14
openai==1.55.3
httpx==0.27.0
llama-index-vector-stores-faiss==0.1.2
llama-index-embeddings-dashscope==0.1.4
llama-index-readers-file==0.1.33
docx2txt==0.8
openpyxl==3.1.5
llama-index-core==0.10.67
llama-index-llms-dashscope==0.1.2
llama-index-readers-dashscope==0.1.2
llama-index-llms-openai-like==0.1.3
uvicorn==0.30.6
fastapi==0.114.1
llama-index-postprocessor-dashscope-rerank-custom==0.1.0
simplejson==3.19.3
matplotlib==3.9.2
ragas==0.1.9
langchain_community==0.2.17
alibabacloud_bailian20231229==1.8.2
pandas==2.0.3
oss2==2.19.0
lagent==0.1.2
mmengine==0.10.3
ipywidgets==8.1.7
modelscope
alibabacloud_green20220302==2.21.2
seaborn
1
2
3
# 执行下面的文本前先看下面定义的版本，并写入requirements.txt中
# 在 llm_learn 环境中安装代码执行的依赖
pip install -r ./requirements.txt