大模型预下载方法 许多开源大模型是通过 Hugging Face 开源,下载模型往往需要访问 Hugging Face 的节点。 而在国内无法直接访问 Hugging Face,本文使用 python 脚本预下载模型的方式,解决大模型部署过程中遇到的模型无法下载问题。 Hugging Face 模型预下载 Hugging Face模型库 read more
Python版本管理工具 本文介绍通过 pyenv 管理 python 版本,操作环境为 Ubuntu 24.04。 准备 安装相关依赖库: 1 2 3 4 sudo apt update sudo apt install -y build-essential libssl-dev zlib1g-dev libbz2-dev \ libreadline-dev libsqlite3-dev wget curl llvm libncurses5-dev libncursesw5-dev \ xz-utils tk-dev liblzma-dev python3-openssl git read more