linux搭建LM Studio环境

1.安装LM Studio

curl -fsSL https://lmstudio.ai/install.sh | bash

2.替换源（非必做，如果网络可以访问huggingface.co，可以跳过）

# 设置安装目录
LM_STUDIO_DIR=~/.lmstudio
# 查找文件内容包含huggingface.co
grep -r "huggingface.co" $LM_STUDIO_DIR
# 修改上述文件里的huggingface.co为hf-mirror.com
# 修改前记得备份一下文件
sed -i 's|huggingface\.co|hf-mirror.com|g' 上面搜到的文件路径

3.启动服务

lms daemon up

4.搜索并安装大模型

# 例如搜索千问的大模型
lms get qwen

 选择自己想要的大模型下载即可

 

和大模型聊天