rdcamelot

摘要： 如果我们需要修改模型源码，最规范的做法是将整个模型文件夹复制或者软链接到你自己的个人目录下（例如 /home/name/ 下），然后再去修改你个人目录里的代码，这样就绝对不会影响实验室里的其他同学。 虽然代码绕过了 flash_attn 成功加载了模型权重，但在最后生成回复（model.genera 阅读全文

摘要： 第一步：激活当前的虚拟环境 在查看库之前，必须先激活你想要参考的那个虚拟环境。如果不激活，你查看到的将是全局系统环境中的库。 conda activate 即可以，没必要参照这里的写法。 Linux / macOS: source 你的虚拟环境目录名/bin/activate Windows: 你的 阅读全文