2026年5月21日
使用llama通过GPU跑模型
摘要： 一、前言 使用llama.cpp跑Qwen3.5-9B-GGUF的模型 二、检查GPU使用情况 通过nvida-smi命令查看gpu使用情况 Thu May 21 11:27:57 2026 + + | NVIDIA-SMI 596.36 Driver Version: 596.36 CUDA Ve 阅读全文
posted @ 2026-05-21 15:52 ～LOVE戀～ 阅读(11) 评论(0) 推荐(0)