whichllm
由 Andyyyy64 研发
whichllm 是一款能自动检测本地硬件（GPU/CPU/RAM）并推荐最适合运行的开源大语言模型（LLM）的命令行工具。它不仅过滤能塞进显存的模型，还基于真实的基准测试、量化惩罚和预估运行速度进行智能综合评分。此外，它还支持指定显卡模拟、反向硬件规划、一键开启聊天对话以及生成可用的 Python 运行代码片段。
- 全自动本地硬件检测与多硬件模拟
- 基于真实基准测试和置信度的智能评分
- 一键下载模型并启动交互式聊天
- 实时同步 HuggingFace 活跃模型数据
- 反向推导运行模型所需硬件及升级评估
desktop