本地大模型部署教程与硬件选型
24 篇选文本地部署大模型，新手从哪里开始？
先看懂模型页上的参数：模型大小、量化方式（如 4bit、FP8）和文件格式（如 GGUF、MLX），再对照自己的显存或统一内存，选择能跑得动的版本。按一份完整入门教程跑通第一次部署后，再扩展到本地生图和 Agent 工作流。
专题导读
准备在自己的电脑上运行大模型，可以先读懂模型参数、量化格式与显存等基础概念，再根据设备和任务选择部署教程。本专题从硬件选择开始，安排本地模型入门、Qwen 部署、图像模型与 Agent 工作流案例。速度和资源占用对应作者当时的模型与配置，阅读时应先对照自己的系统和设备条件。
好文集专题导读 · 根据站内文章整理推荐阅读路径
全部选文模型参数和硬件怎么看？
先读基础概念，明确要下载什么、设备能运行什么。
怎样跑通第一次部署？
对照自己的系统与设备，选择一份完整入门教程。
如何扩展到图像和工作流？
基础环境稳定后，再阅读图像模型和 Agent 工作流。
专题选文
当前范围 24 篇 · 第 2 / 3 页
常见问题
为什么要在本地跑模型？
数据留在自己的电脑上，不受云端额度和调用费用限制（有作者称之为“Token 自由”）。代价是需要硬件投入和动手配置。
本地部署该买什么硬件？
关键看显存（或统一内存）的容量和带宽。站内文章对比了 NVIDIA DGX Spark 和两张魔改 48G 的 RTX 4090：前者内存大但带宽窄，后者带宽宽但显存要靠改装，应按要跑的模型来选。
下载了模型权重，为什么软件里找不到？
同一个模型常有多种运行路线，比如官方 Diffusers、ComfyUI 权重、GGUF/FP8 等，彼此不能混用。下载前先确认你用的软件支持哪一种。
