本地运行开源大模型：Ollama 与 llama.cpp 的性能对比与硬件配置建议

想要在本地电脑上跑一个私密的代码助手？目前最主流的两种方案实测：

• Ollama：开箱即用，一条命令拉取模型，自带 API 服务和模型管理，适合绝大多数开发者；
• llama.cpp：极致底层控制，纯 C/C++ 实现，支持各种量化参数（GGUF），推理速度拉满。

硬件建议：Mac 的统一内存（M2/M3/M4 Max 64G+）是跑大上下文模型的性价比神机；PC 平台则推荐双 3090/4090 配置。