先说结论
本地跑大模型，显卡显存是王道。万元内最佳方案：二手RTX 3090 24G（约5000元）搭配其他配件，总价万元内可流畅运行7B/13B模型。Mac M系列适合轻量使用，但性价比不如N卡。
为什么显存是关键？
大模型推理时，模型参数需要全部加载到显存。以7B模型为例，FP16精度约需14GB显存，13B模型约26GB。量化后（如4-bit）可减半，7B约7GB，13B约13GB。所以显存大小直接决定你能跑多大的模型。
三种方案详解
方案一：二手RTX 3090 24G（极致性价比）
- 预算：显卡二手约4500-5500元，整机（配i5-12400F、32GB内存、1TB SSD）约9000-10000元
- 能跑什么：7B模型FP16流畅跑，13B模型4-bit量化流畅跑，甚至可跑33B模型（4-bit，速度较慢）
- 速度：7B模型推理速度约30-50 tokens/s，13B约15-25 tokens/s
- 适用场景：本地代码生成、文档分析、聊天机器人，适合重度用户
方案二：RTX 4070 Ti Super 16G（新卡均衡）
- 预算：显卡约6000-6500元，整机约10000-11000元（略超万元）
- 能跑什么：7B模型FP16流畅，13B模型4-bit量化流畅，但16G显存跑13B FP16会爆显存
- 速度：7B约40-60 tokens/s（得益于新架构），13B 4-bit约20-30 tokens/s
- 适用场景：追求新卡、低功耗，适合中等负载使用
方案三：Mac M系列（M1/M2/M3）
- 预算：Mac Mini M2 16G约3500元，MacBook Pro M3 Pro 18G约15000元（超预算），但16G内存版可跑7B模型（量化）
- 能跑什么：7B模型4-bit量化流畅（依赖统一内存），13B模型4-bit量化在16G内存上勉强运行，速度较慢
- 速度：7B约10-20 tokens/s，13B约5-10 tokens/s
- 适用场景：轻度使用、移动办公、Mac生态用户，不适合重度推理
实操建议
如果你预算严格控制在万元内：
1. 首选二手RTX 3090方案，显存大是王道。
2. 如果不想折腾二手，RTX 4070 Ti Super 16G也是好选择，但注意13B模型需量化。
3. Mac M系列只建议已有Mac的用户尝试，专门为AI买Mac性价比低。
注意事项
- 电源：RTX 3090功耗高，建议850W以上电源。
- 散热：3090发热大，机箱通风要好。
- 量化工具：推荐使用llama.cpp或AutoGPTQ，能有效降低显存占用。
- 二手风险：买3090注意是否矿卡，选信誉好的卖家。
最后，别被参数迷惑，实际体验中7B模型已经能满足大部分日常需求（如翻译、总结、编程）。先跑起来，再考虑升级。