一江山水的随笔

国产大模型实测：DeepSeek、豆包、通义谁更强？

Sat, 18 Jul 2026 15:56:44 +0800

先说结论：没有全能王，选对场景才是关键

我分别用DeepSeek Chat（官网版）、豆包（字节跳动，网页版）、通义千问2.5（阿里，网页版）测了10个问题，覆盖编程、逻辑推理、中文写作、知识问答、数学计算等场景。直接说结果：

DeepSeek：编程和逻辑推理一骑绝尘，速度快，免费，但中文创作稍弱。
豆包：日常对话最自然，反应快，但复杂任务容易答非所问。
通义千问2.5：综合最均衡，中文写作和知识问答表现好，但速度略慢。

下面上具体案例，不吹不黑，有截图（文字描述）。

测试一：编程题——"用Python写一个快速排序算法，并解释时间复杂度"

DeepSeek：满分

输出完整代码，带注释，并解释了最好/最坏/平均时间复杂度。代码可直接运行，无bug。响应时间约2秒。

示例输出（节选）：

def quick_sort(arr):
    if len(arr) <= 1:
        return arr
    pivot = arr[len(arr)//2]
    left = [x for x in arr if x < pivot]
    middle = [x for x in arr if x == pivot]
    right = [x for x in arr if x > pivot]
    return quick_sort(left) + middle + quick_sort(right)

豆包：7分

代码正确，但解释较浅，只说"平均O(n log n)"，没分析最坏情况。响应时间约3秒。

通义千问2.5：9分

代码正确，解释详细，还给了优化建议。响应时间约4秒。

测试二：逻辑推理——"如果所有的A都是B，所有的B都是C，那么所有的A都是C吗？请证明。"

DeepSeek：满分

不仅给出"是"，还用三段论形式化证明，清晰易懂。响应时间1秒。

豆包：6分

给出正确结论，但证明含糊，有点像复述问题。响应时间2秒。

通义千问2.5：8分

正确，用集合论解释，但稍显啰嗦。响应时间3秒。

测试三：中文写作——"写一篇300字的春日游记，风格要文艺"

DeepSeek：7分

文章通顺，但略显机械，缺乏情感。字数刚好300。响应时间2秒。

豆包：9分

文字优美，用了拟人、比喻，读起来有画面感。响应时间1秒。

通义千问2.5：9.5分

非常流畅，还有一点古风，几乎可以直接用。响应时间3秒。

测试四：知识问答——"解释量子纠缠，用比喻"

DeepSeek：8分

用"骰子"比喻，准确且易懂。响应时间2秒。

豆包：7分

比喻较普通，但解释正确。响应时间3秒。

通义千问2.5：9分

用了"双胞胎心灵感应"的比喻，还补充了应用场景。响应时间4秒。

速度与费用对比

模型	平均响应时间	费用
DeepSeek Chat	1.8秒	免费
豆包	2.2秒	免费
通义千问2.5	3.5秒	免费（有API收费版）

三个模型目前都提供免费网页版，但DeepSeek和豆包速度更快。

我的建议

程序员/技术工作者：首选DeepSeek，编码能力和逻辑推理强，免费且速度快。遇到中文写作需求再切到豆包或通义。
日常用户/内容创作者：豆包或通义都行，豆包更轻快，通义更全面。如果常写长文，通义更稳。
学生/学习用途：通义千问2.5，知识回答详细，解释到位。

注意事项

测试基于2025年4月的版本，模型会更新，结果可能变化。
豆包有联网搜索功能，但本文测试未开启，避免变量。
通义千问2.5的API调用有成本，网页版免费但限流。

总结：国产大模型进步很大，没有绝对优劣，选对工具效率翻倍。如果你有特定需求，欢迎留言，我帮你测。

3000元Mac Mini 16G跑大模型实测：能跑哪些？适合谁？

Fri, 17 Jul 2026 15:57:18 +0800

先说结论：能跑，但有边界

Mac Mini M4 16G版，目前第三方渠道3000元左右就能拿下。很多人问：这玩意儿能跑大模型吗？我的回答是：能跑，但别指望跑20B以上的模型。实测下来，7B/8B模型流畅运行，14B模型勉强可用，20B以上基本别想。下面细说。

为什么内存带宽是最大瓶颈？

M4芯片的CPU单核性能很强，但LLM推理主要靠内存带宽。Mac Mini的16G统一内存带宽约120GB/s（具体取决于配置），而高端显卡如RTX 4090带宽超过1TB/s。大模型需要频繁读写参数，带宽不足直接导致生成速度慢、甚至内存溢出。

举个栗子：一个7B模型（如Qwen2.5-7B）量化到4-bit后约4GB，16G内存可以轻松加载。但14B模型（如Mistral-14B）量化后约8GB，虽然能塞进内存，但推理速度明显下降，每秒只能生成几个token。20B以上模型（如Llama-3-70B）量化后也超过10GB，16G内存根本放不下。

实测哪些模型能跑？

流畅运行（7B/8B）

Qwen2.5-7B (4-bit量化)： 每秒15-20 token，对话流畅，适合本地助手。
Gemma3-8B (4-bit量化)： 每秒12-15 token，效果不错。
Mistral-7B (4-bit量化)： 每秒18-22 token，非常快。

勉强可用（14B）

Mistral-14B (4-bit量化)： 每秒5-8 token，能生成但慢，适合不着急的场景。
Qwen2.5-14B (4-bit量化)： 类似，每秒4-6 token。

吃力（20B以上）

Llama-3-70B (4-bit量化)： 内存不够，直接报错。
Qwen2.5-32B (4-bit量化)： 勉强加载但速度极慢（每秒<1 token），基本不可用。

3000元预算下的最优模型推荐

如果你只有3000元，又想玩本地大模型，我推荐以下两个：

Gemma3:4b： 轻量级，4B参数，量化后约2GB，速度飞快（每秒30+ token），适合日常问答、代码辅助。
Qwen2.5:7b： 平衡之选，7B参数，效果更好，速度也能接受。建议用4-bit量化，内存占用约4GB。

这两个模型在Mac Mini M4 16G上都能流畅运行，而且免费开源。用Ollama部署只需一行命令：ollama run gemma3:4b 或 ollama run qwen2.5:7b。

适合谁？不适合谁？

适合人群

学生党或预算有限的AI爱好者： 3000元就能体验本地大模型，跑7B模型足够学习、写代码、做笔记。
轻度用户： 只偶尔用大模型辅助工作，不需要实时生成大量文本。
开发者： 测试小模型、做原型开发，Mac Mini的Unix环境很方便。

不适合人群

重度AI用户： 需要跑20B以上模型或追求高速生成，建议上RTX 4070以上显卡或Mac Studio。
游戏玩家： Mac Mini的GPU性能有限，跑大模型还行，玩游戏就算了。
专业研究者： 需要训练或微调模型，16G内存和有限带宽不够用。

总结

3000元的Mac Mini M4 16G是一个性价比很高的AI入门设备，但别期待它能跑大模型。7B/8B模型流畅，14B勉强，20B以上别想。如果你预算有限，又想体验本地AI，买它没错。但如果你需要跑大模型，还是攒钱上高端显卡吧。

最后提一嘴：Mac Mini的散热和功耗都很好，静音且不发热，适合长时间挂机。搭配Ollama或LM Studio，体验很丝滑。

用好这3个提示词模板，让DeepSeek/ChatGPT输出质量翻倍

Fri, 17 Jul 2026 15:57:05 +0800

为什么你的AI总是不听话？

用了这么久ChatGPT和DeepSeek，你是不是也遇到过：让它写个文案，结果废话连篇；让它改代码，反而引入新bug；问个问题，回答像教科书一样空洞。别急着怪AI，问题大概率出在提示词上。我踩了无数坑后，总结出3个万能模板，直接复制改参数就行，效果立竿见影。

模板一：专家咨询型

适用场景

需要深度分析、专业建议、复杂问题拆解。比如：行业趋势分析、产品方案评估、技术选型建议。

模板结构

角色：[具体专家身份，如资深产品经理/10年后端架构师]任务：[核心问题，一句话说清]背景：[提供上下文，如公司规模、现有技术栈、预算等]输出要求：[格式、长度、侧重点]

实战示例

我最近在选型消息队列，用这个模板问DeepSeek：

角色：资深后端架构师，有5年高并发系统经验任务：帮我对比Kafka和RabbitMQ，选一个适合我们项目的背景：我们团队10人，Java技术栈，日均消息量约100万，对延迟要求不高，但需要保证消息不丢失输出要求：从性能、可靠性、运维复杂度三个维度对比，给出推荐并说明理由，控制在500字以内

结果：AI给出的分析非常到位，对比了吞吐量、数据持久化、集群管理、社区活跃度等细节，最后推荐了Kafka，还给了部署建议。比我自己查资料快10倍。

参数调整建议

角色越具体越好：带上年限、领域、甚至公司背景（如"曾在阿里负责双十一大促的架构师"）
背景信息要足：团队规模、技术栈、预算、时间限制等，缺一不可
输出要求明确：字数、格式（表格/列表/段落）、侧重点（如"重点说缺点"）

模板二：写作优化型

适用场景

改写、润色、扩写、总结、换个风格。比如：把技术文档改成大白话、把周报改成述职报告、把英文邮件改成中文。

模板结构

原文：[粘贴原文]目标风格：[如专业/幽默/简洁/正式]修改要求：[具体修改点，如删掉废话、增加数据、调整语气]额外约束：[如字数限制、禁止使用某些词]

实战示例

我写了一篇技术博客初稿，太啰嗦，让ChatGPT帮我改：

原文：我们在开发过程中发现，使用微服务架构虽然有很多好处，但是也带来了一些挑战，比如服务间的通信变得复杂了，而且部署和监控也需要更多的工具和人力。目标风格：简洁、技术向修改要求：删掉所有废话，每句话都要有信息量，保留技术细节，去掉"我们""但是"这类词额外约束：控制在200字以内

结果：AI把原文压缩成150字，保留了"服务间通信复杂度增加""需要引入服务网格""部署成本上升"等干货，读起来像资深工程师写的技术笔记。我直接用了。

参数调整建议

目标风格要具体：不要只说"写好一点"，而是"像鲁迅一样犀利"或"像科技媒体一样客观"
修改要求可量化：比如"每段不超过3句话""删除所有形容词"
额外约束防跑偏：比如"不要使用比喻""禁止出现第一人称"

模板三：代码调试型

适用场景

找bug、优化性能、重构代码、解释代码逻辑。适合程序员。

模板结构

任务：[调试/优化/解释]代码语言：[Python/JavaScript等]代码：[粘贴代码]问题描述：[报错信息/预期行为/实际行为]环境信息：[Python版本、操作系统、依赖库版本等]输出要求：[如只给出修改后的代码、或给出解释和代码]

实战示例

我用Python写了一个爬虫，但总是超时，让DeepSeek帮我优化：

任务：优化代码语言：Python代码：import requests
url = "https://example.com"
response = requests.get(url)
print(response.text)问题描述：当网站响应慢时，程序会卡住很久，希望设置超时并重试环境信息：Python 3.9, requests 2.28, Windows 10输出要求：给出修改后的完整代码，并解释修改点

结果：AI给出了带超时和重试的代码：

import requests
from requests.adapters import HTTPAdapter
from requests.packages.urllib3.util.retry import Retry

session = requests.Session()
retry = Retry(total=3, backoff_factor=1, status_forcelist=[500, 502, 503, 504])
adapter = HTTPAdapter(max_retries=retry)
session.mount('http://', adapter)
session.mount('https://', adapter)

try:
    response = session.get('https://example.com', timeout=5)
    print(response.text)
except requests.exceptions.RequestException as e:
    print(f"请求失败: {e}")

并解释了Retry和Session的用法。直接复制运行，完美解决。

参数调整建议

问题描述要精确：贴出完整报错信息，或描述"当输入X时，期望Y，实际得到Z"
环境信息不能省：版本差异会导致bug，尤其是Python和JavaScript
输出要求控制细节：如果只要代码，就说"只输出代码，不要解释"；如果只要解释，就说"只解释逻辑，不需要代码"

总结

这三个模板是我日常高频使用的，覆盖了咨询、写作、编码三大场景。核心思路就是：给AI足够的信息和约束，它才能精准输出。下次用AI之前，先套个模板，效果绝对让你惊喜。快去试试吧，有更好用的模板欢迎留言交流。

用AI智能体自动整理笔记和知识库，再也不怕遗忘

Fri, 17 Jul 2026 10:00:24 +0800

为什么需要AI整理笔记？

我承认，我是个笔记囤积狂。从Notion到Obsidian，从Markdown到PDF，攒了上千条笔记，但真正回顾的不到10%。直到我用AI智能体批量处理，才让这些"死"笔记活了过来。

效果先看

运行一次脚本后：

每篇笔记自动获得3-5个标签（如#AI、#效率工具）
自动生成50字以内的摘要
发现"Python"和"数据分析"笔记之间的关联，自动添加双向链接

你需要准备什么

Obsidian（或其他本地Markdown编辑器）
OpenAI API Key（或兼容API）
Python 3.8+
一点点耐心

操作步骤

1. 安装依赖

pip install openai pandas tiktoken

2. 配置API

在环境变量中设置：

export OPENAI_API_KEY='你的key'

3. 脚本核心逻辑

我写了一个Python脚本，遍历Obsidian仓库下的所有Markdown文件，调用GPT-3.5-turbo进行批量处理。

import os
import openai
from pathlib import Path

openai.api_key = os.getenv('OPENAI_API_KEY')

def process_note(file_path):
    with open(file_path, 'r', encoding='utf-8') as f:
        content = f.read()
    
    prompt = f"""分析以下笔记，输出JSON格式：
{{
  "tags": ["标签1", "标签2"],
  "summary": "一句话摘要",
  "related_terms": ["关联词1", "关联词2"]
}}

笔记内容：
{content[:2000]}"""
    
    response = openai.ChatCompletion.create(
        model='gpt-3.5-turbo',
        messages=[{'role': 'user', 'content': prompt}],
        temperature=0.3
    )
    return response.choices[0].message.content

# 遍历笔记目录
notes_dir = Path('/path/to/your/vault')
for md_file in notes_dir.rglob('*.md'):
    result = process_note(md_file)
    # 将结果写入笔记的frontmatter或单独文件
    print(f'Processed: {md_file.name}')

注意：OpenAI有速率限制，建议加time.sleep(1)避免超限。

4. 将结果写回笔记

我选择将标签和摘要写入笔记的YAML frontmatter：

---
tags: [AI, 自动化]
summary: 用AI自动整理笔记的方法
---

脚本解析GPT返回的JSON，然后更新文件头部。

5. 建立关联

更高级的玩法：用GPT提取每篇笔记的关键实体，然后在Obsidian中自动添加[[双向链接]]。我写了一个小插件思路：

用spaCy或GPT提取实体（如"Python"、"机器学习"）
在笔记中搜索这些实体，如果其他笔记标题包含，则添加链接

进阶技巧

批量处理速度：用异步请求或本地模型（如llama.cpp）可大幅提速
隐私优先：敏感笔记用本地模型，比如Ollama+Llama3
定期运行：设置cron job每周自动跑一次

注意事项

API费用：每篇笔记约0.01元，1000篇也就10块钱，划算
不要一次性处理太多，分批次避免报错
建议先在小范围测试，比如一个子文件夹

总结

AI智能体不是替代你思考，而是帮你把散落的知识点串起来。现在我的Obsidian笔记库每天都自动更新标签和摘要，回顾时直接搜索标签或关键词，效率提升至少5倍。你也试试？

GPU显存为啥是AI命门？不够用会怎样？

Fri, 17 Jul 2026 10:00:10 +0800

先说结论：显存就是AI的命门

大模型时代，显存决定了你能跑多大的模型、多长的上下文、多大的batch size。显存不够，要么模型加载不了，要么跑起来直接OOM（Out of Memory），要么慢到怀疑人生。7B模型至少14GB，13B至少26GB，70B至少140GB——这只是参数，还没算KV Cache和中间激活。

为什么大模型吃显存？

1. 模型参数住在显存里

模型参数（权重）必须在显存里才能被GPU计算。以FP16为例：

7B模型：7B × 2 bytes = 14GB
13B模型：13B × 2 = 26GB
70B模型：70B × 2 = 140GB

这还只是参数，没算优化器状态（训练时翻倍）和中间激活。

2. KV Cache是隐形杀手

推理时，Transformer的Self-Attention会缓存Key和Value，大小和序列长度、batch size成正比。公式：KV Cache大小 = 2 × batch_size × seq_len × num_layers × hidden_dim × dtype_size。比如7B模型（32层，hidden_dim=4096），seq_len=2048，batch_size=1，FP16：2×1×2048×32×4096×2 ≈ 1GB。如果batch_size=16，直接16GB。长上下文（比如32K）更是爆炸。

3. Batch size受限

训练时，batch size越大，显存占用越高，因为要存梯度、激活值。显存不够只能减小batch size，但会拖慢训练速度、影响收敛。

显存不够怎么办？

方案一：量化（省钱首选）

把FP16模型量化成INT8或INT4，显存直接减半或减四分之一。7B模型INT8只要7GB，INT4只要3.5GB。代价是精度轻微下降，但大部分场景足够。常见工具：bitsandbytes、GPTQ、GGML。

方案二：梯度累积（训练专用）

不增大batch size，而是累积多个小batch的梯度再更新参数。比如你只能跑batch_size=1，累积16步效果等价于batch_size=16，但显存不变。代码实现：

for i, data in enumerate(dataloader):
    loss = model(data)
    loss.backward()
    if (i+1) % accumulation_steps == 0:
        optimizer.step()
        optimizer.zero_grad()

方案三：模型并行/张量并行

把模型切分到多张GPU上。70B模型用2张A100（80GB）就能跑，但需要高速通信（NVLink）。适合有预算的团队。

方案四：CPU Offloading

把部分参数或KV Cache放到CPU内存，GPU用的时候再搬回来。速度慢，但能跑超大模型。

总结

显存是硬约束，选显卡先看显存。个人玩家：7B模型用12GB卡（RTX 3060 12G），13B用24GB（RTX 3090/4090），70B建议云GPU或量化到INT4。训练党：多卡并行+梯度累积。记住：显存不够，一切白搭。

Mac Mini M4 16G实测：9款大模型速度横评，谁最适合你？

Wed, 15 Jul 2026 08:23:54 +0800

先说结论：Mac Mini M4 16G的AI潜力有多大？

Mac Mini M4 16G版凭借M4芯片的神经网络引擎和统一内存架构，能流畅运行8B以下参数的大模型。我实测了9款模型，覆盖聊天、代码、推理等场景，结论是：gemma3:4b综合最佳，适合日常；qwen3:8b质量最高；llama3.2:3b速度最快。下面直接上数据。

实测环境与工具

设备：Mac Mini M4 16G（macOS Sequoia 15.0）
运行工具：Ollama 0.3.12（命令行模式）
测试方法：连续生成500 tokens，取平均速度（token/s），重复3次取中位数
模型来源：Ollama官方库，均为GGUF量化版本（Q4_K_M）

9款模型速度横评（token/s）

模型	参数	平均速度	峰值内存	推荐场景
llama3.2:3b	3B	68.5	2.1GB	极速响应
gemma3:4b	4B	52.3	2.8GB	日常综合
qwen3:8b	8B	28.1	5.2GB	高质量输出
deepseek-r1:7b	7B	32.4	4.5GB	推理任务
qwen2.5-coder:7b	7B	30.2	4.8GB	代码生成
mistral:7b	7B	34.1	4.3GB	多语言
phi3:3.8b	3.8B	55.7	2.5GB	轻量任务
llama3.1:8b	8B	25.6	5.5GB	通用对话
tinyllama:1.1b	1.1B	89.2	0.9GB	测试用

各模型实测体验与推荐

1. 速度之王：llama3.2:3b

速度68.5 token/s，几乎秒回。适合需要即时反馈的场景，比如聊天机器人、实时翻译。但输出质量一般，复杂问题会胡编。

2. 综合首选：gemma3:4b

52.3 token/s，速度和质量平衡得很好。日常问答、写文案、总结文档都靠谱。我目前主力用这个，推荐给大多数用户。

3. 质量担当：qwen3:8b

28.1 token/s，速度慢但输出质量最高。适合学术写作、复杂推理。注意内存占用5.2GB，16G Mac Mini还能同时开其他应用。

4. 推理高手：deepseek-r1:7b

32.4 token/s，数学和逻辑推理强。适合解方程、写算法。但中文支持不如qwen系列。

5. 代码利器：qwen2.5-coder:7b

30.2 token/s，代码补全和生成准确。我用它写Python脚本，错误率低。如果主要写代码，选这个。

其他模型简评

mistral:7b：多语言支持好，法语德语等，但中文一般。
phi3:3.8b：微软出品，轻量但知识面窄，适合特定任务。
llama3.1:8b：通用对话还行，但被qwen3:8b全面压制。
tinyllama:1.1b：速度最快，但几乎不能用，仅供测试。

如何选择？一张图看懂

如果你要最快速度：选llama3.2:3b
如果你要日常综合：选gemma3:4b（我的推荐）
如果你要高质量输出：选qwen3:8b
如果你要代码生成：选qwen2.5-coder:7b
如果你要推理任务：选deepseek-r1:7b

注意事项

以上速度基于Q4_K_M量化，如果用更高精度（如Q8）速度会下降20-30%，但质量提升有限。
Mac Mini M4 16G运行8B模型时，建议关闭其他大型软件（如浏览器多标签），否则会卡。
Ollama默认使用CPU+GPU混合推理，实测GPU利用率约70%，M4的NPU尚未被Ollama充分利用，未来可能更快。

总结

Mac Mini M4 16G完全能胜任本地大模型运行，8B以下模型流畅，4B左右模型体验最佳。日常使用，我强烈推荐gemma3:4b；如果你追求极致质量，qwen3:8b值得等待；速度党直接上llama3.2:3b。快去Ollama上拉模型试试吧！

同一个AI，别人问比我好十倍？5个提示词技巧立竿见影

Wed, 15 Jul 2026 08:23:38 +0800

先上结论：差一个提示词，结果天壤之别

我见过太多人抱怨AI是人工智障，但实际是自己不会问。同样一个GPT-4，我朋友用它写方案被老板夸，我用它写周报被同事问"哪里抄的"。区别在哪？提示词。今天分享5个我实战总结的技巧，每一个都有Before/After对比，你看完就能用。

技巧1：角色扮演——让AI进入专家模式

Before（平庸提问）

帮我写一篇关于AI的文章。

结果：AI给你一段四平八稳的科普，像维基百科缩写，毫无亮点。

After（角色扮演）

你是一位拥有10年经验的AI产品经理，现在要为科技媒体写一篇深度分析文章，主题是"AI在电商中的应用"。请用专业但不晦涩的语言，先列出3个核心观点，再展开论述。目标读者是创业公司CEO。

结果：AI自动代入专家视角，结构清晰，用词专业，还有行业洞察。

为什么有效？角色设定让AI调用特定领域的知识库和语言风格。就像你问一个医生和问一个律师，得到的回答完全不同。角色越具体越好，加上"经验年限"、"职位"、"目标读者"等细节。

技巧2：结构化输出——别让AI自由发挥

Before（模糊指令）

给我几个提高生产力的方法。

结果：AI给你一堆散乱的点，没有层级，需要自己再整理。

After（指定格式）

请给我5个提高生产力的方法，用以下格式输出：
- 方法名称
- 一句话解释（20字以内）
- 适用场景
- 具体执行步骤（3步以内）

结果：AI输出整齐的列表，直接复制就能用，省去二次加工时间。

为什么有效？人类大脑喜欢结构化信息。你告诉AI"用表格"、"用列表"、"分三段"，它就会乖乖照做。我写周报、做方案时，一定会指定输出格式，效率翻倍。

技巧3：Few-Shot示例——给AI一个模板

Before（零样本）

写一段产品卖点文案。

结果：AI写的文案可能很笼统，或者风格不对。

After（给示例）

请模仿下面这段文案的风格，为"智能水杯"写一段卖点文案：

示例：
"这款耳机，戴上就忘了它的存在。轻盈如羽，音质如临现场。10小时续航，陪你从日出到日落。"
要求：突出"智能提醒喝水"和"保温"两个卖点，字数50字以内。

结果：AI输出类似风格的文案，精准贴合要求。

为什么有效？Few-shot就像给AI画了靶子。你给一个例子，它就知道你要的风格、长度、语气。给两个例子，效果更稳。我经常用这个方法批量生成社交媒体文案。

技巧4：思维链引导——让AI一步步思考

Before（直接问）

帮我分析一下这个方案的可行性。

结果：AI直接给结论，但你可能不知道它推理过程靠不靠谱。

After（引导思考步骤）

请按以下步骤分析方案可行性：
1. 先列出方案的核心假设
2. 评估每个假设的风险（高/中/低）
3. 针对高风险假设，提出替代方案
4. 给出最终建议并说明理由

结果：AI按步骤输出，逻辑清晰，你可以逐条检查，甚至反驳。

为什么有效？思维链（Chain-of-Thought）让AI像人一样分步推理，减少幻觉和跳跃。尤其适合复杂问题，比如代码调试、商业分析、数学题。我写代码时常用"先解释问题，再列出解法，最后写代码"的步骤。

技巧5：约束条件——别让AI跑偏

Before（无约束）

给我推荐几本书。

结果：AI推荐了一堆经典但你可能没时间读的大部头。

After（加限制）

推荐3本关于时间管理的书，要求：
- 每本书字数少于300页
- 适合上班族碎片时间阅读
- 附带每本书的核心方法（一句话总结）

结果：AI推荐的书籍更符合你的实际需求，直接可用。

为什么有效？AI太能发散，约束条件像缰绳，拽住它别跑太远。常用约束：字数、风格、角度、排除项、时间范围、格式。比如"不要用专业术语"、"用小学生能听懂的话"、"控制在200字以内"。

综合实战：一个完整的优化案例

假设你想让AI帮你写一封求职邮件：

Before（新手提示词）

帮我写一封求职邮件。

结果：AI给你一封模板邮件，千篇一律。

After（组合技巧）

你是一位资深HR，现在要帮一位求职者写一封自荐邮件。求职者背景：5年Python开发，想应聘一家AI初创公司的高级工程师岗位。邮件需要突出以下三点：
- 对AI领域的热情（之前做过两个开源项目）
- 技术能力（精通PyTorch和部署）
- 为什么选择这家公司（看过创始人访谈）
请用第一人称，语气专业但真诚，字数300字以内。邮件结构：开头一句话吸引注意，中间三段分别讲以上三点，结尾请求面试机会。

结果：AI输出一封有针对性、有细节的邮件，几乎可以原封不动发送。

这个例子用了角色扮演（HR）、约束条件（三点内容、字数、结构）、结构化输出（明确段落）。效果立竿见影。

总结：提示词是门手艺，练起来

以上5个技巧，你不需要全用，但每次写提示词前，可以问自己三个问题：

我希望AI扮演什么角色？
我希望输出什么格式？
我需要加哪些约束避免它跑偏？

刚开始可能会觉得麻烦，但习惯后，你的AI回答质量会从"能用"变成"惊艳"。快去试试，评论区告诉我你用了哪个技巧效果最好。

H100凭什么卖30万一张？英伟达GPU价格暴涨背后

Mon, 13 Jul 2026 15:56:34 +0800

先说结论：H100真的卖到了30万，而且你还买不到

别怀疑，现在一张NVIDIA H100 GPU的市场价已经飙到了3-4万美元，折合人民币20-30万，官方建议零售价（MSRP）大概3万美元出头，但实际成交价早就翻倍了。更夸张的是H200，刚发布就被抢光，期货价格据说到了50万人民币。为什么一张显卡能顶一辆特斯拉？我扒了扒背后的原因。

供需失衡：算力饥渴+产能瓶颈

H100卖爆的第一原因是需求太猛。大模型训练需要海量算力，比如训练GPT-4据说用了25000张A100，而H100性能是A100的3-6倍，但一张H100跑大模型依然不够。全球AI公司都在抢卡，OpenAI、Meta、Google、微软这些巨头一买就是几万张。小公司只能喝汤，甚至汤都喝不到。

产能呢？台积电CoWoS封装产能是瓶颈。H100采用台积电4nm工艺，但需要CoWoS先进封装，这部分产能一直紧张，导致H100出货量受限。NVIDIA虽然疯狂下单，但2023年全年H100出货量估计只有50万张左右，而需求是百万级。

出口管制：中国买家疯狂囤货

2022年10月，美国对华出口管制升级，A100和H100被禁售到中国。2023年10月，管制进一步收紧，连阉割版的A800和H800也被禁。这导致国内AI公司、云厂商和投机者疯狂囤货。H100在国内黑市价格一度炒到30万以上，甚至传出50万的天价。很多公司提前下单，锁定库存，进一步推高了全球价格。

而且，囤货不止发生在国内。中东、东南亚的买家也在抢购，因为他们担心未来被制裁。NVIDIA虽然推出合规版H100（如H100 SXM），但需求依然大于供给。

替代方案：国产GPU能顶上吗？

既然买不到H100，国内厂商只能找替代品。目前主要有三条路：

国产GPU：华为昇腾910B是主流替代，性能接近A100，但软件生态差一截。寒武纪思元590、壁仞BR100等也有产品，但量产和生态都是问题。实际使用中，迁移成本高，很多模型需要重新优化。
降级方案：用多张消费级显卡（如RTX 4090）组集群。4090被禁后，现在只能买RTX 6000 Ada等专业卡，性价比低。而且显存、互联带宽都不如H100，训练大模型效率差很多。
云服务：租用海外云GPU，比如AWS、Azure的H100实例，但成本高、延迟大，而且有合规风险。

说白了，短期没有完美替代。H100的垄断地位很难被撼动，国产GPU还需要2-3年才能追赶上。

总结：价格还会涨吗？

短期内H100价格可能维持高位，因为需求还在增长（比如Sora、Gemini等新模型），而产能提升需要时间。NVIDIA预计2024年H100出货量翻倍，但依然供不应求。如果你急着用，建议租云GPU；如果长期布局，可以关注国产GPU进展，或者等NVIDIA的B100（预计2024下半年发布）。

最后，别想着囤卡发财了，现在入场成本太高，而且政策风险大。老老实实搞技术才是正道。

AI智能体帮我写周报，从此不用加班熬夜

Mon, 13 Jul 2026 15:56:20 +0800

每周五下午，你是不是也在对着空白的周报文档发呆？或者翻聊天记录、邮件、任务列表，拼凑这周干了啥？我懂，我也经历过。后来我搞了个AI智能体，专门帮我写周报，现在周五下午直接喝茶等下班。效果嘛，5分钟生成一份老板满意的周报。废话不多说，直接上干货。

核心思路

让AI写周报，关键在于喂给它的信息要结构化。我设计了一套提示词模板，配合智能体（比如GPTs、Claude Projects或者任何支持自定义指令的AI），让它自动从我的任务清单中提取信息，生成周报。你只需要每天简单记录干了啥，周五AI一键生成。

步骤一：准备你的任务数据库

我用的是Notion，但任何能导出结构化数据的工具都行（比如飞书、Excel）。我每天会花2分钟记录：

任务名称
完成状态（进行中/已完成）
关键成果（比如修复了哪个Bug、写了哪篇文章）
耗时（可选）

示例数据：

任务名称：优化登录页加载速度
状态：已完成
关键成果：将加载时间从3秒降至1秒
耗时：4小时

步骤二：构建AI智能体

我用的是Claude的Projects功能，你也可以用GPTs。核心是写一个系统提示词，告诉AI它的角色和任务。以下是我用的提示词模板，直接复制即可：

你是一个专业的周报生成助手。你的任务是根据用户提供的本周任务列表（包含任务名称、状态、关键成果），生成一份结构清晰、语言简洁的周报。周报格式如下：

## 本周工作总结
- **任务1**：[状态] [关键成果]
- **任务2**：[状态] [关键成果]
...

## 下周计划
- 计划1
- 计划2
...

## 遇到的问题及解决方案
- 问题1：描述问题 + 解决方案
- 问题2：...

要求：
1. 使用正式但不过于官方的语气。
2. 每个任务用一句话概括，突出成果。
3. 如果用户没有提供下周计划，根据本周任务推断2-3个合理计划。
4. 如果用户没有提供问题，则跳过该部分。

现在，请根据用户输入生成周报。

步骤三：每天投喂数据

我写了一个简单的Python脚本，每天从Notion导出当天的任务记录，然后发给AI。你也可以手动复制粘贴，但自动化更爽。脚本大概长这样（简化版）：

import requests

# 假设你有一个API获取任务列表
tasks = [
    {"name": "优化登录页加载速度", "status": "已完成", "result": "加载时间从3秒降至1秒"},
    {"name": "编写API文档", "status": "进行中", "result": "已完成初稿"}
]

# 调用AI接口
prompt = f"本周任务列表：\n"
for t in tasks:
    prompt += f"- 任务名称：{t['name']}，状态：{t['status']}，关键成果：{t['result']}\n"

# 发送给AI（用你选择的API）
response = requests.post("https://api.anthropic.com/v1/messages", json={
    "model": "claude-3-5-sonnet-20241022",
    "max_tokens": 1024,
    "system": "你是一个...（上面那个提示词）",
    "messages": [{"role": "user", "content": prompt}]
})
print(response.json()["content"][0]["text"])

注意：你需要替换成你自己的API key和endpoint。如果是用ChatGPT，调整一下格式。

步骤四：每周五一键生成

到了周五，我只需要把本周所有任务汇总，发给AI。它会自动生成周报，我检查一遍，改几个字，直接提交。以下是实际输出示例：

## 本周工作总结
- **优化登录页加载速度**：已完成，将加载时间从3秒降至1秒。
- **编写API文档**：进行中，已完成初稿，下周进行审核。

## 下周计划
- 完成API文档终稿并发布。
- 开始用户反馈系统的设计。

## 遇到的问题及解决方案
- 无。本周工作顺利。

进阶玩法：让AI主动问你

如果你懒得每天记录，可以让AI智能体每天定时问你"今天干了啥？"。比如用Claude的Projects，设置一个每日提醒，AI自动提问，你回复，它自动记录。周五直接输出周报。我试过，效果不错，但需要AI平台支持定时任务。目前我用的是自定义的Telegram Bot，每天下午6点发消息问我，我回几条消息，它存到数据库。周五调用AI生成。

注意事项

数据安全：如果你的任务涉及敏感信息，别用公共AI，考虑本地部署模型（比如Llama 3）。
检查输出：AI有时会编造细节，务必核对关键数据。
持续优化：提示词可以调整，比如要求更详细的描述或更简洁的语句。

好了，以上就是我用了半年的周报自动化方案。现在周五下午我都在摸鱼，希望你也能早点下班。如果你有更好的玩法，欢迎留言交流。

大模型参数越大越强？7B、13B、70B怎么选才不亏

Sat, 11 Jul 2026 12:05:30 +0800

先说结论

参数大 ≠ 一定强，但大概率更强。 7B、13B、70B 代表模型参数数量（B=10亿），参数量越大，模型容量越大，能记住更多知识，推理能力也更强。但选模型不是越大越好，还得看你的硬件、任务和钱包。简单说：
- 7B：日常问答、简单代码、轻量部署，消费级显卡（如RTX 3060 12GB）就能跑。
- 13B：中等复杂任务，需要一定推理，适合有16GB以上显存的用户。
- 70B：专业级推理、长文生成、复杂代码，需要多卡或大显存（如A100 80GB）。
另外，"小模型+精调"在很多垂直任务上能吊打"大模型+提示词"，但泛化能力不如大模型。

参数量到底代表什么？

参数是模型内部的权重和偏置，可以理解为"神经元连接的数量"。7B模型有70亿个参数，13B有130亿，70B有700亿。参数量越大，模型能拟合更复杂的函数，存储更多世界知识。但智商不只是参数量决定，训练数据质量、架构设计（如MoE）也影响巨大。比如Mixtral 8x7B虽然只有47B总参数，但实际推理时只激活13B，效果却接近70B。

本地部署门槛：显存是硬指标

模型加载需要显存，粗略估算：
- 7B（FP16）：约14GB显存，量化后（INT4）仅需4GB。
- 13B（FP16）：约26GB，量化后8GB。
- 70B（FP16）：约140GB，量化后40GB。
所以，7B适合大多数玩家，13B需要中高端显卡，70B基本告别消费级设备。我用RTX 4090 24GB跑13B量化版很流畅，但70B只能云上跑。

性价比：小模型+精调 vs 大模型+提示词

这里直接上对比案例：
任务： 从客服对话中提取用户情绪（正面/负面/中性）。

方案A：7B模型 + 精调
我用Llama 3 8B（实际8B）在1000条标注数据上精调了1小时（单卡A100），准确率92%。

方案B：70B模型 + 提示词
直接调用GPT-4（类比70B）写prompt："请判断以下对话的情绪，只输出正面、负面或中性。" 准确率88%。

结果：小模型精调胜出，且推理更快、成本更低。但注意：如果任务需要广泛知识（如写诗、翻译），大模型提示词更强，因为精调很难注入新知识。

怎么选？三步决策法

看任务复杂度：简单分类、抽取 → 7B；中等推理、创作 → 13B；专业领域、长文本 → 70B。
看数据量：如果有几百条标注数据，精调7B性价比极高；没有数据就选大模型+提示词。
看硬件：显存 < 16GB 就别想13B以上了，量化也不行。

总结

参数大小是重要指标，但不是唯一。选模型就像买车：7B是代步车，13B是家用SUV，70B是卡车。别为了炫酷买卡车，结果没地方停。最后记住：对于垂直任务，精调小模型往往比提示大模型更香。