ai-agent-book 注意力可视化实验怎么用轨迹前端和 CLI 生成注意力热图【免费下载链接】ai-agent-book《深入理解 AI Agent设计原理与工程实践》李博杰 著开源主仓库全书正文、编译版 PDF 与按章配套代码项目地址: https://gitcode.com/GitHub_Trending/ai/ai-agent-book《深入理解 AI Agent》ai-agent-book第 2 章实验 2-2 的配套目录 chapter2/attention_visualization 提供两条生成注意力热图的路径一条是运行agent.py或main.py生成轨迹 JSON再通过 Next.js 前端在浏览器里交互式查看热力图另一条是独立 CLIattention_cli.py真实跑一遍模型、捕获自注意力矩阵后直接写出热力图 PNG不需要前端。两条路径共用同一个 Python 环境默认模型均为Qwen/Qwen3-0.6B。首次运行会下载约 1–2 GB 的模型权重文档推荐 GPU/MPS短提示词用 CPU 也可以。准备条件安装 ch2 环境与前端依赖在仓库根目录用 uv 安装第 2 章的统一环境Python 3.12包含 PyTorch、Transformers 等由根pyproject.toml的ch2extra 安装。未安装 uv 时文档给出的 pip 兜底是python -m pip install -e .[ch2]。# 在仓库根目录 uv sync --locked --python 3.12 --extra ch2 # 切换目录前先激活环境macOS/Linux source .venv/bin/activate cd chapter2/attention_visualization然后把 env.example 复制为.env并按需编辑。该文件配置模型名MODEL_NAME默认Qwen/Qwen3-0.6B、设备DEVICEauto/cuda/mps/cpu、注意力层索引ATTENTION_LAYER_INDEX-1为最后一层、生成参数MAX_NEW_TOKENS100、TEMPERATURE0.7等与可视化输出目录供agent.py/main.py轨迹路径使用cp env.example .env # 编辑 .env 配置模型、设备与可视化选项走前端路径还需要 Node.js 14 和 npm在frontend目录执行一次npm install见 frontend/package.jsonNext.js 14cd frontend npm install仅用 CLI 路径时这一步可以跳过。路径一CLI 直接生成热力图 PNGattention_cli.py是最快的复现方式真实跑模型、捕获自注意力、直接写出热力图 PNG无需前端。以下命令都在chapter2/attention_visualization目录下执行。# 默认提示词的热力图最后一层、对所有头取平均输出 attention_heatmap.png python attention_cli.py # 自定义提示词指定层/头与输出路径 python attention_cli.py --prompt 北京 的 天气 怎么样 \ --layer 0 --head 3 --output layer0_head3.png # 先生成一段续写再对「提示词 生成内容」的完整序列可视化 python attention_cli.py --prompt Explain attention in one sentence. \ --max-new-tokens 40 # 并排对比多个层上的 attention sink0 层、13 层、最后一层 python attention_cli.py --compare-layers 0 13 -1 --output layer_compare.png主要参数完整列表见python attention_cli.py --help参数含义默认-p, --prompt待可视化文本北京 的 天气 怎么样-o, --output输出 PNG 路径attention_heatmap.png-m, --modelHF 模型名或本地路径Qwen/Qwen3-0.6B--devicecuda/mps/cpu自动检测-l, --layer层索引-1 最后一层-1--head头索引-1 对所有头取平均-1--compare-layers并排绘制多层关--max-new-tokens捕获注意力前先生成 N 个 token0--no-chat-template直接喂原始提示词不加 /【免费下载链接】ai-agent-book《深入理解 AI Agent设计原理与工程实践》李博杰 著开源主仓库全书正文、编译版 PDF 与按章配套代码项目地址: https://gitcode.com/GitHub_Trending/ai/ai-agent-book创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 ai-agent-book 注意力可视化实验怎么用轨迹前端和 CLI 生成注意力热图
ai-agent-book 注意力可视化实验怎么用轨迹前端和 CLI 生成注意力热图【免费下载链接】ai-agent-book《深入理解 AI Agent设计原理与工程实践》李博杰 著开源主仓库全书正文、编译版 PDF 与按章配套代码项目地址: https://gitcode.com/GitHub_Trending/ai/ai-agent-book《深入理解 AI Agent》ai-agent-book第 2 章实验 2-2 的配套目录 chapter2/attention_visualization 提供两条生成注意力热图的路径一条是运行agent.py或main.py生成轨迹 JSON再通过 Next.js 前端在浏览器里交互式查看热力图另一条是独立 CLIattention_cli.py真实跑一遍模型、捕获自注意力矩阵后直接写出热力图 PNG不需要前端。两条路径共用同一个 Python 环境默认模型均为Qwen/Qwen3-0.6B。首次运行会下载约 1–2 GB 的模型权重文档推荐 GPU/MPS短提示词用 CPU 也可以。准备条件安装 ch2 环境与前端依赖在仓库根目录用 uv 安装第 2 章的统一环境Python 3.12包含 PyTorch、Transformers 等由根pyproject.toml的ch2extra 安装。未安装 uv 时文档给出的 pip 兜底是python -m pip install -e .[ch2]。# 在仓库根目录 uv sync --locked --python 3.12 --extra ch2 # 切换目录前先激活环境macOS/Linux source .venv/bin/activate cd chapter2/attention_visualization然后把 env.example 复制为.env并按需编辑。该文件配置模型名MODEL_NAME默认Qwen/Qwen3-0.6B、设备DEVICEauto/cuda/mps/cpu、注意力层索引ATTENTION_LAYER_INDEX-1为最后一层、生成参数MAX_NEW_TOKENS100、TEMPERATURE0.7等与可视化输出目录供agent.py/main.py轨迹路径使用cp env.example .env # 编辑 .env 配置模型、设备与可视化选项走前端路径还需要 Node.js 14 和 npm在frontend目录执行一次npm install见 frontend/package.jsonNext.js 14cd frontend npm install仅用 CLI 路径时这一步可以跳过。路径一CLI 直接生成热力图 PNGattention_cli.py是最快的复现方式真实跑模型、捕获自注意力、直接写出热力图 PNG无需前端。以下命令都在chapter2/attention_visualization目录下执行。# 默认提示词的热力图最后一层、对所有头取平均输出 attention_heatmap.png python attention_cli.py # 自定义提示词指定层/头与输出路径 python attention_cli.py --prompt 北京 的 天气 怎么样 \ --layer 0 --head 3 --output layer0_head3.png # 先生成一段续写再对「提示词 生成内容」的完整序列可视化 python attention_cli.py --prompt Explain attention in one sentence. \ --max-new-tokens 40 # 并排对比多个层上的 attention sink0 层、13 层、最后一层 python attention_cli.py --compare-layers 0 13 -1 --output layer_compare.png主要参数完整列表见python attention_cli.py --help参数含义默认-p, --prompt待可视化文本北京 的 天气 怎么样-o, --output输出 PNG 路径attention_heatmap.png-m, --modelHF 模型名或本地路径Qwen/Qwen3-0.6B--devicecuda/mps/cpu自动检测-l, --layer层索引-1 最后一层-1--head头索引-1 对所有头取平均-1--compare-layers并排绘制多层关--max-new-tokens捕获注意力前先生成 N 个 token0--no-chat-template直接喂原始提示词不加 /【免费下载链接】ai-agent-book《深入理解 AI Agent设计原理与工程实践》李博杰 著开源主仓库全书正文、编译版 PDF 与按章配套代码项目地址: https://gitcode.com/GitHub_Trending/ai/ai-agent-book创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考