尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

多平台部署与自动化:Hermes 的“不绑定笔记本“哲学

多平台部署与自动化:Hermes 的“不绑定笔记本“哲学 多平台部署与自动化 的不绑定笔记本哲学我先前对于 AI Agent 的运用方式极为幼稚: 先是将笔记本开启 , 继而去启动终端 , 接着进行敲击 , 在使用完毕之后把它关闭 , 再将笔记本合上然后离开。这所表明的是 Agent 的生命周期等同于我的笔记本开机时长。而其设计前提全然不同: Agent理应是一项持续运行的服务, 无论你经由任何设备、借助任何平台接入于它。我将其部署于一台每月费用为五美元的VPS之上, 多数时候于手机之上与之交互, 当需要查看代码或者开展复杂操作之际便返回终端。它全天二十四小时保持在线状态, 有定时任务正在运行, 在我睡觉之时它或许正在生成每日报告或者于环境之中处于休眠状态等待唤醒。对这篇文章进行拆解, 其涉及多平台部署架构, 其中对于六种后端该如何选择, 消息网关要怎样接入, Cron又如何配置自然语言。六种终端后端从本机笔记本到 集群予以支持的是六种后端, 并非“六种部署方式”, 而是“六种代码执行环境”。你的 Agent 于一处运行, 即你的笔记本或者 VPS, 然而它所执行的代码却能在全然不同的环境里运行。后端原理适合场景闲置成本Local直接在 Agent 所在机器上执行命令个人开发机Agent 跑在本机$0在本地 容器中执行需要可复现的隔离环境$0容器存在但闲置SSHSSH 到远程机器执行代码需要跑在专门的开发服务器上目标服务器成本HPC 容器方案科研/高校的超算集群集群计算配额ModalGPU 云休眠唤醒需要 GPU 的任务不想长期占用资源近乎 $0只按唤醒时长计费开发环境需要完整开发环境VS Code 远程近乎 $0休眠时只收少量存储费模态和的休眠机制是值得去单独进行展开的。这两者解决掉了一个问题, 那就是你是需要人工智能智能体长期处于在线状态的, 也就是接收消息、运行定时任务, 然而它的执行环境在绝大部分的时间都是处于闲置状态的。传统的相关做法是智能体运行在一台24小时都处于开机状态的虚拟专用服务器上, 也就是每个月要花费5到20美元, 不管用不用都是在消耗钱财的。模态以及的方案为: 智能体的管理层面, 也就是对话引擎、消息网关、记忆系统, 运行于一个轻量级进程里, 执行层面, 即真正运行代码的环境, 会依据需求启动。当接收到任务之时将其唤醒, 执行完毕后马上进入休眠状态。历经一个月后, 执行层面的计费时长或许仅有几十小时, 其余的时间则处于零成本的休眠状态。存有一个实际的数字, 我将其部署于 Modal 之上长达一个月, 其中 Agent 管理面所产生的成本大概为 $2, 此成本基于轻量 CPU 持续不断运行的情况, 而执行面的计费时长约为 60 小时, 这是在我每日使用时长为 2 小时的情形下得出的, 总月费大约在 $5 - 8 之间。同样的使用模式, 要是 Agent 全程运行在一台每月费用为 $20 的 VPS 上, 那么月费就固定为 $20。不知你原句中两个空格处具体是什么内容呀, 请补充完整以便我准确改写。消息网关六个平台一个后台消息网关的存在是一个处于常驻状态的进程, 它同时对六条来自平台的连接进行着维护, 这六条连接分别是、、Slack、、, 还有内置的CLI。在技术实现方面, 网关层的设计极为质朴: 平台的每一条连接都是单独的一个, 它承担着接收平台消息的任务, 要将其转换为统一的内部消息格式, 接着写入对话数据库之后等待LLM进行回复, 再把回复转换成平台格式后推回去。关于跨平台连续性的保障在前面已阐述过——所有对话状态都存储在那里, 仅仅是对客户端进行读写操作。亮点之一是存在语音消息支持, 当向其发送语音消息之时, 网关会自动去调用转码以及 STT 模型来进行转文字操作, 之后当作普通文本消息予以处理, 对于处在通勤期间或者打字不方便之际使用 Agent 的场景, 比如“路上想到一个 bug 的修复思路, 发个语音给它让它试试”, 此种能力彰显出实际价值。我于其上给其发送消息时, 最为常用的场景是, 晚上看着代码察觉到问题, 于手机之上发送一条内容为 “明天记得帮我把 .go 里的状态机加一个 状态” 的消息。到了第二天早上, 将电脑打开之际, 已然完成了相应的修改, 结果在 和终端两边均能够看到。Cron自然语言定时任务你不用去写内置的 Cron 调度器的语法。你告知它, 每天早上 9 点给你发送昨天的代码提交摘要, 它会自行解析时间, 生成执行计划, 并按时运行。Cron 任务执行时具备完整的 Agent 能力, 并非仅仅运行一条命令, 而是能够读取文件, 调用 LLM, 推送消息。# 在 Hermes 对话中直接创建定时任务 每天早上 9 点读取 git log --sinceyesterday生成变更摘要发到 Telegram # 不需要写 crontab不需要配置 cron 表达式 # Hermes 自己解析时间 → 记录任务 → 到点执行 → 推送到指定平台Cron 和消息网关的组合产生了几个实用的自动化场景这些任务并非要求你处于在线状态, 而是要在VPS或者环境之中, 持续运行24小时, 当到达规定时间时能够自动执行, 并且自动推送结果。完整链路$5 VPS Cron有条具体的部署链路, 描述全局架构, 其中 Agent 被安装在每月费用为五美元的 VPS 之上, 该 VPS 配置了消息网关, 并且 Cron 进行了每日报告的设定。这条链路的月费用是, VPS 为 5 美元或者 Modal 是 5 至 8 美元, LLM API 费用在 30 至 80 元之间Kimi 轻量使用的情况, Bot 是免费的, 大致为每月 60 至 100 元。要是你采用订阅方式每月 20 美元包含 LLM 费用, 那么总成本约为每月 25 美元大约 180 元, 不过你能够使用 300 多个模型以及全套工具网关。将 Code Pro其价格为每月二十美元, 这不包含搜索、生图、TTS、定时任务以及多平台这些功能, 以及五美金的 VPS 加上二十美金总计约为每月二十五美金相比较, 可以发现它增多了可闲置的低成本优势以及横跨多个平台实现二十四小时在线的能力。要是你仅仅只是需要单纯的编码辅助, 那么 Code 是够用的要是你期望让 Agent 能成为持续运行的工作伙伴, 那么它的总体拥有成本会更低并且能力更为丰富。这篇文章不存在总结, 选择何种后端, 连接哪一个平台, 要不要配备定时任务, 全然取决于你怎样应用它。若把它当作“高级版Code”, 那就无需在多平台和Cron方面进行折腾。要是当成“24-hour在线的AI同事”, 那就值得耗费一个下午去配置好$5 VPS加上定时任务。
返回列表