本文详细介绍了 Hermes Agent一个能处理敏感内容的本地 AI 智能体。它支持自定义技能、内置 RAG 知识库适合科研工作。文章从安装配置到实际应用如文献 RAG 和技能使用进行了全面流程分享展示了其高效、安全的特点特别适合需要长期科研任务和文献整理的用户。最近一直在尝试AI工具试了Hermes Agent。它不是简单的聊天大模型而是一个真正能干活的本地AI智能体Agent支持自定义技能、内置RAG知识库适合处理论文、实验数据、文献综述这种敏感内容。今天把从零安装→配置→文献RAG→实际使用的完整流程分享出来希望能有用。一、Hermes Agent 到底是什么1、Hermes 核心定位它不是大模型是一套智能体调度框架 工具调用引擎 多子 Agent 协作 任务拆解系统简单理解大模型 大脑Hermes 手脚、调度员、项目经理、执行系统2、特点原生支持「多子Agent 分工协作」一个复杂任务自动拆成多个小 Agent 分头干活查资料、写代码、整理文档、纠错、复盘这是普通对话 AI 没有的。工具生态终端执行、文件读写、代码运行、搜索、解析文档、RAG 联动、批量处理开箱即用。轻量化、Docker一键部署、跨模型兼容不限定某一家模型Ollama 本地、DeepSeek、Qwen、GPT、Claude 全都能无缝切换。超长上下文、任务闭环能力强适合长期科研任务、材料文献整理、项目梳理、代码工程、多步骤复杂工作。 Nous 团队专门为「Agent 协作」优化它的指令格式、工具调用协议就是为智能体设计的比通用 AI 更会 “干活”。3、技术底层原理可跳过Hermes 这类 Agent 框架多子体靠三点实现1独立 System Prompt角色隔离给每一个子 Agent 单独设定身份你现在是专业文献分析师只做摘要、提取实验数据…你现在是工程代码工程师只写脚本、排错…2独立上下文窗口隔离每个子 Agent 的聊天记录、任务缓存互相隔离互不干扰。3编排调度逻辑框架自带Hermes 内置流程复杂任务自动拆解串行 / 并行派发任务给各个子Agent收集结果、校验、纠错、合并输出4、具体工作流程示例1用户输入帮我调研近3年锂电硅负极改性技术做结构化综述2Hermes 层自动匹配 → 触发相关Skill把Skill里的【调研步骤、交叉验证、输出规范】注入上下文带上可用工具列表联网搜索、网页精读、文件写入3大模型思考模型判断这个问题需要外部实时资料不能纯脑补必须拆分① 检索近3年硅负极改性主流方案② 精读高价值综述文献③ 对比不同改性路线优劣④ 整理结构化内容⑤ 自动保存为md文档模型主动输出工具调用指令不直接写答案4Hermes 接收指令 → 执行工具框架自动调用web\_search检索指定关键词拿到搜索结果自动筛选权威来源5结果回传给大模型 → 第二轮思考大模型收到搜索摘要继续决策摘要信息不够深需要精读2篇顶刊综述原文→ 再次下发「网页精读」工具指令6Hermes 再执行 → 反复循环搜索→精读→对比→核验自动多轮循环3~6轮7信息齐全后大模型按 Skill 规定的格式统一整理机理→路线→优缺点→瓶颈→前沿→产业化8最终下发「写入文件」指令Hermes 自动生成硅负极改性综述.md保存本地5、注意点在 Hermes 里选国内大模型API的时候会有两种API Chat Completions API传统 / 旧和Responses API新 / Agent 专用。Chat Completions API/v1/chat/completions无状态、手动传完整 messages 数组你自己管理上下文、自己处理工具调用循环、多轮对话要拼历史消息。Responses API/v1/responses有状态、自动管理上下文、内置工具 / Agent 能力传previous_response_id就能续对话单请求完成多轮工具调用 / 子任务拆分专门给 Agent 框架比如 Hermes设计。我试了qwen-3.6plus只支持chat completion API效果应该不如responses API国外大模型可以支持responses API.二、Docker方式部署安装Agent这是我最近在用的方式不污染系统升级/删除都很方便。第一步确认 Docker 已启动打开你的 Docker Desktop确保它在运行。第二步打开 PowerShell普通窗口就行拉取 Hermes 镜像docker pull nousresearch/hermes-agent:latest初始化配置让 Docker 帮你启动Hermes 并完成【第一次初始化设置】就是让你输入 API Key、选模型、配环境docker run -it --rm -v ${HOME}/.hermes:/opt/data nousresearch/hermes-agent:latest chat3、选择你想调用的大模型或本地部署的模型这一步如果不选择的话后面没法运行需要把模型的API等信息按照指令填进去。如果你现在选择了一个后面想做调整可以输入这个指令可以重新选择docker run -it --rm -v ${HOME}/.hermes:/opt/data nousresearch/hermes-agent:latest model如果你选择本地部署模型不想上传任何内容到云端要走「Custom Endpoint / 自定义接口」以用ollma为例第一步先在你电脑上安装并启动 Ollama下载安装ollama.com下载地址https://ollama.com/download/windows第二步打开 PowerShell拉一个轻量本地模型比如 llama3.2:3b适合本地跑ollama pull llama3.2:3b启动 Ollama 服务默认会自动后台跑端口 11434ollama serve回到模型选择界面在列表里找到并选择Custom Endpoint / OpenAI Compatible输入ProviderollamaBase URLhttp://host.docker.internal:11434/v1Model Namellama3.2:3bAPI Key随便填比如 localOllama 本地不需要 Key4、选择信息功能譬如微信、whatsapp等消息通道我选了skip暂时没有这个诉求→ (●) Set up messaging now (recommended)(○) Skip — set up later with hermes setup gateway然后就好了出现下面的交互页面你就可以直接和它对话了如上图所示有28个available tools和 69个skills。如果不清楚agent的命令可以输入/help就会给你显示三、核心功能1、Skill技能skills是 Hermes Agent 的核心扩展单元 —— 把复杂任务、工作流程、专业方法封装成可复用、可按需加载的结构化知识文档SKILL.md让 Agent 学会 “怎么做事”而不只是 “回答问题”。本质是Agent 的程序性记忆 / 方法库区别于 Memory事实记忆Skill 存 “怎么做”Memory 存 “是什么”。核心作用为什么要有 Skill复用复杂流程把多步骤、多工具调用的任务如代码开发、文献调研、部署、数据分析写成标准步骤下次直接调用不用重新推理按需加载、省 Token三级渐进披露只在需要时加载完整内容不占满上下文窗口标准化输出、提升一致性强制按规范步骤执行、按格式输出避免随机、混乱、错误Agent 自我进化完成复杂任务后Hermes可自动把成功流程提炼成新 Skill持续积累能力扩展能力边界安装社区 / 官方Skill快速获得专业领域能力科研、开发、运维、写作Hermes 最像“智能体”的地方就是可以写Skill, 写法非常简单可以不需要代码纯文字描述规则即可。我自己写了一个skill叫做material-basic存在skill文件夹中可以指定agent使用该skill如下图对话框所示2、本地文献RAG这是我用Hermes的一个主要理由不用上传文献到平台本地直接RAG检索问答。让它读你本地的文献譬如D:\Literature只多加一段挂载docker run -it --rm -v ${HOME}/.hermes:/opt/data -v D:\Literature:/papers nousresearch/hermes-agent:latest chat进入Hermes后执行导入rag import /papers直接开始提问“总结这些文献的研究方法”“提取所有离子电导率数据”“对比三篇论文的结论差异”“只根据文献回答不要编造”还可以调用外部材料数据库写到skill文件夹中给出相关指令就可以。譬如我写了一个skill调用materials project的数据https://materialsproject.org/在skill里面写清楚调用API的接口以及调用的流程和要求即可。真是万能的skill文件夹。四、实际使用感受优点 小不足优点挺好用✅全本地离线科研数据安全✅命令简洁启动就用✅文献导入一次永久保存✅支持长期记忆越用越顺手可能觉得不适应的地方命令行形式有些人不喜欢我觉得还可以费钱、费钱、费钱我试了agent调用qwen的费用同样的一个科研问题qwen大模型自己耗费0.06元token费用hermes agent调用同样的qwen大模型耗费0.15元token费用可能源于多次反复API接口但是我个人感觉比qwen的回答更让我满意。如果你也在找安全、本地、免费、能读文献、技能越用越强的的AI工具推荐试试 Hermes Agent。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】