Agent成本暴降几十倍,LlamaFactory作者开源新工具:0.2元自动造Agent
过去,LlamaFactory让每个人都能微调大模型;
现在,PenguinHarness希望让每个人都能构建自进化Agent。
LlamaFactory的作者郑耀威最近开源了一个新项目PenguinHarness。这个「企鹅驾驭师」能帮你自动完成Agent的构建、评测和持续改进,真正从「手动调优Agent」迈入「Agent自我迭代」。
PenguinHarness是一个原生支持自我进化的AgentHarness,主打轻量、开源、易用。基于原创的Agent内核,无论是GPT-5.6还是
开源地址:https://github.com/Prism-Shadow/penguin-harness
主页链接:https://penguin.ooo
让Agent自动构建Agent
项目的初衷与2026年讨论得热火朝天的AI4AI,递归自我进化(RSI)等方向不谋而合。
Meta前研究总监田渊栋创立的Recursive着力探索AI递归自我改进的潜力,其首篇博客已经证明出Agent可以训练模型、优化GPU算子。
MSRA前副院长边江创立的XYZ AI Lab,也成功探索出一条通过运作数百个Agent完成Deep Research模型后训练的路径。
而PenguinHarness则是立志做最好用的开源Harness,让Agent自进化开箱即用,不再需要手动调优Agent。
它的第一项能力——让Agent自动构建另一个Agent。我们用一个最经典的案例对比PenguinHarness和OpenAI Codex的实际表现:「让AI生成一个RAG应用,实现分块检索,流式返回通俗易懂的答案,并带上引用」。
通过视频,我们可以清晰看出,PenguinHarness不仅花费比Codex更少的时间和低于数十倍的成本,还产出了几乎能直接落地的RAG Agent应用。
左边回答语言通顺,有流式输出,还有来源引用。而Codex的结果中英混杂,缺少流式输出。
过去,开发这样一套Agent应用需要框架选型、模型部署、接入工具、编写提示词、反复测试修改,每个应用都几乎从零开始,花费一个团队几个星期的精力。
即使有了Claude Code这类开发工具,它们对现有的Agent框架也比较陌生,很难做到像开发前端网页那么容易。而PenguinHarness从诞生之日起,就为自己设计好了一切选项。
而对于PenguinHarness,你只需要说清楚需求,它立即就能开干:生成脚手架、Prompt,安装和优化Skill,并搭建前端,直到把一个完整能跑的Agent应用交付给你。而这套流程,只需要花费0.2元的Token和一杯咖啡的时间。
郑耀威也为我们揭开了PenguinHarness的背后原理:它将文件系统作为唯一真相来源,Agent是文件,提示词是文件,对话历史也是文件。文件是人与Agent最自然的协作方式。
框架只负责把文件拼装成可运行的Agent对象,而构造一个新的Agent无外乎文件的复制粘贴。
在运行时,PenguinMessage作为唯一的消息协议,就像网络数据报文一样,在模型、环境和用户之间交换,这种统一且轻量的接口让PenguinHarness可以轻松接入到任意代码中。
PenguinHarness既是一个Agent框架,又是一个Agent实体,没有人比它更懂自己。
本地可复现的Agent自进化闭环
让Agent构建Agent只是PenguinHarness的第一步,PenguinHarness更长远的目标,是希望每个人都能在本地拥有自进化Agent。
构建Agent是从0到1,优化Agent是从1到100,其中需要跨越许多挑战。
「Chaning agents is easy; improving them is hard.」
在一次关于自进化的讨论中,郑耀威曾提出这样的观点:Agent本质上就是一堆代码和文件,修改它很容易,让他变好却很难。大模型本就已经是自带随机性的概率函数,Agent则更是一个充满了不确定性的自主系统。要想做好Agent自进化,那么必须要有一个可靠的「尺子」,也就是评估系统。
ReAct论文作者姚顺雨曾言,评估是大模型的下半场。对于Agent自进化,这句话同样成立,一套好的评估基准是自进化的根本。
为了探索准确的评估方式,郑耀威带领团队花费了半年多时间。最大的障碍是,现有的评估大多只有测试集,而没有训练集。如果在测试集上跑自进化,很难区分Agent到底是背会了答案,还是真正产生了进化。
为此,团队甚至亲手做了一套新的评估基准——GDPevo,专门用于测试Agent自进化能力,覆盖医疗、金融、法律等六大真实场景。通过划分训练/测试集,确保Agent进化时不会「偷看答案」。
PenguinHarness吸纳了GDPevo的核心思想,把Agent的评估和优化凝练为了开箱即用的Skills。在调用Skill以后,PenguinHarness就会启动多个智能体,配合完成Agent的调优流程,也就是「自进化」。
试想这样一个场景:做一个Agent帮你更准确的预测球赛、提出投资策略、处理电商售后,但是这个Agent一开始准确率并不高。过去,你需要通过手动调整提示词,搭建工作流来提高精度,而现在,PenguinHarness可以自动帮你完成Agent调优。
通过视频可以看出,PenguinHarness完成了多次迭代,Agent的分数从优化前的53分,提升到了优化后的95分。使用
这背后是一套多智能体的协作流程。PenguinHarness首先生成一个负责出题的Benchmark Builder,围绕目标能力生成一系列题目和答案对,通过反复测试来校准题目难度。
进入优化阶段后,三个承担不同角色职责的Agents会组成一个自进化闭环,反复进行下面四步过程:
组织评测:Optimizer Agent按照题目数量和运行次数,组织多个Evaluator Agents并行评测;
独立打分:每个Evaluator Agent启动一个独立的被测Agent解答题目,并且根据只有Evaluator才能看到的Rubrics打分,将分数返回给Optimizer Agent;
分析优化:Optimizer Agent汇总评测结果,通过查看和分析轨迹,定位失分原因,修改被测Agent的提示词、Skill或者配置,生成候选的下一版被测Agent;
验证迭代:Evaluator Agent对候选版本重新评测,Optimizer Agent根据结果决定是否接受候选版本,再进入下一轮迭代。
整个过程如下图所示,在整个优化过程中,只有在候选版本取得严格更高的分数时才会被接受,如果得分持平或下降,Optimizer Agent会回退到上一个版本。
从一次性交付走向持续进化,这就是PenguinHarness对下一代Agent Harness给出的回答。
和自进化Agent之间的契约
为了让Agent自进化跑得更「稳」,PenguinHarness设计了一套框架必须遵守的「契约」。
这份契约规定了Agent自进化的边界在哪里,我们在这里挑几个重点来讲。
限定Agent的修改范围为提示词和Skills,不能触及Harness内核。这是为了防止Agent在进化过程中产生安全风险,例如破坏了原有的权限审计规则。好的Agent建立在安全之上。
Agent自进化要有快照和回滚能力,如果产生了负面作用,框架要有能力将Agent版本回退到之前的状态。
目标Agent在进化过程中只能看到题目,不能看到Rubrics。这是为了防止Agent走捷径,通过背会答案或者迎合打分器来取得更高分数,防止Reward Hacking现象。
所有的优化流程都要形成文件记录,用户有权限去审计优化过程,提供自进化的可解释性。
这套契约也被PenguinHarness形式化为了一份「CONTRACT.md」文件,方便复制和分发。
PenguinHarness的其他有趣特性
团队在探索Agent自动构建范式的同时,也给PenguinHarness安装了一系列很有意思的能力。
首先,PenguinHarness内置了LlamaFactory、vLLM、Ollama等与模型训练、部署相关的Skills,你可以使用PenguinHarness,用类似Vibe Coding的方法来尝试启动模型训练和部署。
其次,PenguinHarness集成了统一的模型网关,支持接入1000多种在线与本地模型,与
此外,PenguinHarness还为
不仅如此,PenguinHarness本身还支持细粒度的行为轨迹分析,通过观察时间线,分析Agent的性能卡点。
此外,你也可以将PenguinHarness作为类似Pi Agent一样的空白Agent样板来使用,PenguinHarness内置的Agent保持了极简的设计,将Shell作为通用接口,使用极少的工具完成任务,将Subagent等功能作为核心性能目标进行了优化,系统提示词也只有Claude Code的十分之一(1,300vs15,000)。
在严谨的评估基准上,PenguinHarness配合
PenguinHarness的表现不仅停留在纸面上,在开发过程中,团队已经将PenguinHarness实际部署到了两个生产场景中。某家体检机构使用PenguinHarness生成了和医学专家能力类似的报告核查Agent,过去一份需要30分钟才能核查的报告现在只需要几十秒。
某家制造企业将PenguinHarness构建出的多个Agents应用到了流水线作业巡检上,全天候盯着设备状态并自动恢复,产线停机时间减少65%,产出提升了近2倍。
PenguinHarness以Apache2.0协议开源,支持Linux、Mac、Windows系统一键安装,既可以部署到本地机器,也可以放到服务器上远程通过浏览器访问,提供多用户隔离且支持团队协同使用,既可以作为Agent自动构建平台,也可以当做Codex的本地平替,以更低成本完成任务。
期待PenguinHarness开源项目可以得到更多关注,构建出各种有趣的Agent应用。PenguinHarness将努力作为Agent生产引擎,让所有人都能享受到自进化Agent带来的生产力提升。
PenguinHarness背后的团队
PenguinHarness由PrismShadow团队开源,团队成立于2025年,专注于打造能在真实业务中持续学习的Agent基础平台,让企业知识、工作流程和业务反馈转化为可部署、可评测、可持续优化的Agent。
PrismShadow创始团队成员包括:
郑耀威:LlamaFactory开源框架作者,GitHub7万星标,专注于打造更易用的模型与Agent基础设施。
钱步月:加州大学戴维斯分校博士,曾任IBM TJ Waston高级研究员,曾任复旦大学教授、博导。
吴雪军:前百度NLP部门创始成员,曾任阿里巴巴高级总监和京东数科副总裁。
胡俊豪:北京大学博士生,提出位置无关缓存,曾参与MiMo V2模型,Hy3系列模型的研发。
陈溪:美国纽约大学商学院教授,卡耐基梅隆大学博士,曾任亚马逊首席科学家。
从LlamaFactory到PenguinHarness,团队始终坚持的使命是:将复杂的AI能力,变成真正易用、可靠且高效的大众化工具。
参考资料:https://penguin.ooo
本文来自微信公众号“新智元”,作者:新智元;编辑:LRST,36氪经授权发布。















