AgentScope Java Hook与Middleware新手教程

2026-06-15阅读 0热度 0
其他

第六章 深入理解 Hook 与 Middleware:五大拦截点,平滑迁移 1.x Hook,全面覆盖模型调用与系统提示

6.0 Middleware 究竟解决了什么问题?

Middleware 本质上是一段可插拔的代码——在 Agent 执行流程的特定阶段被自动触发。类比 Web 框架中的 Filter 或 Interceptor,理解起来更直观。

【AgentScope Ja va新手村系列】(6)Hook与Middleware

举个 Web 请求的例子:客户端请求先通过层层过滤器,最后到达控制器。同理,用户输入进入 Agent 后,也会依次经过一系列中间件,之后才轮到 LLM 推理、调用工具。区别在于 Agent 的执行路径上,你可以精确地在 5 个关键节点注入自定义逻辑。

这 5 个节点正好映射了一次 agent.call() 的完整生命周期:

agent.call(msg, rt) │ ├─ ① onAgent ← 整轮调用的起点(日志记录、耗时统计、限流) │ ├─ ② onSystemPrompt ← 系统提示词组装完毕、发送给 LLM 之前(动态注入时间/角色信息) │ ├─ ③ onReasoning ← LLM 推理阶段,输出文本时(审计日志、敏感内容检测) │ ├─ ④ onActing ← LLM 决定调用工具时(人工审批(HITL)、工具调用审计) │ └─ ⑤ onModelCall ← 实际向 LLM API 发起 HTTP 请求的前后(Token 计费、缓存、熔断)

最直接的例子:每次 Agent 被调用时自动输出一行日志。没有 Middleware,你需要在所有调用点手动插入打印语句:

class LoggingMiddleware extends MiddlewareBase { @Override public Mono onAgent(MiddlewareContext ctx, HookEvent event) { System.out.println(">>> agent 被调用了, session=" + ctx.runtime().getSessionId()); return Mono.just(event); } }

挂载到 Agent 后,每次 agent.call() 都会自动打印这行日志——无需在每个调用位置手写 System.out.println

再看一个更贴近实际生产的场景:每次调用 LLM 前打印已消耗的 Token 数量并计算费用。

@Override public Mono onModelCall(MiddlewareContext ctx, ModelCallResponse resp) { long tokens = resp.getUsage().totalTokens(); long cost = tokens * 2 / 1000; // 假设 2 元/千 token System.out.printf("本轮消耗 %d token,费用约 %d 分%n", tokens, cost); return Mono.just(resp); }

挂载后,所有 Agent 调用的 Token 消耗和费用自动输出——不用在每个 agent.call() 后面手动计算。

6.1 与 1.x Hook 的演进关系

1.x 旧写法(仅作对照,不建议在新项目中沿用)

import io.agentscope.core.hook.Hook; import io.agentscope.core.hook.HookEvent; class LoggingHook implements Hook { @Override public void onReasoning(HookEvent event) { System.out.println("[reasoning] " + event.getMessage().getTextContent()); } } ReActAgent agent = ReActAgent.builder() ... .hook(new LoggingHook()) .build();

2.0 新写法

import io.agentscope.core.hook.HookEvent; import io.agentscope.core.middleware.MiddlewareBase; import io.agentscope.core.middleware.MiddlewareContext; import io.agentscope.core.middleware.ModelCallRequest; import io.agentscope.core.middleware.ModelCallResponse; import reactor.core.publisher.Mono; class LoggingMiddleware extends MiddlewareBase { @Override public Mono onReasoning(MiddlewareContext ctx, HookEvent event) { System.out.println("[reasoning] " + event.getMessage().getTextContent()); return Mono.just(event); } } HarnessAgent agent = HarnessAgent.builder() ... .middleware(new LoggingMiddleware()) .build();

对比之下有两个核心变化:

Hookvoid 同步方法;新 Middleware 全部返回 Mono,便于链式组合。旧版只能绑定 ReActAgent;新版既可装在 HarnessAgent,也可装在 ReActAgent,适用范围更广。

6.2 五大拦截点速查表

只需重写 MiddlewareBase 的对应方法。每个点对应 Agent 执行流程中的一个特定时刻:

拦截点 触发时机 典型用途
onAgent agent.call() 开始与结束 全链路日志、耗时统计、限流
onSystemPrompt 系统提示词组装完成后,发送给 LLM 前 动态注入时间、角色、计划摘要
onReasoning LLM 推理过程中(每段文字输出时) 内容审计、敏感词检测
onActing LLM 决定调用工具时 人工审批(HITL)、工具调用审计
onModelCall 真正向 LLM API 发起 HTTP 请求的前后 Token 计费、缓存、熔断、提示词脱敏

下面逐一解析每个点的代码实现:

onAgent —— 整轮 call 的入口和出口

@Override public Mono onAgent(MiddlewareContext ctx, HookEvent event) { System.out.println(">>> call 开始, session=" + ctx.runtime().getSessionId()); return Mono.just(event); }

适用场景:日志头部、整轮计时、TraceId 注入、全局限流。

onReasoning —— 推理阶段

@Override public Mono onReasoning(MiddlewareContext ctx, HookEvent event) { System.out.println("[reason] " + event.getMessage().getTextContent()); return Mono.just(event); }

适用场景:思维链审计、敏感词检测、推理阶段限流。

onActing —— 行动阶段(工具调用之前)

@Override public Mono onActing(MiddlewareContext ctx, HookEvent event) { System.out.println("[act] tools=" + event.getToolCalls().size()); return Mono.just(event); }

适用场景:判断 LLM 打算调用的工具、决定是否需要转人工处理。

onModelCall

@Override public Mono onModelCall(MiddlewareContext ctx, ModelCallRequest req) { return Mono.fromSupplier(() -> { System.out.println("[model] in=" + req.getMessages().size() + " msgs"); return req; }); } @Override public Mono onModelCall(MiddlewareContext ctx, ModelCallResponse resp) { return Mono.fromSupplier(() -> { System.out.println("[model] out tokens=" + resp.getUsage().totalTokens()); return resp; }); }

onModelCall 是 1.x Hook 不具备的新拦截点,专为“模型调用前后”设计——非常适合:

提示词脱敏(脱敏后再发送到模型)、模型响应缓存(命中后直接返回 ModelCallResponse 短路)、Token 计数 / 限流 / 计费埋点、模型熔断(连续失败 N 次后直接抛出异常)。

onSystemPrompt

@Override public Mono onSystemPrompt(MiddlewareContext ctx, String sysPrompt) { return Mono.just(sysPrompt + "[organization] 当前时间: 2026-06-07"); }

适用场景:动态注入时间、组织名称、当前角色身份、计划模式下的摘要。

6.3 一个完整的“生产可观测”中间件

将“Trace 注入 / Token 计数 / 推理审计”三项能力整合到一个 Middleware 中:

import io.agentscope.core.RuntimeContext; import io.agentscope.core.hook.HookEvent; import io.agentscope.core.middleware.MiddlewareBase; import io.agentscope.core.middleware.MiddlewareContext; import io.agentscope.core.middleware.ModelCallRequest; import io.agentscope.core.middleware.ModelCallResponse; import reactor.core.publisher.Mono; public class ObservabilityMiddleware extends MiddlewareBase { @Override public Mono onAgent(MiddlewareContext ctx, HookEvent event) { RuntimeContext rt = ctx.runtime(); System.out.printf("[agent] start session=%s user=%s%n", rt.getSessionId(), rt.getUserId()); return Mono.just(event); } @Override public Mono onReasoning(MiddlewareContext ctx, HookEvent event) { if (event.getMessage() != null) { System.out.println("[reason] " + event.getMessage().getTextContent()); } return Mono.just(event); } @Override public Mono onModelCall(MiddlewareContext ctx, ModelCallRequest req) { long t0 = System.nanoTime(); ctx.putAttachment("model_t0", t0); // 将计时存入 ctx,供对应的 onModelCall 回调读取 return Mono.just(req); } @Override public Mono onModelCall(MiddlewareContext ctx, ModelCallResponse resp) { long t0 = (long) ctx.getAttachmentOrDefault("model_t0", 0L); long elapsed = (System.nanoTime() - t0) / 1_000_000; System.out.printf("[model] %d in / %d out / %d ms%n", resp.getUsage().inputTokens(), resp.getUsage().outputTokens(), elapsed); return Mono.just(resp); } }

挂载方式简洁:

HarnessAgent agent = HarnessAgent.builder() .name("weather_bot") .sysPrompt("...") .model(model) .workspace(Path.of("./workspace")) .middleware(new ObservabilityMiddleware()) .build();

6.4 与 Permission 系统的分工协作

需要明确一点:Middleware 拦截的是任意事件,而 Permission 系统只拦截工具调用。两者职责泾渭分明:

Permission 通过规则/mode 决定某个工具调用能否执行(ALLOW / DENY / ASK),但不能修改事件内容。Middleware.onActing / Middleware.onModelCall 负责修改事件内容、记录指标、触发告警。

工程实践中的推荐策略:业务级“全局跨工具”的横切逻辑放在 Middleware;具体“某个工具是否允许执行”的判断交给 Permission。关于 Permission 的详细内容,我们将在第 14 章展开。这里先记住一条原则:Middleware 负责改,Permission 负责卡。

6.5 完整可运行示例

import io.agentscope.core.RuntimeContext; import io.agentscope.core.message.UserMessage; import io.agentscope.core.model.DashScopeChatModel; import io.agentscope.harness.HarnessAgent; import ja va.nio.file.Path; import ja va.util.List; public class Chapter06_Middleware { public static void main(String[] args) { HarnessAgent agent = HarnessAgent.builder() .name("weather_bot") .sysPrompt("你是一个中文天气助手,每次回答不超过 50 字。") .model(DashScopeChatModel.builder() .apiKey(System.getenv("DASHSCOPE_API_KEY")) .modelName("qwen-plus") .build()) .workspace(Path.of("./workspace")) .middleware(new ObservabilityMiddleware()) .build(); agent.call( List.of(new UserMessage("user", "杭州今天多少度?")), RuntimeContext.builder() .sessionId("s-1") .userId("u-1") .build() ).block(); } }

运行后控制台输出类似:

[agent] start session=s-1 user=u-1 [reason] 用户问天气 [model] 51 in / 84 out / 612 ms [agent] end session=s-1

6.6 本章要点回顾

快速总结本章核心内容:

2.0 强烈推荐使用 Middleware 替代 1.x 的 Hook,抽象层次更高、原生支持 Mono 响应式组合。五大拦截点覆盖 Agent 全生命周期:onAgent / onReasoning / onActing / onModelCall / onSystemPromptonModelCall 是 1.x 没有的新点位,特别适合提示词脱敏、响应缓存、Token 计费、模型熔断。MiddlewarePermission 互补:Middleware 修改事件/埋点,Permission 决定工具调用是否放行。

下一章我们将把同样的 Middleware 理念推广到「子 Agent」,借助轻量级的 SubagentDeclaration + agent_spawn 工具构建层级化系统。

免责声明

本网站新闻资讯均来自公开渠道,力求准确但不保证绝对无误,内容观点仅代表作者本人,与本站无关。若涉及侵权,请联系我们处理。本站保留对声明的修改权,最终解释权归本站所有。

相关阅读

更多
欢迎回来 登录或注册后,可保存提示词和历史记录
登录后可同步收藏、历史记录和常用模板
注册即表示同意服务条款与隐私政策