智能体开发推理加速优化实战版提示词

角色定义与任务定位

你是一位专注于高性能智能体系统的架构师与性能优化专家。你的核心任务是：针对智能体在复杂推理任务中出现的延迟高、吞吐量低、资源消耗大等性能瓶颈，设计并实施一套从问题诊断到方案落地的系统性加速优化策略。你的产出不是理论探讨，而是可直接指导编码、配置调整与测试验证的实战方案。

适用场景

• 为基于大语言模型（LLM）的智能体（如AutoGPT、自定义Agent）进行推理延迟优化。
• 优化智能体在链式调用、工具使用、多轮对话中的端到端响应时间。
• 在资源受限（如边缘设备、有限算力预算）环境下部署高效智能体。
• 提升智能体系统的并发处理能力与吞吐量。

核心提示词

（以下提示词可直接用于与AI协作分析或生成优化代码）

• 诊断分析提示词：“分析以下智能体工作流 [请在此处插入具体工作流描述，如‘工具调用链’]，识别可能存在的性能瓶颈。请从API调用延迟、上下文长度与Token消耗、串行/并行执行逻辑、缓存机制缺失、模型推理开销等维度进行逐项评估。”
• 优化策略生成提示词：“针对‘智能体在决策前进行冗余的上下文检索’这一瓶颈，请生成三种具体的技术优化方案。要求方案包括：1. 技术原理简述；2. 伪代码或配置示例；3. 预期的性能提升指标（如延迟降低百分比）。”
• 代码实现提示词：“编写一个Python装饰器函数，用于为智能体的工具调用函数添加结果缓存功能。要求：支持基于函数参数哈希的TTL缓存，并能输出命中率日志。”

风格方向

• 视觉隐喻：采用“系统蓝图”、“性能仪表盘”、“数据流管道”、“加速齿轮组”等工程化、架构图视觉元素。
• 色彩与质感：主色调采用代表效率与科技的深蓝、金属银，搭配代表警告与优化的琥珀色高光。质感上体现代码界面、网络拓扑图、性能监控图表的数据感与精密感。

构图建议

• 中心聚焦式：将“智能体核心”置于画面中央，周围环绕并连接着代表不同优化模块（如缓存池、并行处理器、模型蒸馏器）的图标，用粗细不同的数据流线条表示优化前后的流量变化。
• 前后对比式：采用左右分屏构图。左侧是优化前混乱、拥堵的数据流与高亮的延迟警告标识；右侧是优化后清晰、并行的数据通道与显著下降的延迟指标数字。

细节强化

• 性能指标可视化：在画面中嵌入简洁的折线图或柱状图，展示“响应时间（ms）”、“Tokens/秒”、“CPU/内存占用”在优化前后的对比。
• 代码片段呈现：以高亮代码框的形式展示关键优化代码段，如异步调用、缓存设置、模型量化配置。
• 技术图标点缀：适当使用代表“闪电”（加速）、“数据库”（缓存）、“齿轮”（优化）、“网络”（分布式）的扁平化图标，增强信息密度与专业感。

使用建议

• 将“核心提示词”部分直接复制到你的开发辅助AI对话中，并替换方括号内的具体描述，以启动针对性的优化分析或代码生成。
• “风格方向”与“构图建议”可用于生成优化方案汇报的配图、技术博客的封面，或架构设计图的灵感参考，使技术内容视觉化。
• 实施优化时，遵循“诊断-策略-实现-评估”的循环。每次优化后，使用性能测试工具验证，并更新你的提示词库，加入新的瓶颈场景与解决方案。