原文摘要
很多人分不清楚什么是“提示词”(Prompt),什么是“提示词工程”(Prompt Engineering
进一步信息揣测
- 提示词工程的隐性成本:优化提示词时,增加CoT(思维链)步骤虽能提升效果,但会导致Token消耗增加、响应时间延长,甚至可能偏离原意,需权衡效果与效率。
- 模型迭代的实践洞察:随着模型升级(如推理模型发布),原有复杂提示词(如分步翻译)可能失效,需简化策略(如改用“用中文重写”),需持续测试适配新模型特性。
- 上下文工程的隐藏规则:上下文不仅包含用户输入,还包括系统提示、工具返回、历史会话等,但上下文窗口有限,需精准筛选内容以避免性能下降(如优先保留工具返回的关键数据)。
- 行业测试方法论:有效评估提示词需设计盲测(如隐藏方法让用户对比效果),并通过小样本测试集(如10篇文章)验证优化方向,而非依赖主观判断。
- 工具链的隐性依赖:大模型回答复杂问题(如AI新闻)需调用外部工具(日期/搜索工具),但工具返回信息的质量直接影响输出,需预设工具校验机制。
- 长期记忆的潜在影响:用户偏好(如语言习惯)会被存储为长期记忆,可能无意中限制模型灵活性(如默认中文响应),需主动管理记忆内容。
- 上下文压缩技巧:实践中可通过摘要或关键词提取压缩历史会话/工具返回信息,减少Token占用,同时保留核心上下文。