源信息经过deepseek翻译并总结
摘要：
提示工程的兴起旨在应对低质量输入与上下文膨胀带来的隐藏AI成本。随着大型语言模型（LLM）处理更长上下文窗口和增强推理能力，计算量和成本显著增加。提示工程运维（prompt ops）通过优化提示设计降低成本，管理提示生命周期并监控调整以提升效率。常见提示错误包括未明确定义问题、忽略简化机会和未利用结构化优势。未来自动化工具和代理将减少人工干预，提升提示优化效率。
以下是翻译后的简体中文内容，严格保留Markdown格式及所有有效内容：
提示工程的兴起：应对低质量输入与上下文膨胀带来的隐藏AI成本 | VentureBeat
[跳至主内容](#primary)
[活动](https://venturebeat.com/events/)
[视频](/video/)
[特刊](/venturebeat-special-issues/)
[招聘](https://jobs.venturebeat.com/?source=navbar&utm_source=navbar&utm_medium=partner_referral)
[VentureBeat首页](/)
[订阅](/newsletters/?utm_source=VBsite&utm_medium=desktopNav)
* [人工智能](/category/ai/)
+ [查看全部](/category/ai/)
+ [AI、ML与深度学习](/tag/ai-ml-deep-learning/)
+ [自动机器学习](/tag/auto-ml/)
+ [数据标注](/tag/data-labelling/)
+ [合成数据](/tag/synthetic-data/)
+ [对话式AI](/tag/conversational-ai/)
+ [自然语言处理](/tag/nlp/)
+ [文本转语音](/tag/text-to-speech/)
* [安全](/category/security/)
+ [查看全部](/category/security/)
+ [数据安全与隐私](/tag/data-security-privacy/)
+ [网络安全与隐私](/tag/network-security-privacy/)
+ [软件安全](/tag/software-security/)
+ [计算机硬件安全](/tag/computer-hardware-security/)
+ [云与数据存储安全](/tag/cloud-data-storage-security/)
* [数据基础设施](/category/data-infrastructure/)
+ [查看全部](/category/data-infrastructure/)
+ [数据科学](/tag/data-science/)
+ [数据管理](/tag/data-management/)
+ [数据存储与云](/tag/data-storage-cloud/)
+ [大数据与分析](/tag/big-data-and-analytics/)
+ [数据网络](/tag/data-networks/)
* [自动化](/category/automation/)
+ [查看全部](/category/automation/)
+ [工业自动化](/tag/industrial-automation/)
+ [业务流程自动化](/tag/business-process-automation/)
+ [开发自动化](/tag/development-automation/)
+ [机器人流程自动化](/tag/robotic-process-automation/)
+ [测试自动化](/tag/test-automation/)
* [企业分析](/category/enterprise-analytics/)
+ [查看全部](/category/enterprise-analytics/)
+ [商业智能](/tag/business-intelligence/)
+ [灾备与业务连续性](/tag/disaster-recovery-business-continuity/)
+ [统计分析](/tag/statistical-analysis/)
+ [预测分析](/tag/predictive-analysis/)
* 更多
+ [数据决策者](/category/datadecisionmakers/)
+ [虚拟通信](/category/virtual/)
- [团队协作](/tag/team-collaboration/)
- [统一通信即服务](/tag/ucaas/)
- [虚拟现实协作](/tag/virtual-reality-collaboration/)
- [虚拟员工体验](/tag/virtual-employee-experience/)
+ [编程与开发](/category/programming-development/)
- [产品开发](/tag/product-development/)
- [应用开发](/tag/application-development/)
- [测试管理](/tag/test-management/)
- [开发语言](/tag/development-languages/)
[订阅](/newsletters/?utm_source=VBsite&utm_medium=mobileNav)
[活动](https://venturebeat.com/events/)
[视频](/video/)
[特刊](/venturebeat-special-issues/)
[招聘](https://jobs.venturebeat.com/?source=navbar&utm_source=navbar&utm_medium=partner_referral)
提示工程的兴起：应对低质量输入与上下文膨胀带来的隐藏AI成本
==================================================================
作者：[Taryn Plumb](https://venturebeat.com/author/taryn-plumb/ "Taryn Plumb的文章") [@taryn_plumb](https://twitter.com/taryn_plumb)
2025年6月27日 下午1:00
* [分享到Facebook](//www.facebook.com/sharer/sharer.php?u=https%3A%2F%2Fventurebeat.com%2Fai%2Fthe-rise-of-prompt-ops-tackling-hidden-ai-costs-from-bad-inputs-and-context-bloat%2F&t=提示工程的兴起：应对低质量输入与上下文膨胀带来的隐藏AI成本)
* [分享到Twitter](//twitter.com/intent/tweet?text=提示工程的兴起：应对低质量输入与上下文膨胀带来的隐藏AI成本&url=https%3A%2F%2Fventurebeat.com%2Fai%2Fthe-rise-of-prompt-ops-tackling-hidden-ai-costs-from-bad-inputs-and-context-bloat%2F&via=VentureBeat&related=VentureBeat,GamesBeat)
* [分享到LinkedIn](https://www.linkedin.com/cws/share?url=https%3A%2F%2Fventurebeat.com%2Fai%2Fthe-rise-of-prompt-ops-tackling-hidden-ai-costs-from-bad-inputs-and-context-bloat%2F&token=&isFramed=true)
*本文是VentureBeat专题"AI的真实成本：规模化下的性能、效率与投资回报"的一部分。[阅读更多](https://venturebeat.com/venturebeat-special-issue-the-real-cost-of-ai/)专题内容。*
模型供应商持续推出具备更长上下文窗口和增强推理能力的大型语言模型(LLM)，这使得模型能处理更多信息并"思考"得更深入，但同时也增加了计算量：模型接收和输出的内容越多，消耗的能源就越多，成本也越高。
再加上提示工程中的反复调试——往往需要多次尝试才能获得预期结果，而有些问题本不需要像博士一样思考的模型——计算开支很容易失控。这催生了提示工程运维(prompt ops)，成为[AI时代黎明期](https://venturebeat.com/ai/voice-ai-that-actually-converts-new-tts-model-boosts-sales-15-for-major-brands/)的全新学科。
"提示工程更像是创作过程，而提示运维则类似于出版，需要持续优化内容。"IDC总裁Crawford Del Prete告诉VentureBeat，"内容是鲜活的、不断变化的，你需要确保它能随时间推移不断改进。"
计算使用与成本的挑战
-------------------------------------
Vector研究所应用科学家David Emerson解释，计算使用和成本在LLM领域是"相关但独立的概念"。用户支付的费用通常根据输入标记（用户提示）和输出标记（模型回复）的数量而定，但后台操作如元提示、引导指令或检索增强生成(RAG)并不额外收费。
更长的上下文窗口虽能让模型一次性处理更多文本，但直接转化为显著增加的FLOPS（计算能力单位）。如果管理不当，某些Transformer模型特性甚至会随输入长度呈平方级增长。不必要的冗长回复不仅会拖慢处理速度，还需要额外计算资源来构建和维护算法，以将回复后处理成用户期望的答案。
Emerson指出，长上下文环境往往会促使供应商刻意生成冗长回复。例如许多高推理负荷模型（如OpenAI的o3或o1）即使回答简单问题时也常输出长文本，导致高昂计算成本。以下示例：
**输入**：*解答数学题：如果我有2个苹果，吃掉1个后又买了4个，现在有多少苹果？*
**输出**：*吃掉1个后只剩1个。如果我再买4个就会有5个苹果。*
模型不仅生成了超出需要的标记量，还将答案埋没在文本中。工程师可能不得不设计程序化方法来提取最终答案，或通过追加提问（如"你的最终答案是什么？"）产生更多API成本。
替代方案是重新设计提示引导模型直接输出答案。例如：
**输入**：*解答数学题：如果我有2个苹果...（问题同上）。请以"答案是"开头回答...*
或：
**输入**：*（相同问题）请将最终答案用加粗标签<b></b>标注。*
"提问方式能降低获取目标答案所需的成本。"Emerson表示。少量示例提示(few-shot prompting)等技术也有助于快速输出。但需警惕过度使用思维链(chain-of-thought)等复杂技术，这会诱使模型生成大量标记或多次迭代——并非所有查询都需要模型反复分析才能作答。
向提示运维演进
-----------------------
IDC的Del Prete指出，AI优化基础设施目前仍是稀缺资源，企业必须最大化GPU利用率，在请求间隙填充更多查询。"如何榨取这些珍贵资源的更多价值？因为提升系统利用率已成刚需，我们已无法简单通过增加容量解决问题。"
提示运维能有效应对这一挑战，它本质上是管理提示的生命周期。Del Prete解释："提示工程关乎提示质量，而提示运维侧重持续优化。这更像是编排工作——通过精心设计问题与AI的交互方式确保最佳产出。"
模型可能出现"疲劳"，陷入输出质量下降的循环。提示运维则负责监控、测量和调整提示。"展望未来三四年，这将发展成完整学科和专业技能。"目前该领域尚处早期，代表性平台包括QueryPal、Promptable、Rebuff和TrueLens。Del Prete预测未来代理将能自主调整提示："自动化水平将提升，人工干预减少，代理在创建提示时将拥有更高自主权。"
常见提示错误
-------------------------
在提示运维完全成熟前，完美提示仍不存在。Emerson列举的主要错误包括：
* 未明确定义待解决问题：包括回答形式、考虑因素、约束条件等。"模型通常需要充足上下文才能满足预期"
* 忽略简化问题的机会：答案是否应在特定范围内？能否用选择题替代开放问题？能否提供示例或拆解为多个简单查询？
* 未利用结构化优势：LLM擅长模式识别，许多还能理解代码。项目符号、加粗标记等对人类看似杂乱，但对模型大有裨益。要求结构化输出（如JSON或Markdown）也有助于自动化处理。
Emerson强调生产管道还需考虑工程最佳实践：
* 确保管道吞吐量稳定
* 监控提示随时间变化的性能（可通过验证集）
* 建立测试和早期预警机制
用户也可利用专业工具辅助提示设计，如开源框架DSPy能根据少量标注示例自动优化下游任务提示。虽然这是较复杂的工具，但ChatGPT、Google等平台也内置了提示设计辅助功能。"最简易的做法是持续关注有效的提示方法、模型进展和新型交互配置。"Emerson总结道。
最新发布：VB Transform 2025新增50张门票
---------------------------------------------------
6月24-25日旧金山峰会，与顶尖领袖共商真实AI挑战，分享实战经验，塑造未来趋势。席位有限，立即抢占。
[了解更多](https://www.vbtransform.com/)
[VentureBeat首页](/)
[Facebook关注我们](https://www.facebook.com/venturebeat/)
[Twitter关注我们](https://twitter.com/venturebeat)
[LinkedIn关注我们](https://www.linkedin.com/company/venturebeat)
[RSS订阅](https://feeds.feedburner.com/venturebeat/SZYF)
[新闻稿](/tag/business-sponsored-company-news/)
[联系我们](/contact/)
[广告合作](https://media.venturebeat.com/)
[新闻爆料](/contact/)
[投稿DataDecisionMakers](/guest-posts/)
[隐私政策](/privacy-policy/)
[服务条款](/terms-of-service/)
请勿出售我的个人信息
© 2025 [VentureBeat](https://venturebeat.com/). 保留所有权利。
```### 你需要的AI洞察力
提交
感谢订阅。了解更多[VB新闻通讯请点击此处](/newsletters/)。
发生错误。