两周干成一天！毕马威用100页Prompt落地企业Agent

要让一个LLM成为顶尖行业专家，需要多长的Prompt？

毕马威给出的答案是：100页。

作为四大咨询巨头之一的毕马威，搞出来一个新闻。说他们打造了一款名为TaxBot的税务AI助手，直接把过去需要两周的专业咨询工作，压缩到了一天内完成，效率提升超过10倍！

从封杀到All-in，从巨长Prompt到未来的Agent Runtime，毕马威这套操作，几乎把企业落地Agent该踩的坑、该走的路，都趟了一遍。

今天，给家人们分享一下这个框架思路。

毕马威的故事

2022年底，ChatGPT刚火的时候，毕马威也是第一时间介入。

但是很快，他们发现内网有一份文件，包含几千名员工的隐私信息。于是，立马拉闸，全面封禁ChatGPT。

然后，一个刚入职的毕业生，把公司封禁ChatGPT的截图发到社交媒体上，嘲讽公司不懂创新，直接搞成了个不大不小的公关危机。

随即，他们意识到一个新的问题：堵是堵不住的，唯一的出路是建立一套可控、安全的内部AI平台。

转机

真正的转折点，来自于和微软的一次软件许可谈判。微软提供了接入Azure OpenAI服务的机会，KPMG的AI征程正式开启。

他们的第一步，不是急于开发应用，而是构建一个安全、私有、统一的AI基础设施——KPMG Workbench。

这个Workbench平台的设计理念，对所有想在企业内部署AI的公司都极具参考价值：

KPMG很早就判断，没有任何一个供应商能永久主导LLM领域。因此，Workbench从一开始就集成了来自OpenAI、Microsoft、Google、Anthropic和Meta的多种模型。团队可以根据任务特性，灵活选择最合适的模型。

平台的核心能力是通过RAG，模型能接入KPMG内部的私有知识库，确保生成的内容有据可查，而不是凭空幻觉。

平台原生支持构建和部署AI Agent，让多个Agent协同工作，完成更复杂的任务。

100页Prompt的本质是什么？

有了Workbench，才有了TaxBot这个应用。

团队首先将公司内部散落在各个电脑里的高价值税务建议文档，与澳大利亚的完整税法一起，作为教材喂给了RAG模型。

100页的Prompt，就是指导AI如何学习和使用这些文档的手册。

比如，定义身份、任务分解（将复杂的税务分析任务，拆解成一步步的具体操作流）、各种约束（哪些信息绝对不能包含，哪些法律条文必须引用，以及如何处理模糊或矛盾的信息）、人机协同流程（AI在启动前需要向人类用户提问哪4-5个关键信息）...

AI的真实定位

KPMG反复强调一个关键点：只有税务专家才能使用这个工具。

人类专家的价值，从过去花费数周埋头撰写基础报告，转变为对AI生成的初稿进行快速审查、验证、修正和升华，从而提供更高质量、更迅速的决策支持。

AI接管了那些大家公认最枯燥、耗时的工作，员工可以聚焦于解决更有挑战性的硬骨头问题。

甚至一些客户在体验到TaxBot后，主动提出希望购买这些工具，为KPMG开辟了全新的收入流。

最后

KPMG表示，100页Prompt只是一个过渡形态。

未来更高效的方式，可能是一个Agent Runtime服务。

什么意思呢？就是不再靠一个万能的巨型Prompt去驱动一个全能Agent，而是构建一个平台，让多个更小、更专注的Agent（比如研究员Agent、作家Agent、编辑Agent）在一个任务上进行协同。

AI的未来不是更多的自主，而是更好的协同。从单个巨型智能，走向一个分工明确、流程清晰的AI员工团队。

本文转载自​​探索AGI​​，作者：猕猴桃