- A+
然而,
【新智元导读】继提示工程之后,「上下文工程」又红了!这一概念深得Karpathy等硅谷大佬的喜欢,堪称「全新的氛围编程」。而智能体成败的关键,不在于精湛的代码,而是上下文工程。
IC外汇报导:
硅谷如今炙手可热的,不再是提示词工程,而是上下文工程(Context Engineering)!
大家常常忽略的是,
就连AI大神Karpathy,都为「上下文工程」投下了一票。
值得注意的是,
还有Shopify CEO Tobias Lütke称,自己更喜欢「上下文工程」,因其准确描述了一个核心技能——
可能你也遇到过,
通过为任务供应完整的背景信息,让大模型能够合理应对困扰的艺术。
不妨想一想,
一夜之间,「上下文工程」红遍全网,究竟是为什么?
IC外汇资讯:
上下文工程,一夜爆红
这背后原因,离不开AI智能体的兴起。
这你可能没想到,
OpenAI总裁Greg Brockman多次公开表示,「2025年,是AI智能体的元年」。
决定智能体成功或失败最关键的因素,是供应的「上下文质量」。也就是说,导入到「有限工作记忆」中的信息愈加核心。
容易被误解的是,
大多数AI智能体失败的案例,不是模型的失败,而是上下文的失败!
据相关资料显示,
那么,什么是上下文?
尽管如此,
要理解「上下文工程」,首先需要扩展「上下文」的定义。
很多人不知道,
它不仅仅是您发送给LLM的单一提示,可用将其视为「模型再生成响应之前,看到的所有材料」,如下:
指令/系统提示:定义模型在对话中行为的初始指令集,可用/应该包括示例、规则等。
客户提示:客户的即时任务或困扰。
IC外汇消息:
状态/历史(短期记忆):当前对话,包括客户和模型的响应,截至此刻。
根据公开数据显示,
长期记忆:跨多次之前对话收集的持久知识库,包含学习到的客户偏好、过去项目的摘要或要求记住以备将来运用的事实。
IC外汇消息:
检索信息(RAG):外部、实时的知识,来自文档、数据库或API的相关信息,用于回答特定困扰。
据业内人士透露,
可用插件:模型可用调用的所有作用或内置插件的定义,比如check_inventory、send_email。
结构化输出:模型响应格式的定义,例如JSON对象。
可用看出,与专注于在单一本文字符串中,精心构建完美指令的「提示词工程」不同,「上下文工程」的范畴要广泛得多。
请记住,
轻松来说:
从某种意义上讲,
「上下文工程」是一门学科,它致力于设计和构建动态系统。
总的来说,
这些系统能够在恰当的时机、以恰当的格式,供应恰当的信息和插件,从而让LLM拥有完成任务所需的一切。
说出来你可能不信,
以下是「上下文工程」的所有特点
更重要的是,
· 它是一个系统,而非一个字符串:上下文并非一个静态的提示词模板,而是一个系统的输出,这个系统在对LLM进行主调用之前就已经运行。
· 它是动态的:上下文是即时生成的,为当前任务量身定制。比如,某个请求可能需要的是日历数据,而另一个请求则可能需要电子 富拓官网 邮件材料或网络搜索结果。
· 它强调在恰当时机供应恰当信息与插件:其核心任务是确保模型 AVA外汇官网 不会遗漏关键细节(谨记「垃圾进,垃圾出」原则)。这意味着只在必要且有益的情况下,才向模型供应知识(信息)和能力(插件)。
IC外汇消息:
· 它注重格式:信息的呈现方法至关核心。一份简洁的摘要远胜于原始数据的罗列;一个清晰的插件接口定义也远比一条模糊的指令有效。
需要注意的是,
是一门科学,也是一门艺术
可能你也遇到过,
Karpathy长文点评中,同样认为「上下文工程」是艺术的一种。
概括一下,
人们往往将提示词(prompt),联想为日常运用中——发给LLM的简短任务描述。
反过来看,
然而,在任何一个工业级的 LLM 应用中,上下文工程都是一门精深的科学,也是一门巧妙的艺术。
IC外汇专家观点:
其核心在于,为下一步执行,用恰到好处的信息精准填充上下文窗口。
据相关资料显示,
说它是科学,是考虑到要做好这一点,需要综合运用一系列技术,其中包括:
任务描述与解释、少样本学习示例、RAG(检索增强生成)、相关的(可能是多模态的)数据、插件、状态与历史记录、信息压缩等等。
据相关资料显示,
信息太少或格式错误,LLM就没有足够的上下文来达到最佳性能;
然而,
信息太多或关联性不强,又会导致LLM的成本上升、性能下降。
IC外汇用户评价:
要做好这一点是颇为棘手的。
尽管如此,
说它是艺术,则是考虑到其中需要依赖开发者对大模型「脾性」的直觉把握和引导。
综上所述,
除了上下文工程本身,一个LLM应用还必须做到:
将困扰恰到好处地拆解成控制流
反过来看,
精准地填充上下文窗口
与其相反的是,
将调用请求分派给类型和能力都合适的LLM
更重要的是,
处理「生成-验证」的UIUX流程
IC外汇快讯:
以及更多——例如稳妥护栏、系统稳妥、效果评估、并行处理、数据预取等等…
更重要的是,
因此,「上下文工程」只是一个正在兴起的、厚重且棘手的软件层中的一小部分。
大家常常忽略的是,
这个软件层负责将单个的LLM调用,以及更多其他执行整合协调,从而构建出完整的LLM应用。
容易被误解的是,
Karpathy表示,把这类应用轻率地称为「ChatGPT的套壳」,这种说法不仅老掉牙了,而且大错特错。
IC外汇财经新闻:
有网友对此调侃道,上下文工程,是全新的「氛围编程」。
有分析指出,
Karpathy回应称,「我倒不是想自创个新词什么的。我只是觉得,大家一提到「提示词」,就容易把一个其实相当棘手的组件给想轻松了」。
您会用一个提示词去问LLM「天空为什么是蓝色的」。但应用程序呢,则是需要为大模型构建上下文,才能应对那些为它量身定制的任务。
有分析指出,
智能体成败,全靠它了
其实,打造真正高效的AI智能体秘诀,关键不在于编写的代码有多棘手,而在于您所供应的上下文有多优质。
站在用户角度来说,
一个效果粗糙的演示产品,同一个表现惊艳的智能体,其根本区别就在于供应的上下文质量。
来自IC外汇官网:
想象一下,一个AI助理需要根据一封轻松的邮件来安排会议:
嘿,想问下您明天有空轻松碰个头吗?
这你可能没想到,
「粗糙的演示」智能体获得的上下文很贫乏。它只能看到客户的请求,别的什么都不知道。
概括一下,
它的代码可能作用齐全——调用一个LLM并获得响应,但输出的结果却毫无帮助,而且非常机械化:
尤其值得一提的是,
感谢您的消息。我明天可用。请问您想约在什么时间?
接下来,再看看由丰富的上下文加持的惊艳智能体。
可能你也遇到过,
其代码的主要任务并非是思考如何回复,而是去收集LLM达成目标所需的信息。在调用LLM之前,您会将上下文扩展,使其包含:
简而言之,
代码的主要工作,不是决定如何响应,而是收集LLM完成目标所需的信息。
不妨想一想,
在调用LLM之前,您会扩展上下文,包括:
事实上,
日历信息:显示您全天都排满了
尽管如此,
与此人的过去邮件:用来判断应该运用何种非正式语气
说到底,
联系人列表:用来识别出对方是一位核心合作伙伴
据报道,
用于send_invite或send_email的插件
尽管如此,
然后,您就可用生成这样的回复:
嘿,Jim!我明天日程完全排满了,会议一个接一个。周四上午我有空,您看方便吗?邀请已经发给您了,看这个时间行不行哈。
简要回顾一下,
这种惊艳的效果,其奥秘不在于模型更智能,或算法更高明,而在于为正确的任务供应了正确的上下文。
IC外汇财经新闻:
这正是「上下文工程」将变得至关核心的原因。
以致说,智能体的失败,不只是模型的失败,更是上下文的失败。
根据公开数据显示,
要构建强大而可靠的 AI 智能体,本平台正逐渐摆脱对寻找「万能提示词」,或依赖模型更新的路径。
IC外汇财经新闻:
这一点,深得网友的认同。
简要回顾一下,
其核心在于对上下文的工程化构建:即在恰当的时机、以恰当的格式,供应恰当的信息和插件。
来自IC外汇官网:
这是一项跨职能的挑战,它要求本平台深入理解业务用例、明确定义输出,并精心组织所有必要信息,从而使LLM能够真正「完成任务」。
大家常常忽略的是,
最后,借用网友一句话,「记忆」才是AGI拼图的最后一块。