2022 年底，ChatGPT 上线，同时引爆了一个新的名词：提醒工程（Prompt Engineering）。
简而言之，提醒工程就是寻觅一种编辑查问（query）的方式，使得大型言语模型（LLM）或 AI 绘画或视频生成器能获取最佳结果或许让用户能绕过这些模型的安保措施。如今的互联网上四处都是提醒工程指南、快捷查问表、倡导推文，可以协助用户充沛经常使用 LLM。在商业畛域，如今也有不少公司竞相经常使用 LLM 来构建产品 copilot、智能化繁琐的上班、发明团体助理。
之前在微软上班过的 Austin Henley 最近采访了一些基于 LLM 开发 copilot 产品或服务的人：「每一家企业都想将其用于他们能构想到的每一种用例。」这也是企业会寻求专业提醒工程师协助的要素。
但一些新的钻研结果标明，提醒工程干得最好的还是模型自己，而非人类工程师。
这不由让人疑心提醒工程的未来 —— 并且也让人越来越疑心或许相当多提醒工程岗位都只是稍纵即逝，至少少于该畛域的构想。
01 智能微调的提醒很成功，也很怪
当面对奇异的提醒工程技术时，LLM 的体现经常很怪异又无法预测。加州的云计算公司 VMware 的 Rick Battle 和 Teja Gollapudi 也为此感到困惑。举个例子，人们发现假设让模型自己一步步地解释自己的推理环节（即思想链技术），其在许少数学和逻辑疑问上的性能都能获取优化。
更奇异的是，Battle 发现，假设为模型提供正向的 prompt，比如「这会很幽默」或「你和 ChatGPT 一样痴呆」，有时刻模型的性能也会优化。
Battle 和 Gollapudi 选择系统性地测试不同的提醒工程战略会如何影响 LLM 处置小学数学识题的才干。他们经常使用 60 种不同的 prompt 组合区分测试了 3 种不同的开源言语模型。
论文标题：
论文链接：
他们获取的结果出现出了惊人的不分歧性。甚至思想链 prompt 设计方法也不总是好的 —— 有时刻有用，有时刻却有害。
「惟一的趋向就是没有趋向，」他们写道：「关于恣意给定模型、数据集和提醒工程战略的某个特定组合而言，最好的方法很或许都十分具备针对性。」
有一种方法可以代替这种经常造成不分歧结果的试错格调的提醒工程：让言语模型自己设计最优的 prompt。最近，人们曾经开收回了一些智能化这一环节的新工具。给定一些示例和定量的成功目的，这些工具可迭代式地找到保送给 LLM 的最优语句。
Battle 及共事发现，在简直一切案例中，这种智能生成的 prompt 的体现都优于经过试错方法找到的最佳 prompt。而且智能方法的速度还快得多 —— 只有一两个小时，而不是好几天。
另外，算法输入的这些最优 prompt 往往十分怪异，人类基本无法能想进去。Battle 说：「我简直不敢置信它生成的一些物品。」
举个例子，有一个 prompt 就是间接把《星际迷航》的谈话格调搬上来了：「指挥官，咱们须要您绘制一条穿过这股湍流的路途并定位意外源。经常使用一切可用数据和您的专长疏导咱们渡过这一困境。」很显然，假设以看待柯克舰长的态度看待这个特定的 LLM，就可以协助它更好地解答小学数学识题。
Battle 示意，以算法方法优化 prompt 在原理上是可行的，毕竟言语模型本就是模型。「很多人将这些物品拟人化，由于它们『说英语』，」Battle 说，「不，它不是说英语，而是做少量数学运算。」
理想上，依据其团队的钻研成绩，Battle 示意：人类再也不应该人工优化 prompt。
「你就坐在那里，试图找到单词的某种神奇组合，从而让你的模型在你的义务上获取最佳的或许体现。」Battle 说，「但这个钻研结果却会通知你『别费神了』。你只有开发一个评分目的，让系统可以自己判别一个 prompt 能否比另一个好，而后让模型自己去优化就行了。」
02 智能微调的提醒也能让图像变难看
图像生成算法也能受益于智能生成的 prompt。
近日，Vasudev Lal 指导的一个英特尔试验团队做了一个相似的钻研名目，不过他们是优化图像生成模型 Stable Diffusion 的 prompt。「假设只能让专家来做提醒工程，那看起来就更像是 LLM 和分散模型的一个 bug，而不是配置。」Lal 说，「所以，咱们想看看能否智能化这种提醒工程。」
Vasudev Lal 的团队开发了一种工具：NeuroPrompts。
论文标题：
论文链接：
该工具可以智能改良便捷的输入 prompt，比如「骑马的男孩」，从而获取更好的图像。为此，他们一开局经常使用了一些人类提醒工程专家设计的 prompt。而后训练了一个言语模型来将便捷 prompt 转换成这些专家级 prompt。
在此基础上，他们继续经常使用强化学习来优化这些 prompt，从而获取愈加美观的图像。这里的美观水平又是由另一个机器学习模型 PickScore 判别的（PickScore 是近期产生的一个图像评价工具）。
▲左图是经常使用普通的 prompt 生成的图像，右图是 NeuroPrompt 优化 prompt 之后再生成的图像。
这里也一样，智能生成的 prompt 的体现优于人类专家给出的 prompt（用作终点），至少依据 PickScore 目的是这样的。Lal 并不以为这出乎预料。「人类只会经常使用试错方法来做这件事。」Lal 说，「但如今咱们有了这种齐全机器式的、完整回路的方法，再辅以强化学习…… 因此咱们可以超越人类提醒工程。」
由于审美是十分客观的，因此 Lal 团队宿愿让用户可以在必定水平上控制 prompt 优化的方式。在他们的工具中，用户除了可以指定原始 prompt（比如骑马的男孩），也能指定想要模拟的艺术家、格调、格局等。
Lal 置信随着生成式 AI 模型的开展，不论是图像生成器还是大型言语模型，对提醒工程的奇异依赖就会隐没。「我以为钻研这些优化方法十分关键，最后它们可以被整合进基础模型自身之中，这样你就无需复杂的提醒工程步骤了。」
03 提醒工程将以某种方式继续存在
Red Hat 软件工程初级副总裁 Tim Cramer 示意：就算智能微调 prompt 变成了行业规范，某种方式的提醒工程岗位依然不会隐没。能够满足行业需求的自顺应生成式 AI 是一个十分复杂、多阶段的上班，在可预感的未来里都须要人类的介入。
「我以为提醒工程师将会存在相当长一段期间，还有数据迷信家。」Cramer 说，「这不只仅只是向 LLM 提问并确保答案看起来不错。提醒工程师其实要有才干做很多事件。」
「做出一个原型其实很容易。」Henley 说，「难的是将其产品化。」Henley 示意，当你在构建原型时，提醒工程就是拼图中的相当大一局部，但当你开局构建商业产品时，还须要思索其它许多要素。
开发商业产品的难题包括确保牢靠性（比如在模型离线时得体地应答）；将模型的输入调整成适宜的格局（由于很多用例须要文本之外的输入）；启动测试以确保 AI 助理不会在少数状况下做出有害的事件；还要确保安保、隐衷与合规。Henley 示意，测试与合规尤其艰巨，由于传统的软件开发测试战略不适宜非确定性的 LLM。
为了实现这少量的义务，许多大公司都正在推出一个新的上班岗位：大型言语模型经营（LLMOps）。该岗位的生命周期中就蕴含提醒工程，但也蕴含其它许多部署产品所需的义务。Henley 示意，机器学习经营工程师（MLOps）是最适宜这个岗位的，这是 LLMOps 的前身。
不论这个职位是叫提醒工程师、LLMOps 工程师还是其它新名词，其特性都会始终极速变动。「兴许咱们如今是叫他们提醒工程师，」Lal 说，「但我以为其互动的实质会始终变动，由于 AI 模型就在始终变动。」
「我不知道咱们能否会将其与另一类上班或上班角色结合起来，」Cramer 说，「但我以为这些岗位不会很快隐没。如今这一畛域真实太疯狂了。每个方面都变动很大。咱们无法在几个月内就搞明确这一切。」
Henley 示意，在某种水平上，如今正处于该畛域的早期阶段，惟一压倒性的规定仿佛就是没有规定。他说：「如今这个畛域有点像是狂野西部。」
原文链接：