1. 背景
大言语模型在工业界运行的一个关键阻碍就是大言语模型（LLMs）不遵照规范化输入格局。这种不分歧性，使得输入解析变得更为复杂，也削弱了这些模型的牢靠性。
所以，大家广泛会驳回结构化输入的方式来规避这一疑问，也就是经常使用格局化限度，比如以规范化格局启动输入，比如：Json、XML等。
这些限度可以经过多种方式来成功，比如批示模型遵照带有格局限度指令的指定格局，或许经常使用像JSON形式这样的规范处置打算。这些打算让LLMs能够愈加顺利的融入到实践AI运行中去。
那么，这种格局限度指令，能否会影响LLMs生成内容的品质？
比如下图，GPT-3.5-turbo 在这个 GSM8K数学识题上用规范人造言语输入时，可以给出正确答案，但是一旦增加了格局限度，GPT-3.5-turbo就输入了失误答案。
1.1 对比的格局限度方法
为了系统性钻研这个疑问，作者针对三种格局限度方法启动对比钻研：
1.2 测试的数据集
作者对比了两大类义务，区分是：推理义务和分类义务。
1.2.1 推理义务
1.2.2 分类义务
1.3 测试的模型
对 gpt-3.5-turbo-0125 、claude-3-haiku-20240307 、gemini-1.5-flash 启动了比拟。
关于开源模型，经常使用 LLaMA-3-8B-Instruct 和 Gemma-2-9B-Instruct ，并借助 Text-Generation-Server 启动推理，因其允许 JSON 形式。
1.4 评价目的
关于基于分类的义务（体育了解、DDXPlus、人造指令义务 280 和 MultiFin），将准确率作为关键目的。
关于Last Letter Concatenation和 GSM8K，经常使用准确婚配目的，即最终答案必定与实践答案齐全字符串婚配。
2. 格局限度对最终结果的影响
经过对比三种逐渐放宽的揭示方式——JSON 形式、FRI 以及 NL 到格局的转换，来探求格局限度对大型言语模型（LLM）功能的影响。
2.1 推理义务
咱们在具备准确婚配分数的数据集上对这些方式启动评价，如上图中出现的 GSM8K 和Last Letter Concatenation。
在Last Letter Concatenation义务中，JSON 形式的体现清楚逊于 FRI（JSON）。经审核，发现 100％的 GPT 3.5 Turbo JSON 形式照应将“答案”键置于“要素”键之前，造成了零样本间接回答，而非零样本思想链推理。
将 NL 到格局与不受限度的人造言语照应相比拟，发现大少数模型的功能近乎相反，由于两者均从相反的初始人造言语照应得出答案。但是，NL 到格局偶然会引入生成失误，以至 LLaMA 3 8B Instruct 的功能略低，而其余模型在两种设定下坚持了分歧的分数。
格局限度的水平和实施方式能够清楚影响大型言语模型的功能，尤其在推理义务中。
结构化输入中的键的顺序以及推理与格局遵照的解耦，成为在提供结构化照应的同时坚持大型言语模型才干的关键要素。
2.2 分类义务
在评价分类数据集时，观察到了与推理义务不同的趋向，如上图所示。值得留意的是，在 DDXPlus 数据集中，启用 JSON 形式时，Gemini 1.5 Flash 的功能清楚优化。在其余分类数据集中，JSON 形式具备竞争力，在某些状况下，逾越了其余三种方法。
JSON 形式经过限度或许的答案从而缩小答案选用中的失误，提高了分类义务的功能。
相反，人造言语照应或许会引入搅扰，造成解析失误。
格局限度对大型言语模型功能的影响取决于义务：严厉的格局或许会阻碍推理密集型义务，但能提高须要结构化输入的分类义务的准确性。
2.3 对较宽松格局限度的影响
为进一步探求格局限度所带来的影响，调查了 Soft Restrict 设置的一种变体，即从揭示形容中移除形式限度。不再提供特定的形式（比如：“以以下形式用 JSON 格局回复您的答案：{‘reason’：…，‘answer’：…}”），而是单纯批示大型言语模型以目的格局言语启动输入（比如：“以 JSON 格局回复您的答案。”）。
上表展现了在 GSM8K 数据集上移除形式限度后的成果。关于 Claude 3 Haiku、GPT-3.5 Turbo 以及 LLaMA 3 8B Instruct 而言，在不同的揭示扰动下，平均得分清楚优化，规范差降低。
这些结果标明，只管结构化输入对下游处置或许有益，但过于严厉的形式或许会阻碍大型言语模型的功能，尤其在推理密集型义务中。
这一发现象征着，在宿愿取得易于解析的结构化输入与保管大型言语模型固有推理才干之间，必定达成平衡。
在处置复杂推理义务时，或许招思索驳回较宽松的格局限度，同时仍坚持必定水平的结构，以利于下游处置。
2.4 不同格局的比拟
经过对比不只是 JSON，还有 XML 和 YAML 格局来消融格局言语。由于这三种言语有着不同的语法规定和限度。推断每个模型的体现或许各异，例如 Claude-3-Haiku 将 XML 用于工具经常使用形式，所以回过头来看，未见就任何一种结构格局能在一切模型中一直体现杰出，如下图。关于 Gemini 模型，发现 JSON 更具分歧性，但并非总是优于其余格局。
发如今分类义务中，由于答案空间的限度，JSON 形式的体现比文本好很多。
但是，在推理关系义务中，JSON 形式未能遵照先推理后回答的顺序，以至最终功能大幅降低。
2.5 结构格局与解析失误率
最后推测文本与结构化格局之间的功能差距可动力于答案提取环节中的解析失误。
但是，对不同格局和模型的失误率剖析标明，解析失误并非关键要素。
实践上，Gemini 1.5 Flash 和 GPT 3.5 Turbo 在这三种格局中均简直不存在解析失误。在 LLaMA 3 8B 的设置中，JSON 格局下 Last Letter 义务的解析失误率仅为 0.148%，但却存在高达 38.15%的功能差距。
标明格局间的功能差异关键并非源于解析失误，而是格局限度对大型言语模型推理和生成环节的影响。
经过揭示 Claude-3-Haiku 为 Claude 3 Haiku 和 LLaMA 3 8B（解析失误百分比最高的两个模型）从新格局化任何存在解析失误的输入，观察到 JSON 和 YAML 格局的得分有所提高，如上图 所示。这种方法展现了在不就义特定格局优化长处的状况下优化结构化输入牢靠性的后劲。
3. 论断
格局的限度，尤其是解放解码（JSON 形式），会阻碍推理才干，却能优化分类义务的准确率。
较宽松的格局限度理论能提高功能，并缩小推理义务中的差异。
解析失误虽非功能差异的主因，但经过纠正揭示可得以缓解。
在 LLM 运行中平衡格局遵照、推理才干与老本效率的关键性。
本文转载自，作者：