思想链（CoT：Chain of Thought）经常作为加弱小模型推理才干的利器，
但大模型推理才干的优化多大程度过去自人为义务拆解？还是额外提醒的Token激起了面前更弱小的计算？
“让咱们逐渐思索：Transformer言语模型中的暗藏计算”[文献1] 发现了一个幽默的现象，
经过在思想链中参与有意义的两边Token（例如“……”）可以处置无两边Token时没法成功的较难的两个算法义务。
文献的论断是：参与额外Token就可以加弱小模型推理，甚至可以与Token自身内容选用有关。
网友本就惊讶于驰名提醒词“让咱们一步一步地想”（Let‘s think step by step）的神奇成果，
对本论文形容的“AI不依赖人类阅历的token内容，暗藏自行推理”，就更感觉魔幻且担心。
不过笔者发现，斯坦福谷歌等学者的预印论文，“思想链使Transformer能处置外在串行的疑问”[文献2]， 可以十分直观的用来解释文献1中提醒的现象！
文献2驳回了相似文献1中的电路复杂度剖析的方法，将Transformer看作必定深度的复杂电路，剖析其可以处置的疑问的复杂度。
电路复杂度剖析用 TC0示意可以经过一个固定深度的电路处置的计算疑问，而足够长的思想链，能将Transformer的表白才干裁减到TC0之外。
文献论断：“从概念上讲，CoT赋予模型口头实质上串行计算的才干，这是Transformer所不足的，尤其是在深度较低的状况下。”
意思是文献1形容的“AI不依赖人类阅历的token内容暗藏自行推理”，既不魔幻也无法怕，甚至可以说是Transformer外在毛病造成的。
文献进一步论证，经过T步CoT，经常使用固定位精度和O(logn)嵌入大小的固定深度Transformer可以处置任何可由大小为T的布尔电路处置的疑问。
实证上，CoT的作用是，提高了低深度Transformer在外在串行疑问上的表白才干。
笔者了解是，CoT 其实是疏导了Transformer防止便捷并行推理，而是经过串行的模式去一步步推理。
原理很直观，相似有向无环图DAG的处置，例如SQL数据查问，并不是一切的Access Plan DAG 中的算子都适宜并行，有许多并行阻断算子 parallel blocker, 例如全局sort。
这是Transformer特有的现象吗？Mamba之类的后劲架构能否可以规避这个疑问，优化zero-shot推理呢？
联合笔者的大模型数理原理的认知框架，可以这么看：LLM在领域中采样，变分推理时，
串行处置，引入两边消息，加深LLM在领域对象和态射中遍历的深度，逐渐调整采样概率散布，成功更准确的推理；
并行处置，参与填充消息，在宽度上无时机影响采样的概率散布，进而影响最后的推理成果。
文献1Let's Think Dot by Dot: Hidden Computation in Transformer Language Models
文献2Chain of Thought Empowers Transformers to Solve Inherently Serial Problems
本文转载自，作者：