研究介绍了Sketch-of-Thought (思维草图,SoT),这是一种用于大模型的新型Prompt提示框架,目标是提高推理效率。⭐️SoT通过轻量级路由器模型会动态选择最适合任务的范式。SoT框架的核心就在于受认知科学原理启发的三种范式(概念链、分块符号和专家词典),这些范式共同特点是「鼓励更简洁的中间推理步骤」!实验表明,SoT能够显著减少了 token 的使用(70%-80%),但对准确性的影响极小(甚至某些情况下有所提高)路由模型:可以选择是像 DistilBERT 这样的较小语言模型,训练目标是识别给定查询最合适的推理范式。 Sot的具体流程如下:- 对问题进行查询分析和范式选择:给定一个输入查询q,轻量级路由器模型会分析其特征,选择一个最合适范式;- 使用选定范式提示:一旦选择了范式,大模型将使用范式对应的Prompt模板进行提示。这些模板经过精心设计,通常包含展示所需简洁推理格式的示例;- 生成简要推理步骤:按照范式,Prompt模版的说明,LLM 生成简洁的中间推理步骤;SoT生成的推理步骤带有和传统思维链(CoT)中的详细步骤相同的逻辑信息,但更加简洁。- 最终答案生成; ⭐️本质上,SoT 将CoT中冗长的中间推理替换为更紧凑的“草图”,这些“草图”是基于三种范式生成的!- 概念链:基于人类如何连接和检索相关信息的认知科学原理。概念链通过提取关键术语,并将推理过程表示为直接的、逐步的概念路径,从而实现简洁的逻辑序列;示例:#Seoul → #South Korea → Won- 组块符号主义:组块符号主义将数值和符号推理组织成紧凑、结构化的步骤。示例:关于关于汽车加速的问题时。推理过程为a = 2.5 m/sˆ2, t = 10 s, vi = 15 m/s vf = 15 + (2.5 × 10), vf = 40 m/s;- 专家词典:受到专家图式研究的启发,专家词典通过利用领域特定的专用符号来压缩推理;示例:对于患有 STEMI 并对阿司匹林过敏的患者接受 MONA 疗法是否面临风险?STEMI → ST-Elevation MI, MONA → Morphine, O2, Nitrates, Aspirin, so Aspirin ∈ MONA#ai #chatgpt应用领域 #ai论文 #ai产品经理 #prompt #大模型摘要:研究介绍了Sketch-of-Thought (思维草图,SoT),这是一种用于大模型的新型Prompt提示框架,目标是提高推理效率。⭐️SoT通过轻量级路由器模型会动态选择最适合任务的范式。SoT框架的核心就在于受认知科学原理启发的三种范式(概念链、分块符号
来源:职场心灵导师