张伊凡、袁洋关于 DoT推理思维图理解

  张伊凡、袁洋在AI的推理方法中,将线性链条的推理CoT(Chain of Thought)拓展为路径为DAG(单一模型内构建有向无环图)的推理DoT(思维图 Diagram of Thought),使得机器的推理过程更接近人类的模式。(原文请看本文后面的连接)

一、人类推理模式

  人类的认知过程包括概念、判断和推理的思维要素。有效推理,需要提出的命题是有效的,推理的过程,是符合逻辑规则的。实际上,面对一个问题的解决,有不同的步骤设置,在这不同的步骤中,就对应着相应的每一个步骤的命题和推理逻辑规则,在每一个步骤之中都会观察是否有效,如果是正确的,就向后面推,相当于检测代码bug的时候都是一段一段往后推进的。对于可能存在的多条成功解决路径,最后归纳总结成为一个解决问题的序列方法。
  上述面对问题的解决框架,人类常常是分而治之,分为多个方法,一个一个方法来试,是个一个动态决策过程。问题描述➯先往前推进一步➯看看效果如何,给出反馈意见,正确就可以继续下一步,错误就直接放弃➯调整方法给出新的解决方法➯如果问题解决了,开始下一步➯迭代这个过程,直到所有的问题全部得到解决➯对第二个子问题路径重复之前使用方法的流程➯前面方法中某一个环节的有效结论还可以直接作为前提输入。这个过程说得到的所有的有效解决措施都被学习到。然后归纳优化成为一个推理有效性框架的方法。

二、推理过程模型

1.结构化模型

  这样的是一个推理过程,需要结构化为对象和关系。对象包括提议者和他生成的命题/推理步骤、批评者和综合者。这个框架下,为了防止循环论证,整个过程保证单项的流动,在互动中对于判断结果不同而形成的路由关系等。DoT的出现无疑是一个非常合适的方法。DoT,用图论的方法来表达不存在环路和自环的有向图。这个过程避免了循环依赖的出现,


F68664B9-679A-4630-A2A9-80C0684A8580.png

2.几点疑问

不过,对于这个过程,还是有几点疑问:
  1).提议者怎样生成命题/推理步骤。这些命题和最早的问题是什么关系?一个问题,提议者会给出多个命题,这些命题是怎样被设定的?命题的细化是怎样实现的?
   2).批评者怎样对命题进行评估。通过识别错误、矛盾或逻辑缺陷来评估每个命题。如果提供有效的批评,则将其作为节点添加到 DAG 中。批评者的对错由谁来保障?通过模型本身的不断细化和反馈来验证?但是LLM应该没有学会判断非形式谬误,使用形式逻辑或者数理逻辑来判断吧。
  3).总结者将经过验证的命题组合成一个有凝聚力的逻辑链。执行拓扑排序以产生最终的推理输出。专注于合成有助于得出结论的路径
  4).总结后的逻辑链在今后的推理中怎样使用。怎样获得更好的逻辑推理方法?汇总的逻辑链通过逐步完善模型来增强推理过程。随着时间的推移,它使模型能够提高其推理能力,类似于人类通过反馈来提高解决问题的能力。
  以上的过程已经是模型,结构化了,要便于对这个框架的结构合理性进行判断,需要使用形式化方式来表达,在形式化系统中演算判定系统的特点。

三、形式化描述

1.理论基础

  对于推理模型,其在形式上合理,在实际的推理中,这样的形式和规则是否有效,其判断就是一致性和完备性。这个要求让我们自然过渡到数学的系统中。
  之前做数据的强制访问控制的BIBA模型,通过多因素来核定两个数据之间的完整性级别高低,判定的条件和关系非常复杂。访问的规则是级别高的可以写入级别低的,但是不读入,反之亦染。对于这一个复杂的情况,我们是通过将主客体和访问关系构造一个偏序集,形式化后对于各种完整性等级主客体的访问方式是否完全符合“上读下写”,是通过数理逻辑通过把合式公式来进行逻辑推理实现的,就保证了设计的系统能完整完成设计的初衷。
  高层次抽象的范畴论,研究数学对象之间的结构和关系。基本的结构是“范畴”,由一组“对象”(objects)和这些对象之间的“态射”(morphisms)组成,态射满足:态射之间的可组合性和恒等态射的存在性两个基本条件。关注这些对象之间的关系,而不直接研究对象本身的内部结构(集合论关注的是集合内部元素和集合之间的关系)。
范畴论(Category Theory)的核心概念是“对象”(objects)和“态射”(morphisms),并范畴论通过对象与对象之间的态射,描述数学领域中各种结构的转换和对应。
  Topos理论起源于范畴论,由法国数学家亚历山大·格罗腾迪克(Alexander Grothendieck)在研究代数几何问题时提出。既可以看作是一个关于“空间”的抽象理论,也可以看作是一个关于逻辑和计算的框架。一个Topos可以被看作是一类具有某种性质的范畴,类似于“集合范畴”,最重要的贡献之一是将逻辑和几何结合起来,使得Topos可以用于研究数学逻辑中的模型和构造计算机科学中的推理系统。
  范畴逻辑是通过范畴论的语言和工具来研究逻辑系统的一种方法。Topos理论中的范畴逻辑特别强调“逻辑结构”如何与范畴论中的态射和对象相关联。通常,我们在集合论中研究逻辑结构,比如命题逻辑、谓词逻辑等,而在范畴逻辑中,这些逻辑结构通过范畴论中的对象和态射来表达。
  Topos理论中,每个Topos可以看作是一个“内部逻辑系统”,类似于经典集合论中的模型。范畴逻辑中的命题、量词、推理规则等都可以通过范畴对象之间的态射来描述。
  PreNet范畴是特定类型的范畴,通常用于表示并行计算中的网络模型。这种范畴的对象表示网络的不同状态,而态射则表示状态之间的转换。这种模型在Petri网和分布式系统等领域中得到了应用。PreNet范畴的结构通常是有向图的抽象化,用来描述事件、进程或系统的动态行为。
  在PreNet范畴中,重点是定义网络中的并行性和同步性,通过范畴理论工具来捕捉这些系统的行为。它的研究通常与操作语义(operational semantics)和代数语义(algebraic semantics)等领域相联系。

2.对应关系

image.png

  通过这样的对应,对DoT的思路有了一个理解,用数学理论保证了推理的逻辑一致性。事实上整个表格也可以通过范畴论的方法来进行形式化,极端的抽象在实例化后使用的范围越广。

https://mp.weixin.qq.com/s/pzn802jOIHeL0L9L_yaytw

https://arxiv.org/pdf/2409.10038

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,098评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,213评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,960评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,519评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,512评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,533评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,914评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,574评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,804评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,563评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,644评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,350评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,933评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,908评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,146评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,847评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,361评论 2 342

推荐阅读更多精彩内容