242023.4

Rich text to image

232023.4

通向AGI之路:大型语言模型(LLM)技术精要

092023.4

从贝叶斯概率问题想开

如果一定的条件可以改变一个结果(事件发生)的概率,那么我们需要问一个问题:在事实不变的情况下,为何结果不同?这里我的本质是在问:结果是否为一个事实?很显然,答案是“不是”。这让我突然很容易理解很多以前无法理解的问题。例如双缝干涉实验,在这个实验中“事实”是什么?“结果”是什么?我们观察到的,最终是“结果”,而非“事实”。同理,在人类社会中,“事实”总是不变的,而“结果”是概率的坍缩。而概率的本质,就是不确定性,就是熵。我们人类社会,包括我们作为个体的人,都是在对抗这种不确定性。如今大火的AI,技术本质上,也是概率。可以说,在我想明白这个问题之后的人生中,几乎所有的与人类相关的问题的本质,都是概率问题。或许也正是因为概率的存在,我们相信平行宇宙的存在。

不过回到本质上,概率不能替代事实,概率会影响结果,而通过对抗不确定性,可以控制概率(或者不叫控制,而是通过阶段性结果让让不确定性发生坍缩),让原本未知的概率暴露在我们的已知中,从而失去其中部分概率的活性,让我们可以选择不同的条件,进而得到对自己更好的结果。而控制概率的方法(消除不确定性的方法)最主要的途径就是:获取有用信息!所以,在另一个层面上,我们这个宇宙的一切,由“物质(含能量)”和“信息”组成,其中“物质”是事实,而“信息”是使概率坍缩的要素,最终得到一个“结果”,这个“结果”才构成我们的现有宇宙,无论在哪一个维度上。

从我们社会的人个体的角度出发,我们要掌握从海量信息中,找出“有用的信息”,使我们未知的概率进行坍缩,基于坍缩后的概率进行重新选择,进而获得我们更有益的方向发展。

我在思考一个问题:“抛硬币游戏中,获得硬币正面和反面的结果,概率各自为50%”,在这个假设下,我们通过事实进行检验,抛1万次,事实正好符合这一假设。既然基于概率的假设能够得到相对准确的结果,那么是否“事实决定了概率”,且“概率是一定的(即条件不变的情况下,结果是一定的)”?很显然,没有任何证据证明“事实决定了概率”,也无证据证明“概率是一定的”。“事实”是固定的,不变的,而“概率”是被赋予的,被谁赋予,我们并不知道。“概率”是否是“一定的”,这我更无法进行辩论,但从客观观察来看,它确实是固定的。我们平日里讲“本来胜出的概率是50%,但是现在发生了XX情况,现在胜出的概率是90%”,并非指单一概率,而是条件概率,对于50%和90%而言,都是在特定条件下,但是可以肯定的是,这两个概率,是固定的,你不会说“我胜出的概率既是50%,也是30%”。也就是说,概率是先验的,是不管统计是否存在都一定存在的客观,硬币不会因为不进行统计就不会抛1万次有大概5000次正面朝上。

最后,回到最开始,一个最严重的问题:基于概率的结果所带来的影响,是否是“事实”?这个问题我是在问,如果假设我们前一刻的因,所带来的果又会成为下一个果的因,那么是否意味着宿命论和轮回?这个问题如果能回答,那么就能回答平行宇宙以及等等相关的问题。我们来举一个例子,我们买彩票,是否在我们选定了彩票号码的那一刻,我们是否中奖的结果就已经决定了?再来一点更猛的,是否一开始,所有参与这次开奖的人是否中奖的结果,都在同一时刻被决定了。(因为我们在买完号码之后,不能更改号码,只能等待开奖。)按照我们今天的这个假设,结果并不是一开始就决定的,而是在概率的流动过程中,渐渐坍缩出来的。对与买彩票是否中奖这件事,它因为我们购买彩票的动作发生在彩票开奖之前,所以,我们是无法根据概率的坍缩调整其条件的,因此,无法基于条件选择而影响结果。

概率复杂度是由结果的数量来决定的,结果的数量(可能性)越多,得到某一结果的概率越小(事件发生的次数与总次数的比值)。但是,概率的大小并不是由其数量决定,而是由什么决定呢?这里我不得而知。虽然从从概率学的角度,我们可以计算概率,或者通过实验统计获得概率,但是为什么其结果如此,并没有证据。这里,我的意思是,概率大小是客观的,不随我们的计算和实验发生变化,因此,不是由后验的理论和实践决定的。在宇宙的尺度,是由哪一只看不见的手决定了概率的大小,以我们目前的技术是无法验证的。

还有一个事情就是蝴蝶效应,我们现在做一个思想实验,假设,现在事件A有A1, A2, A3三个结果,事件A发生的时候,恰恰B事件也发生了,我们此刻不知道B事件是否与A事件有关联,于是我们开始反复做实验,并得到事件B的概率:

P(B)=P(A1)P(B|A1) + P(A2)P(B|A2) + P(A3)P(B|A3)

是否意味着,A和B一定存在某种概率上的联系,如果是“一定”的,那么是否意味着隔壁家的猫走丢了,和我今晚吃了红烧肉之间一定存在某种联系?如果这种联系,被我们以某种技术提前知悉,是否意味着我们可以通过概率的手段,实现很多看上去不可能做到的事。

最后,作为普通人,作为在这个社会中生存的个体,我们要尝试利用概率,发现概率与结果的规律,并克服人类本能里面的直觉,以获得超越普通常识和人伦约束的顺应自然。

总结一下,本文涉及的一些点:

  • 客观世界=物质(含能量)+信息
  • 事实,即“客观世界”,是特定的,客观的,唯一的
  • 因为时间的存在,客观世界存在状态,状态是流动的,发散的,持续演进的
  • 在这一流动中取一个客观世界状态的截面,就是“结果”
  • 同一事实对应不同结果,结果是不唯一的,多态的,但其本质是事实的表象
  • 结果是由概率坍缩而成的
  • 概率的本质是不确定性、可能性,即“熵”
  • 概率是客观的,先验的,不以是否统计而存在
  • 概率大小的决定因素目前未知,从宇宙尺度上存在某种规定概率大小的力量
  • 信息是消除不确定性的唯一要素,且只有有用信息能达到这一目的
  • 虽然单一截面上的概率是确定的,先验的,不以是否统计而存在
  • 但流动过程中,概率会不断叠加,因此,由于时间的存在,概率在流动中整体表现为动态的,某一结果并不是概率的简单累积
  • 存在一种假设,某一“果”是另一“果”的“因”,即“结果n=结果n-1*概率”
  • 由于信息能消除不确定性,因此在“结果n-1”上通过获取有用信息进行积极选择,可以使“结果n”的可预见性更清晰
  • 人类无法改变事实和概率本身,但可以通过选择来获得不同结果,通过这种方式来叠加概率,以达到拥有符合自身预期的客观世界流动方向的目的
  • 单一个体和社会群体之间存在某种联系,以使得不同单一个体的选择趋势客观世界流向趋于一致
  • 单一个体要掌握获取有用信息的可靠渠道来让自己消除不确定性
  • “通过有用信息消除不确定性并进行选择”的本质是利用条件概率,即找出“基于事件A的结果An发生事件B的概率”的合理n
  • 上述这种行为的本质,是一种利用概率的技术
20:15:13 已有0条回复