読者です 読者をやめる 読者になる 読者になる

確率について

数学 哲学 機械学習

今回は確率理論の根底に実は論理学がある、というお話をしたいと思います。

確率というのは今や機械学習に始まり、自然科学のみならず人文科学まで様々に応用されている重要な数学の概念です。しかし、そもそも確率とは一体何なのでしょうか?これは結構な難問です。今回は確率理論の「根底」を見ていくと実はそこに論理学がある、あるいは、ある意味では確率理論=論理学である、というお話をしたいと思います。

まず、論理学について簡単に説明します。論理学とは、要するに

(ルール1)「A→Bが真である」「Aが真である」ならば「Bが真である」

みたいなルールのことです。つまり論理学=ルールと考えてもらえればいいと思います。

それでは、他に妥当なルールはないのでしょうか?実は、こんな面白いルールを考えることができます。

(新ルール1)「A→Bが真である」「Bが真である」ならば「Aはより尤もらしくなる」

例えばA=頭がいい、B=出世する、と考えてみましょう。この新ルールは、「頭がいい人は出世する」「佐藤さんは出世した」ならば「佐藤さんは頭がいいというのは尤もらしい」という意味です。「佐藤さんは頭がいい」、と言い切ることはできませんが、これはより尤もらしくなる、ということです。

(新ルール2)「Aが真であるならば、Bはより尤もらしくなる」「Bは真である」ならば「Aはより尤もらしくなる」

こんな新ルール2もそれなりに妥当であると思います。具体的に考えて確認してみてください。

 

さて、それではどのように新ルールを付け足すべきでしょうか?問題なのは、新ルールが山ほどあると、ちょっと大変になってしまうということです。なので、数学において、ルールというのは「公理」で表すことで、ルールの数を最小化するべきです。

なので、これらの新ルールも公理化してみると、次のように要約されます。

(公理1)尤もらしさは実数によって表される

(公理2)尤もらしさの数値は、「コモンセンス」によって決まる

(公理3)矛盾した考え方をしない(だいぶ簡略化した言い方で、本当はもっと複雑です)

なんだかよく分かりませんね。でもとにかく、この公理によって、ある命題Aに対して定まる尤もらしさw(A)は、本質的には確率p(A)と同じになります。例えばp(A)+p(Aでない)=1という当たり前の性質も、たったこれだけの公理で証明することができてしまいます。

さて、それではルール1、および新ルール1と2が、確率によってどのように表されるのかを見てみましょう。まず、ルール1というのは次のように条件付き確率を使って表せます。ただしCはA→Bという命題を示しています。

(ルール1)p(B|A,C)=1

また、新ルール1とは

(新ルール1)p(A|B,C) >= p(A|C)

ということに他なりません。これは条件付き確率の公式より、p(A|B,C)=p(A|C)p(B|A,C)/p(B|C)

であり、ルール1よりp(B|AC)=1、またp(B|C)<=1より明らかです。

最後に、今度はCを何らかの事前情報として、

(新ルール2)p(B|AC) > p(B|C) ならば p(A|BC) > p(A|C)

ということになります。

 

以上のように、確率の根底を見ていくとそこには論理学があり、論理学は実は確率によって表現することができるのです!これは論理学<=確率理論、ということを示しています。また一方で、そもそも確率理論は新しい公理を使ったひとつの論理学に過ぎないので、確率理論<=論理学、ということもできます。つまり、このような意味で論理学=確率理論であり、これらは表裏一体なのです。

このことを突き詰めていけば、確率とは何か、という難問に対して、一つの答えが見つかりそうですね。時間を見つけてもうすこし深く勉強してみるので、楽しみにしていてください。

広告を非表示にする