数学者は人工知能の判断基準を理解しようとしているようです

 この投稿は前回「人工知能は理解しない　というお話し」の続きです。

人工知能が判断できるようになっても、「なぜ判断できたか」は説明できないというお話でした。ではなぜ説明もできないような「判断」が業績として社会で受け入れられて、活用しているのかというと、

説明できなくても、その人工知能を簡単に運べたり再現できたりできるからです。

家庭用の炊飯器が美味しくお米を炊く方法はわからなくても、家電量販店で炊飯器を買ってきてスイッチを入れると、みなさんも使えますね。同じように、理由はわからなくても人工知能はある程度知識があれば、開発したヒトから買ったり、似たモノを作ることができるのです。

それで、理由を説明できない人工知能を現代社会は活用している、というわけです。

でも、説明できないモノについて納得しない人たちは必ずいるはず、と思ってScience newsで数学の記事を探していました。数学者のみなさんは、きっと、「説明できない」ということに納得されない、と考えたからです。

それで、

Finding simplicity within complexity

という記事を見つけました。

紹介していた研究は、Nature machine intelligence という雑誌の

Data-driven discovery of intrinsic dynamics

という論文です。著者のFloryanさんは、20000以上の変数でしか説明できない(つまりほとんど説明になっていない)化学反応を一つの数式にまとめることができたそうなのです。

この研究をうまく利用すれば、大量のデータから人工知能が何を学習して正しい判断に至ったかを説明することができるかもしれません。

おそらく、その論文にはたくさんの数式が並んでいて、どうやって自分の課題に適用すればよいかはすぐにはわからないかもしれませんが、内容はわからなくても、権威ある雑誌で高度な専門能力を持った数学者が示してくれた数式ですから、使ってみる価値はあります。その数式を使うことができれば、たくさんの問題を解決することができるはずです。

Pythonなどのプログラムを使うと、その数式はほとんどわからなくても、数式を使うことは、可能です。

残念ながら、現在、論文の本文を読むことはできませんが、要旨と他の研究を調べて、彼らがどのような数学的技術を使ったかは調べることができました。

Dynamics とTheory of manifolds です。

Dynamicsは、変化を解析する学問で、おそらく、学習する際に、どのように予測が進むかを計算中に調べることで人工知能を単純化しようとしているようです。

もう一つのTheory of manifoldsですが、多面体に関する理論です。正確なところはわからないのですが、どうも、人工知能で学習している多数の変数を表面に割り当てたような多面体を想定すると、その多面体と似ている単純な多面体を作り出すことができて、単純な多面体は少ない変数を持つ単純な数式にできるらしいということが想定されます。

Wikipedia (https://en.wikipedia.org/wiki/Manifold)

最後にまとめますと、

数学者は、普通のヒトが理解できない人工知能の判断基準を単純な数式にまとめる技術を見つけたようなのです。

これを理解と呼ぶかは別にして、もし、この技術が実用化されると、人工知能の処理速度は何千倍も早くなります。おそらく、この技術は、まず自動運転に活用されることと思います。私もどこかで使ってみたいと思います。