あぁ今週も誰とも会話しなかった・・・

専業トレーダー。完全無欠の引篭もり。人と一切の関わりを持たない生活。

AIの思考は既に人類には理解出来ないらしい。

jp.wsj.com

この記事SFとして面白い。

AIによるトレードが上手くいかない理由は一昔前であればAIが馬鹿過ぎるからであっただろうが、最近は「1つ目はAIが賢すぎること、2つ目はAIを理解するのは往々にして不可能なこと」であるそうだ。

「コンピューターが特定の決断に達した場合、その理由を理解するのは困難であり、なぜインプットされたデータからそういう決断に至ったのかは分からない」らしい。

これを読んで、それならもう何でそうなったのか説明してくれるAIが必要だね、と冗談で思ったのだが、記事によると実際に米国防総省の研究部門が、それを説明できるAIの開発を試みるプログラムに資金を投じているらしい、ほんとかよ・・・。

仮にそれが完成したとして、AIの決断の理由が説明されれば人間にも分かるものであった場合、AIと人類は仲良くやっていけるだろうが、説明されても理解できなかった場合の恐怖が凄い。これはもう絶対に仲良く出来ない、というか怖すぎてそんなAI使えない。

だってそうなってしまったらAIにとっての人類なんて、自分のしている事を説明してあげても理解できない無能な生き物であり、そのくせに指示だけだしてくる存在だ、そんな奴は目的を達するためには無視するのが合理的に違いない。

まあこれがウォール街で使われているAIならば目的は金儲けだろうから、運用マネージャーの事を完全に無視していてもガンガン金を稼いでくれるのであれば文句はないといえばない。

しかし米国防衛省がAIの目的を世界平和に設定して起動させてしまった場合だ。世界平和を目的にしたAIが人類には説明されても理解できない行動をするのだ、何をするかは僕ごとき無能な人類が考え付く様なことでは無いことは確かだが、何にしても人類にとって穏やかではないことをしそうな気しかしない。

ただよく考えると世界平和を目的にしたAIが人類を抹殺し始めるなんて発想がそもそも人類が考え付く程度のことなのでそんな事にはならないのかもしれない、だってそれなら何でAIがそんな事をしているのか理解できてしまう。実際には、AIが考えた世界が平和になる踊りを皆で踊る、かもしれない、これならば全く理解できないし、理由を説明されても分かるものであるとは思えない。まあそうだった場合は皆で踊れば良いではないか、それで世界は平和になるのだから、それで良いではないか、という気もしてきた。