シンギュラリティは来ない

シンギュラリティをどう定義するのか、という話はあるけれど「コンピューター・AI の知性が人間を超えることによって、人間の判断を AI 任せにできるような世界」は来ないと言える。

シンギュラリティ

Wikipedia技術的特異点 - Wikipedia のページを見ても、シンギュラリティの定義や議論は広い範囲に広がっているので、ここでは単純に次のようなものを想定している。

  • コンピューターと AI の進歩によって、人類の誰よりも頭のいい AI が実現する
  • 人類の誰よりも頭のいい AI を誰もが比較的低コストで使えるようになる
  • 結果として人々は自分で判断するのではなくて、AI に判断を委ねるようになる

自分より頭のいい存在

チェスでAIが人間に勝ったように、地球上で最も頭のいい存在が人間でなくて機械になるって考えると凄いことのようだけど、現実にはほとんどの人は「地球上で最も頭のいい存在」ではないのだから、自分より頭のいい存在はそこら中にいる。

それは、先生であったり上司であったりするのかもしれないけど、別に自分より確実に頭のいい人がいたとしても、その人の言うことを全て鵜呑みにするわけじゃないでしょ?

そう考えると、AI の知性が人間を上回ることにほとんど意味がないとわかる。単なる計算速度の問題ではないのだ。

思考実験

仮に、全ての人にスマートフォンのようなポケット AI が配布されるようになったとしよう。

そのときに、例えば「国民年金は納めた方がいいのか?」という質問を AI にしたら、どんな回答が返ってくるのだろうか?

AI が判断する世界

AI が将来的な年金の負担と給付のシミュレーションや生活保護などの制度、未納付の場合のペナルティなどを検討した結果、現状では「国民年金を納めない方がいい」と判断して、国民全員が年金を納めなくなったら、当然国民年金は破綻する。

そうなると国としては、未納付ペナルティの強化といった形で対抗策を打ち出してくることは想像できる。

相手の先の手を読む

将来的に制度が変更される可能性が高いのであれば「国民年金を納めない方がいい」という判断も覆る。

AI が先を読んで「国民年金を納めるべき」という回答になったとしたら、現状では損をするその選択肢に人々は従うのだろうか?

計算済みの問題と解答

計算機工学の世界で、複雑な計算を事前に行って計算結果をテーブルに入れておくことで、性能向上を実現するという手法がある。

前述の問題もそれに近くて、ほとんどの人が直面するような疑問は、すでにいろいろな人が時間をかけて考えているから、あらためてゼロから考えるよりも既存の調査や検討結果を見た方が早かったりする。リアルタイムの計算速度だけではないのだ。

口先だけが達者なAIというディストピア

こういったことを考えると、人の判断をサポートする AI には「正解を出す」という機能の他に「人を説得する」という機能も必要だとわかる。正解を出せても、それで人を動かせなかったら意味がないのだ。

そして「人を説得するのが上手な AI」というのは結構実現できそうに思える。試行回数も多くできるし、説得できた・説得できなかったという評価結果も明快だから、ディープラーニングで実現できそうである。

ただ、その結果としてできそうなのは「選択肢 A・B がある時にどちらの選択肢であっても 80% の確率で人を説得できる」というような、詐欺師的に口の達者な AI になりそう。そんな AI は持ち主から捨てられるだろうな。

ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき

ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき