AIってなんなのさ ～シビュラシステムと中国語の部屋について～
※※一部ネタバレになるので注意です。
こんにちは。普段は都内でAIエンジニア（笑）をしている都です。
舞台PSYCHO-PASSで「…これは機械学習とか知らない人にはピンとこないんじゃ？」と思った部分について書いてみました。
・中国語の部屋 ←この記事で触れます
劇中で『中国語の部屋』という名前の付いた装置が何者かによって盗まれてしまいます。
中国語の部屋とは、有名な哲学の思考実験です。
中国語を理解しない人（被験者）を部屋に閉じこめて分厚いマニュアルを渡す。分厚いマニュアルには、被験者の理解できない中国語が書いてあるが、そのマ ニュアルには、「これこれの文字列（被験者にはかろうじて記号であることがわかる）には、これこれの文字列を書いてわたせ」と指示を受ける。
ここに中国人がやってきて、紙切れを箱の中に入れると、（マニュアルに従って）完璧な返事が返ってくる。このことを繰り返した中国人は「ここには完璧に 中国語を理解し、私とコミュニケーションできる人がいる」と思う。しかし、中にいるのは
中国人を解しないただの人である。
この思考実験において、部屋を『コンピュータ』、被験者を『プログラム』と置き換えると、中国語の部屋は「コンピュータの中にあるプログラムは何も理解せずにマニュアル通りに返事を返すだけの作業をしているが、外から見た時にプログラムが『送ったものを理解して、返事を返してくる』ようにみえる」というものとなります。
本編で「『中国語の部屋』はシビュラシステムの廉価版だ。『中国語の部屋』は司法や法律の下で使用する。」というセリフがありましたね。
なぜ「思考実験である『中国語の部屋』がシビュラシステムと関係があるのか」、と疑問に思った方も多くいると思います。
最初に皆さんに聞きます。
『人工知能』ってなんだと思いますか？
「ドラ○もんとか？ア○ム？」
「ペッパーくんもそうよね？」
「なんかプロ棋士負かしたやつだよね？」
「よくある自分の画像を上げると『この有名人に似てる！』って出してくるやつとか？」
「あれだよね、AIがパーソナルカラー診断とかしてくれるやつあるよね？」
そう、上にあげたものは全て『人工知能である』ということができます。
「ドラ○もんと顔認証システムが同じ括りにあるのはなんか納得いかない！規模も違うし！おかしい！」
と思う人もいるでしょう。
その考え、ぶっちゃけ正しいです。気持ちはめちゃくちゃわかります。
AI(＝人工知能)とは、人工知能学会によると以下の立場を持つ機械とされています。
一つは，人間の知能そのものをもつ機械を作ろうとする立場，もう一つは，人間が知能を使ってすることを機械にさせようとする立場です。
なんかざっくりとした説明だな、と思ったでしょう。
実はAIには明確な定義が存在しないのです。
なので、やることが違っても『人間の知能そのものを』をもつドラ〇もんも
『人間が知能を使って』パーソナルカラー診断をしてくれる機会も同じAIというくくりになるのです。
明確な定義が存在しないゆえに、実は内部で知能に当たる部分を使ってなくても、外から見たら「知能使ってそう！」なものをAIだと言えてしまうところがあります。
が、
とりあえずここでは、
『なーんか人間ぽい動きをしてる『風』にみえる機械がいたら、AIだな』と思ってください。
さて、ちょっとだけAIについて知ったところで皆さんにクイズです。
とある機械を二つ用意します。
一つは人間の脳と同じ作りになっていて、いろんな知識や経験から考えたりすることができる機械A
もう一つは「人は泣いていたら悲しんでいる、笑顔なら喜んでいる」というマニュアルだけを持っている機械B
この二つの機械に「泣いている人」を見せたとします。
この時、AもBも「この人は悲しんでいるな」と判断します。
しかしながら、うまく認識することができない時があります。
例えば「突然プロポーズされて、嬉しくて泣いている女のひと」のをみた時。
人間と同じ脳みそをもつ機械Aは状況をみて以下のように推測します。
・女の人はプロポーズをされている
・プロポーズをされること＝嬉しいこと
・嬉しくても泣くという条件がある
・嬉しい＝喜んでいる
これらの推測により、機械Aは「あ〜〜喜んでいるんだな〜」と判断しました。
これに対して機械Bは「人は泣いていたら悲しんでいる、笑顔なら喜んでいる」というマニュアルしか持っていないので、
・泣いている＝悲しい
という結論しか出すことができません。
なので機械Bは「女の人は悲しいんだな〜」と判断しました。
さて、問題です。
機械Aと機械B、どっちがAIだと思いますか？
答えは『機械A,B両方』です。
「なんで！？」と思った方もいると思います。
これにはからくりが存在します。
最初に言ったようにAIには明確な定義がありません。
「なんか外から見て知能がありそうな動きをしていたらAI」なんです。
機械Bもマニュアル通りとはいえ、「人が泣いている」といったケースの時に「悲しい」といった判定をすることができます。
外から見ている分には「ちゃんと考えて判断してるぽいじゃん？知能ありそう！」と思われてしまうので、これも特定の条件下ではたらくAIであると言えてしまうのです。
しかしながら同じAIであるとしても、『いろんなケースに対応できてる機械A』と『まぁ使えるけど使うには条件が限られそうな機械B』を見て、どっちがより人間ぽいか？賢そうに見えるか？と言ったら機械Aだとわかりますね。
もしも実際に使お〜！と思ったらみんな機械Aを選ぶはずです。
さて、ここからが本題です。
シビュラシステムとは言ってしまえば、「いろんな知識や経験から推測して、限りなく人間のような判断ができる機械」です。
これは先ほどの例で挙げた機械Aに相当します。
これに対して中国語の部屋は、「知能は使っておらず、ただマニュアル通りの動作をしているが、外から見たら限りなくAIの動きをしているように見える機械」です。
これは先ほどの例に挙げた機械Bに相当します。
つまり、本編での「中国語の部屋はシビュラシステムの廉価版だ」というセリフは、
「『中国語の部屋』は、外見はシビュラシステムのように見えるAIだけども、法律だとか司法に乗っ取ったマニュアルに従った動作しかできない機械です。シビュラシステムのように自由にどこでも適用できるものではないが、特定の条件ではうまく使うことができるものである。」ということに置き換わります。
ﾊｧ~~~長かった！
分からなかったり変なとこあったら言ってください。。。
