中国語の部屋と心 - cat

コンピュータで人工知能を実現しようとする試みは古くからある。
その成果は有意な結果を出し、実用化されているが「人間」の思考レベルにはまだ道のりは遠い。
未だに科学者の思考を越えるには大きなギャップがあるのは疑いが無いが人口知能のもっと壮大な目標は
「人間」の思考レベルの先、精神とか心をコンピュータに持たせる事だろう。

「コンピュータは単なる道具ではなく、正しくプログラムされたコンピュータには精神が宿る」
ジョン・サールはこれを強い人工知能と呼んでいる。

もっともSFなどではコンピュータが自我に目覚め色んな事をするという描写があるが本当にジョン・サールが言うような地点までコンピュータの機能をUPさせられるのだろうか？

その問題に「NO」を突きつけるのが「中国語の部屋」という思考実験だ。

ある小部屋の中に漢字の読めない（見たことも無い）人に入ってもらう。
小部屋は外部と紙でやり取りできる小さい穴だけがある。
穴を通して彼に1枚の紙きれが差し入れられるがそこには不思議な記号が羅列されている。
※実際にはこれは中国語なのだが。

彼はこの記号の列に対して指定された新たな記号（実は漢字）を書き加えてから穴から外に返す。
実は部屋に置いてあるマニュアルに従って記号の列にある決められた規則に従って付け加えれるだけだ。
※実際は中国語で書かれた内容に中国語で返事をしているだけなのだが彼には意味が分からない。

さて、このやり取りをみた部外者はこの一連の作業をどう見るだろう？
部外者には「この小部屋の中には中国語を理解している人がいる」と思うだろう。
そう、きっとそう思うだろう。というのが「中国語の部屋」という話。

つまり、中国語など意味のある人並みの理解など無くても部屋の外部から見ると中国語による対話が成立してしまう（ように見える）。つまり、人間の言う「心」とか精神のようなものは出来ないのでは？
という事だ。
もちろんこの問題に対する反論もあるようなので結論はどうなんだろう。