WeizenbaumのELIZA論文を読んでみた
人工無脳の元祖といえばELIZA、ELIZAと言えば人工無脳の元祖。ELIZAを知らずして人工無脳を語ることなかれ。ということで、
ELIZA（１）「傾聴」を模倣するプログラムとは？ - "Truth of the Legend" Notes
で紹介されていたWeizenbaumの論文”ELIZA - A Computer Program For the Study of Natural Language Communication Between Man and Machine”（1966年発表）を読んでみました。
10ページの論文の半分くらいは、ELIZAプログラムの動作の解説です。これについては、互換バージョンのソースも踏まえて、
ELIZA（３）スクリプト ー 応答を作り出す仕掛け - "Truth of the Legend" Notes
で詳説されています。ここでは、プログラムの解説の後の”Discussion”の部分（約1ページ半）の内容についてのメモを書いてみます。
ELIZAの限界と警告
Wizenbaumは、冒頭の方で、「驚異のプログラムも仕掛けをばらせば、たいしたことがない」「この論文の目的はELIZAのネタばらし」的な韜晦めいたことを書いています。”Discussion”部でも、
A large part of whatever elegance may be credited to ELIZA lies in the fact that ELIZA maintains the illusion of understanding with so little machinery.
と、ELIZAのもっともらしさはプログラムよりもスクリプトの果たす役割が大きいとしています。
その上で、ELIZAの強化やもっと高度な自然言語会話システムへの発展について、現実世界に関する知識を計算機に持たせることや、ユーザに関するモデルを作れるようになることが大事、と書いています。しかし、これは、その後の（あるいは当時から）人工知能研究において共有された考え方で特段独創的な見解でもないと感じました。
ただ、ELIZAとの会話を人間との会話と認識する傾向が観察されたことについて、おもしろいことが書かれていました。(1966年当時でも）重要な判断が機械のアウトプットに基づいて行われる場面が増えている状況で、コンピューターのアウトプットへの信頼性を簡単に生み出せるというELIZAの実験結果からはある種の危険性が見て取れる、というくだりです。1966年の段階で得られたこの知見に基づき、「人間はコンピューターに簡単にダマサれる」という視点がその後のインターネットやWWWのアーキテクチャに反映されていれば、現在のポスト・トゥルースの状況にも影響があったかもしれません。
会話モデルの選択
このDiscuassionの中で、特に興味深く感じたのは、次の点です。
This mode of conversation was chosen because the psychiatric interview is one of the few examples of categorized dyadic natural language communication in which one of the participating pair is free to assume the pose of knowing almost nothing of the real world.
ELIZAのモデルとして心理療法士の役割を採用したのは、心理療法におけるインタビューが、話者の一方に現実世界に関する知識が無くとも不自然にならない数少ない会話のモデルだから。つまり、心理療法のプログラムを目指していたわけではないということなのです。
また、人間は、一度会話相手に対する一定の認識を持つと、自らのその認識を保つ（守る）ように解釈を行う性質があるとしています。つまり前述の「現実世界に対する知識が無くてもOKな会話モデル」とこの「自己認識を保とうとする人間の性質」が、ELIZAのもっともらしさの背景にあるということのようです。
これについてこの”Discussion”では、「長い船旅に行きたい」という人間の入力に対し、船旅についての知識を持たないELIZAがスクリプト上の反応として「船について話してください」と返しても、人間側は、「（ははーん、（心理療法上）”船”が大事なんだな」と拡大解釈してくれる、という例を示しています。
このくだりを読む限り、コンピュータが現実世界や話題に関する知識を持たない状況を不自然に感じさせない会話モデルの選択と、そのモデルから会話が逸脱しない仕掛けが、人工無脳の設計の鍵になるのかな、と感じました。
Translating Processor = 人工無脳？
Weizenbaumは、この論文を次のフレーズで締めくくっています。
Seen in the coldest possible light, ELIZA is a translating processor in Gorn's sense; however, it is one which has been especially constructed to work well with natural language text.
（意訳：冷徹な視線で見れば、 ELIZAはGornの言うtranslating processorにすぎない。しかし、それは、自然言語テキストをうまく扱うという点についてはよくできた代物なのだ）
ここで出てくる「Gornの言うtranslating processor」とは、シンタックスレベルの処理のみで、意味のある内容を別の表現に変換する装置を指しているようです。このような変換装置は、「知能が無いがそれでも有用になりうる」ということを上の文章は言っているのではないかと思いました。
知能がなくとも有用な自然言語の会話ができる、というのは「人工無脳」のコンセプトでは？と思うと、このtranslating processorという言葉は、英訳が無いとも言われる人工無脳という言葉に対応した英語表現と言えるのではないでしょうか。
