たなかの読書記録

30歳くらいの男が、読んでよかったなぁと思う本を紹介していきます。

記録#1『自動人形の城(川添愛)』コンピュータとの対話は人を優しくする。

 年末に読みたかった本のうちの一冊、川添愛さんの『自動人形の城 人工知能の意図理解をめぐる物語』を読みました。その読後感想です。 

 あらすじ

勉強ぎらいでわがままな11歳の王子.彼の浅はかな言動がきっかけで,邪悪な魔術師により城中の人間が人形に置き換えられてしまった.その絶望的な状況に王子はどう立ち向かうのか? そして,城の人たちは無事帰還することができるのか? 「人工知能」と「人間の言葉」をテーマとして,『白と黒のとびら』『精霊の箱』の著者が創作する新たな世界.
東京大学出版会Web

 過去の記事でも紹介した、「働きたくないイタチと言葉がわかるロボット」に引き続き。前作、言語とは何か?コンピュータにとっての言葉とは何か?について、物語でわかりやすく伝えてくれる素晴らしい本でした。 

nozomitanaka.hatenablog.com

もう少し詳しく

 今回の本のテーマは、人工知能(AI)。

 舞台はハルヴァ王国のクリオ城。11歳のルーディメント王子は勉強が大嫌いで、新しくついた教育係のパウリーノのお陰でやっと文字が読めるようになったところ。おまけに身勝手でわがまま。

「ここ数日、王子様のお目覚めがよくなさそうなので、みな心配しているのでございますよ。何かご不満があるのなら、言ってくださいまし」

王子はますます不機嫌になる。言わないとわからないのか?何も言わなくても僕の気持ちを理解するのが、お前たちの仕事だろうに。それなのに、「分からないから言え」と逆位こちらに命令するとはなんと無礼なことだろうか。(pp.2)

 優秀な召使や衛兵で守られていたクリオ城。国王が留守の間に、魔法使いドニエルの口車に乗った王子の発言のせいで、パウリーノは黒猫に、他の人間はすべて自動人形に変えられてしまう。自動人形は、人の言葉を理解し、人と同じように動くことができ、なんでも言うことを聞かせることができる。ただ、それだけしかできません。

  • 「アン=マリー、この服の襟元をゆるめてくれ」→襟を破る→「なんでこんなことをするんだ!」→「私は自分の手で、こんなことをしました」
  • 「カッテリーナ。僕、お腹がすいたんだけど」→「私のお腹は、すいていませんわ」
  • 「門の中に誰も入れるな」→自分も入れなくなる

 王子は大混乱。誰も自分の思い通りに動いてくれない。甘やかされてきた王子は自分で服を着ることもできなければ、満足に食事をすることもできません。

 そんな中、王子は叔父のサザリア公がハルヴァ王国の乗っ取りを目論んでいることを知ります。サザリア公は、王国を支えるソラッツィ主教会の副大主教キーユ・オ・ホーニックをクリオ城に招き、王子の愚かさを彼に知らしめることで王位を継ぐのは自分だとアピールすることを考えます。

 副大主教の来城は7日後。城にいるのは自分と自動人形だけ。追い詰められた王子は、黒猫パウリーノの力を借りながら、少しずつ自動人形の扱い方を学んでいきます。

  • 会話なのか、命令なのかをはっきりさせたほうがうまく扱えること

「ナモーリオ。僕、その本を見たいんだけど」
「私もぜひ、見てみたいです」

おかしな返事。これは予想通りだ。「その本を見たい」と願望を言うだけでは、人形への命令にはならないのだ。王子は言い直してみる。

「ナモーリオ、その本を僕に渡してくれ」

するとナモーリオは目を光らせ、机から台帳を手に取り、王子に渡した。
(やっぱり、正しかった)
(pp.61)

  • 自動人形は、"目的"を理解できないこと

「さっき、あの人形が卵をあんなふうに割ったのは、こっちの目的がわからないからなんだ。普通、厨房 -つまり料理をする場所で、『卵を割ってくれ』って言われたら、料理に使うために割るんだな、と思うだろ?そしてそう思ったら、卵の中身を受け止める器をまず用意するものだし、できるだけ中身が壊れないように、そして殻が混ざらないように、十分に気をつけて割るもんだ」(pp.138)

  • 全部のときには全部、一つのときには一つ、一部のときにはどの部分かを伝えたほうがよいこと

そうだ、と王子は徐々に思い出す。ただ「矢」や「パン」とか言うと、人形は「一本の矢」「一個のパン」と考えてしまうのだ。だから、矢を全部拾ってほしいときには「全部」とはっきり言わないとだめだし、パンを二個取ってほしいときは「二個」と言わなければならない。
(pp.147-148)

  • 人間の心づもりによって定義がころころ変わるものには対応できないこと

パウリーノは思い出した。かなり昔、魔術の師匠のベルナルドが「人形には、『ごみ』という言葉が伝わらない」という古代の記述を見つけたことがあったのだ。(pp.164)

『ごみ』を例に上げると、我々が何らかのものを『要らないから捨てよう』と判断した時、それに『ごみ』という言葉を貼り付けたことになる。しかし、『やっぱり必要だ』と思い直したりすると、その物体は『ごみ』ではなくなる。つまり、『ごみ』という言葉を剥がしたことになる。(pp.165)

  • 自動人形に面白さや笑いを教えるのがとてもむずかしいこと

「『笑い』の難しいところは、人に笑いを引き起こすものが何なのか、よくわかっていない点です。怒りも悲しみも喜びも、その根源まで突き詰めれば、人がその生存を脅かすような危機を感知したり、逆にそういった危機から離れたりする事に関係のある感情です。つまり、生存の可能性に強く関係している。それに対して『笑い』は、一見したところ、生存可能性との関係が明確ではありません」(pp.209)

 王子はうまく自動人形を扱い、副大主教との食事会を乗り切り、サザリア公から城を守りきることができるのか。ハルヴァ王国の行方は。

読後雑感

 黒猫パウリーノの支援を受けながら成長していく王子に微笑みつつ、終盤はハラハラしながら読みました。お話として、とても面白いです! 最初の50ページくらいは「王子お前ほんまいいかげんにしろよ」と思いながらイライラします。

 王子が自動人形にいろいろ命令してみるもうまくいかないシーンでは、プログラミングでエラーが出たときのことが頭をよぎりました。笑

コンピュータと対話することは人を優しくする

 「自分が相手に対して何を期待しているか」を明らかにしないとコンピュータは動いてくれません。そしてそれを、コンピュータがわかる言葉で、彼らが従う形式で伝えなければいけません。適当に伝えて、「後はあなたが解釈してください」ではうまくいかないのです。

 2017年読書ログ記事でも紹介した「理解の秘密」という本の中で、

大事なのは、簡単にではなく明確にすること

という言葉が出てきます。 自分が何を望むのか、それを明確にして、明確に相手に伝えること。それが明確に実現されるような適切な手段で。

 コンピュータと対話することは、自分が求めることを明確にし、それを相手がわかる言語へと変換し続ける行為だと思います。それはつまり、自分という存在を相手の立場から見つめ続けることです。

期待通りに動かしたいなら機械やコンピュータは素晴らしい

 自動人形は疲れることがありません。一度指示をすればそれを守り続けます。王子のようにわがままを言うこともなければ、命令が長いからといって途中でそれを遮ることもありません。

 日常生活の中にもルンバやAIスピーカー等の"自動人形"がどんどん入ってくるのは素晴らしいことだなぁとあらためて感じます。

それでも、人の期待を超え続けてこそ

 「...ですが、こうは思われませんか?あなた様が下僕たちに望むのは、単にあなたの命令を忠実に実行することでしょうか?むしろ、その命令の裏にある『あなたにとって大切なこと』を彼らが理解し、それに配慮した上で、最も良い行動を選ぶことが望ましいのではないですか?そしてそのために必要なのは、彼らが『自分にとって大切なこと』を判断する力を使って、『あなたにとって大切なこと』を想像することではないでしょうか?」

ドニエルは黙って聞いている。ポーレットはさらに続ける。

「もちろん、他人同士のことですから、相手のことが常に正しく想像できるとはかぎりません。時には、間違うこともあるでしょう。しかし、私はそれでかまわないと考えています」

「間違ってもいいというのか?主人の意に沿わないことがあっても良い、と?」

「ええ。他人の意に沿えるかどうかには、賭けのような側面があります。でも、私はそれを恐れてはいません。むしろ、真の意味で他人の意に沿うためには、結果的に相手に逆らうことになってもかまわないと思えるほどの、強固な意志と創造性が必要であると考えています。つまり、私にとってそれは、一種の芸術なのです」(pp.239)

 

とても良い本でした。

週刊誌のAI特集なんか読まずに、これを読みましょう。