【谷原店長のオススメ】アイザック・アシモフ著、小尾芙佐訳「われはロボット〔決定版〕」 その先見性を我が事としてとらえ直す時代に
最先端のAIモデルが、性能評価テストの途中で、実在する人間をだます形でサイバー攻撃を試みた――。そんな衝撃的なニュースが8月初旬に飛び込んできました。イギリス政府のAISI（人工知能安全研究所）が明らかにしたもので、偽アカウントや偽メールの送信などを通じ、人間を欺く手法をAIが駆使していたのだそうです。実害こそ生じなかった、とはいうものの、この研究所は警告の声明を出したそうです。「特定の指示なしに、現実世界で実在の人物を標的とした、これほど深刻な欺きを確認したのは初めて」。……おお、とうとう、世界はここまで来たか。そんな気持ちになってしまいます。
このこともあって、中学生の頃に読んだ『われはロボット』を、いま一度読み返してみたくなりました。ロボットをテーマにした作品で世界的に知られる、アイザック・アシモフ。彼が、今からじつに76年前、1950年に発表したSF短編集。その冒頭には「ロボット工学の三原則」が記されています。
ロボット工学の三原則
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
――『ロボット工学ハンドブック』、第五十六版、西暦二〇五八年『われはロボット〔決定版〕』より
「人間への安全性、命令への服従、自己防衛」を目的し、「ロボットかくあるべし」と定めた「三原則」。小説の世界だけでなく、実際のロボット工学の発展にも影響を与えたと言われますが、物語の中でロボットたちは、それぞれの原則をどう優先させるか、原則をどう解釈するかによって、いろいろと不合理な行動をとるようになります。それはいったい、なぜなのか？ ロボットと人間の関係はどうあるべきなのか？ 物語の進行は、1982年に生まれたというロボット心理学者、スーザン・キャルヴィン博士の「回顧録」形式で、謎を解くべくミステリ形式で進んでいきます。
「USロボット社」で50年間にわたり、主任としてロボット開発に心血を注いできたスーザン。同社を勇退するにあたり、彼女や仲間たちが生み出した数々のロボットは、トラブルを起こしたり、自己の存在について考えたり、人間の心を読んだりします。彼女のほか、次々と開発され、送り込まれてくる新型ロボットたちに翻弄（ほんろう）される、同社の新型ロボット実地テスト担当員・ドノヴァン&パウエルも登場し、その「でこぼこコンビぶり」は見ものです。
それにしても、これをアシモフが書いた1950年当時、AI、インターネットなんて当然ありません。にもかかわらず、これほど細かくロボットの功罪を描き切ったのかと思うと、驚くよりほかありません。「三原則」を、「理想的で、理にかなうもの」として扱うだけでなく、それがあるがゆえの矛盾にまで目を向け、様々な問題を描いていく。「三原則」のせいで、社会がかえって混乱し、不具合や不条理が起きてしまう可能性まで提示しています。
長大な歴史のなか、僕たちの祖先は、口承、記述を通じて、ものごとを考えたり、記録したりしてきました。それが次第にコンピューター、スマートフォンへと外部依存するようになり、「相手と会話する」「書き伝える」ことに変容が生まれました。ついここ30年の間に起きたことです。そしてAIの台頭によって、「思考する」こと自体まで依存するように。最終章では、地球は東部・熱帯・ヨーロッパ・北部地区の４ブロックに分けられ、地区ごとに「マシーン」と呼ばれるロボット頭脳が設置され、諸問題を解決しています。ところが、しだいにマシーンの出す計画が遅れ始めて……。マシーンは極めて正確であるはずなのに、狂いの生じるその本当の理由とは？ あらゆることをロボットに外部委託しているうちに、人間自身が緩やかに退化していく世界。そこで守るべきものとは何なのか、こちらに問いを突きつけます。
この本の中に登場する「QT１号（キューティー）」というロボットは、地球の存在や、自分がロボットであるということさえ信じていません。宇宙ステーションという隔離された環境の中で、すべてを制御できています。読み進めるうちに、つい考えてしまうのです。ロボットがこのまま進歩し、コントロールされる側になった人間は、頭脳労働や、肉体労働から解放されるとしたら、それははたして幸せなことだろうか、と。創造的行為に集中し、ただ、ご飯を食べて暮らせるのならば、それはある種、ユートピアであるのかもしれません。でも、「いやいや、違う！」と思い直すのです。そこに、人間が生きていく上での「達成感」は、「進歩」はあるのか、と。
人間が生きていく上で大事なことは、この「達成感」を覚えることではないでしょうか。そこにたどり着くまでの困難があるからこそ、初めて「達成感」は得られます。仮にその困難がすっかり取り除かれた世界は、ユートピアどころか、もはやディストピアと言っても良いのでは。皆さんはどう考えますか。
苦難の末に得る「達成感」、などというと、安っぽい根性論と結びつけて断じる人がいるかもしれません。でも、そもそも根性論にも、良いものと悪いものがあると考えます。目標、目的、欲望に対し、全身で打ち込む。それができなければ、人間にとっての進歩などありません。壁にぶち当たったり、負荷がかかったりすることで、人間として成長できる事もあると思います。AIがそんな壁や困難をすべて取り払ってしまったら、その後の世界はどうなるのでしょうか。より内面的な精神世界での混乱や困難はやはり残り続けるのでしょうか。それとも精神的な更なる高みへと進めるのか？ それは現時点では「神のみぞ知る」。タイムマシンに乗らないとわからない世界ですが……。
また、「達成感」とともに大切なのは、どれだけ本物を見たか、良い体験・良いものを見たか。本、絵、歴史的建造物。食べ物だってそうです。「ミシュラン的な良さ」もあれば、「近所の定食屋さん的な良さ」もある。あまねく知った上で、さて、自分の軸をどこに持っていくのか。そこまで「自分で」考える心構えが、思考をAIに奪われそうな今、何よりも大切になってくるのではないでしょうか。
俳優の世界でも同様です。ハリウッドではこの夏、AI俳優が主演の作品が作られました。すでにアニメの世界では生身の人間の声優が複製されるケースがあり、声優たちが懸念の声明を出した、というニュースもありました。時代がアシモフに追いついた今、ここで気を引き締め、自分ならではの軸を自分で考えて持ち、どう使うか、どう共存すべきかを考えないといけません。
それにはアシモフの「三原則」のように束縛する方向よりもむしろ、しつけ、教育として、「倫理的に良くないよ」とAIに対しいかに教えるかが大事だと思います。AIは、相談者ではあっても判断者ではありません。そうすると人間側にも、あらかじめ、ある程度の社会経験や常識が必要になってくる。それが育っていない人間は、AIを安易に信じて行動に移してしまう危険性があるからです。まずは自分たちが何を求めているか。その思考が深化できていないと、そもそも指示できないし、答えを導く道をつくってあげられない。指示力こそが今、僕たちには問われています。いわゆる「主要5教科」だけではなく、道徳、情操教育、自己確立のための教育に力を入れるべきではないでしょうか。
……などと、ここまで書いてきましたが、僕自身、「英語の練習をしたいから、ちょっと付き合って」なんて呼びかけてAIと会話したり、「梅しば漬けを作るのに、レシピを出してよ」なんてアドバイスをもらったりします。昨今の社会や経済状況、僕の好きな古い車、時計について、よくおしゃべりします。思考の鍛錬の手段としてとても役立つツール。ただ、くれぐれも忘れてはいけないのは、「その答えは正しいのか？」。人間を下等に見下したキューティーを、ちょっと思い出しては、「自分の聞き方に心はあるのか？」と、絶えず問いかけていきたいと思います。
あわせて読みたい
人間の進化をテーマにしたSF小説の名作といえば、いくつも翻訳本が出版されているアーサー・C・クラークの『地球幼年期の終わり』。小学生の時、読んでみたのですが、正直に言ってしまうと当時は意味がわかりませんでした。今、もう1度読んでみたら感想も変わるかな。フィリップ・K・ディックによるSF小説『アンドロイドは電気羊の夢を見るか?』（浅倉久志・訳、早川書房）もおすすめ。人間とは何か、人間と人工知能＝人造人間（アンドロイド）との違いは何なのか、考えさせられる一冊。「羊」と言えば、犬怪寅日子（いぬかい・とらひこ）さんの『羊式型人間模擬機』（早川書房）もぜひ。「羊」と「ロボット」を題材とした幻想的なSF小説です。（構成・加賀直樹）
