「AI＝鏡」比喩を広めた徳倫理学者が問う、AIと人間のあるべき関係とは？
記事：東京化学同人
このAI、私のことをかなり理解してる？
そう思ってしまうこと自体が、AIという名の「鏡」が生み出す強力な幻想であると、著者シャノン・ヴァローは語る。私たちは、AIによって跳ね返ってきたにすぎない自分自身の思考に気づけないまま、それを理解だと錯覚してしまう。まるでギリシャ神話に登場するナルキッソスのように……。
神話では、水面に映る自分の姿のあまりの美しさに目を離すことができなくなり、最後には命を落としてしまう。目には見えても手では触れられない、実体のない像に魅了された彼の姿は、スマートフォンの画面に映る膨大な情報に引き込まれる現代の私たちとも無関係ではないだろう。
これはAI批判ではない、人間らしく、AIと生きる
徳倫理学者のヴァローは、AIを「鏡」と捉え、人間に及ぼす「真の影響」を明らかにする。AIが映し出すのは「未来」ではなく、私たちが積み上げた「過去」である。そこには、人類が歴史に刻んだ差別、貧困、不平等、バイアス、環境危機といった問題までもが含まれている。望まないバイアスをデータセットや訓練したモデルから取り除くのは容易ではない。AIへの盲目的な信頼が、こうしたデータに内在する歪（ひず）みの再生産や増幅につながりかねないことを、さまざまな実例をあげて示している。
全米の医療機関で広く使われているリスク予測アルゴリズムについて、2019年に研究者らがある指摘をしている。より病状が重い黒人患者がいても白人患者に優先的に治療を振り分けるツールとしてアルゴリズムが機能し、高リスクの黒人患者が必要な治療から取りこぼされ、医療に長年存在する人種バイアスを再生産していた、というものだ。ただし、アルゴリズムの訓練データには注意を払い、人種の項目は外してあった。そこで疑問が湧く。アルゴリズムはどうやって人種に対するバイアスを習得してしまったのだろう？ アルゴリズムは別の要素を基に患者の治療の必要性を予測していたのだ。コスト、つまりそれまでその人の医療にかけられてきた金額である。残念ながら、アメリカでは黒人患者は全般的に医師から十分な医療を受けられておらず、同等の症状や臨床所見の白人患者ならすぐに受けられるような、より費用のかかる検査や治療へのアクセスが断たれてしまっている。となれば、医療にかけたコストは医療の必要性を示すのに適したデータであるとアルゴリズムの設計者が単純に考えたのなら、現によりよい高額の治療を受けている白人患者よりも、黒人患者の方が医療を必要としていないと判断されるべく図らずも追いやったことになる。学習アルゴリズムは人種というラベルを与えられなくても、人種に関連する差別のパターンを検知し再生産してしまうのだ。AIという名の鏡：機械思考の世界で人間らしさを見失わないために（p.71より引用）
日々の行動がアルゴリズムによって無意識に促される現代社会では、私たちはAIが示す効率や利益の最適化に魅了され、ともすればその心地良さに溺れやすい。人間が自らの思考や判断の主導権をテクノロジーに委ねすぎると、道徳的な判断力や人間としての価値観が弱まる危険性を著者は指摘する。
しかし、ヴァローは決してAIを敵視しているわけではなく、「SF作品のような終末は訪れない」と語る。AIが身近な存在となったいま、人間とAIの関係を見直し、私たちが人間らしさを見失わずに、AIと共存する豊かな未来への可能性を取戻すことが必要なのだと説く。
AIに勝つのではなく、私たち自身を負けさせないことが重要
AIが持つ「効率性」や「利益」といった特定の指標を最適化に固執するあまり、私たちの道徳的な判断力や人間としての価値観が弱まることをヴァローは懸念している。彼女が強調するのは、AIに何ができるのかを探求する一方で、「私たち人間にしかできないこと」 にも焦点を当てる必要があるということだ。たとえば、状況に応じた判断や道徳的熟慮といった「人間らしい能力を育むこと」が求められる。「たとえば、大きな豆のような彫刻を眺め、それをAIの本質に結びつけるような強力な比喩を思いつくこと。それこそが、人間にしかできないことなのです」と彼女は語る。「AIを『打ち負かす』必要はありません。大切なのは、私たち自身を負けさせないことです」
（今日のAIを牽引する実力者たち）が「スーパーヒューマン」とするのは、人間よりも計算や予測、モデリング、生成、問題解決に優れたAIシステムを指している。では、これらの能力が私たちを人間たらしめているのだろうか？ 計算と生成のほかは何もしない機械に「スーパーヒューマン」の称号を与えるのなら、私たちは人の生命の価値を測るどんな基準を適用しているのだろう？ あなたが愛情の発露として自然にわが子の頭をなでているとき、何かの問題解決をなしているのだろうか？ 芝生の上で側転をしているとき、自分の生産性を最大限にしているのだろうか？ 道端で困っている見知らぬ人に声をかけるとき、一番効率のいい手段を頭の中で計算しているのだろうか？AIという名の鏡：機械思考の世界で人間らしさを見失わないために（p.132から引用）
AIが鏡なら、人間はいったい何なのだろう？
私たちはいまや、日々の生活や仕事のあらゆる部分をAIに頼っている。やがてAIは人間を超える「知性」をもち、その担う領域はますます広がっていくとも言われている。それは、人間の生きる価値や意義を揺るがすほどに。
AIによって行動が無意識に促され、思考や判断の主導権をテクノロジーに委ねてしまいかねない世界において、私たち人間はAIとどう向き合っていけばいいのか。人間とAI、ひいてはテクノロジーとの関係を捉え直すために、まずは「私たち人間とは何か？ 『人間らしさ』とは何なのか？」をともに考えていきたい。
本書日本語版には、監訳者・西田洋平氏による「解題」を収載している。ヴァロー氏、および本書の土台にある「徳倫理学」の概説から始まる解題では、著者の主張をひも解くキーワード「テクノモラル」が補助線として引かれ、理解を深める手助けとなっている。本書の根底にある「人間とは何か」という問いに対し、西田氏の専門分野ネオ・サイバネティクスの立場から議論が展開され、本編を読み終えた読者に外の世界からの眺めも与えてくれる。読了後、読者自ら本書のテーマと向き合う際に、その思考を整理する一助となるだろう。
目次
序章
第１章 AIという名の鏡
第２章 心、機械、神
第３章 鏡の向こうに映るもの
第４章 文明の進歩と思考
第５章 共感ボックス
第６章 AIとブートストラップ問題
第７章 明るい未来を映し出す
解題（西田洋平）
