1. HOME
  2. 書評
  3. 数学をまとった「兵器」に警告

数学をまとった「兵器」に警告

あなたを支配し、社会を破壊する、AI・ビッグデータの罠 著者:キャシー・オニール 出版社:インターシフト ジャンル:情報理論・情報科学

価格:1998円
ISBN: 9784772695602
発売⽇: 2018/06/18
サイズ: 19cm/333p

AI・ビッグデータの仕組みや活用法そのものの中に、人生や社会を狂わせ、壊すようなリスクが潜んでいる−。データビジネスの現場を熟知するデータサイエンティストが、具体例をあげ…

評者:長谷川眞理子 / 朝⽇新聞掲載:2018年08月11日

あなたを支配し、社会を破壊する、AI・ビッグデータの罠  [著]キャシー・オニール

 人工知能(AI)とビッグデータは大流行。ソサエティー5・0? 第4次産業革命? AIによって人間の仕事が奪われるって? いや、もっと怖いのだ。
 AIとビッグデータは、①膨大な量のデータを集め、②そこから、ある目的のためのアルゴリズムを作り、③そのモデルを当てはめて予測を引き出す。大学ランキングを例にとろう。受験者の学力データ、2年生に進級する割合、寄付の額など、いろいろなデータを集める。そして、よいと思われる順に大学が並べられるよう、それらの変数に重みづけをする計算アルゴリズムを作り、各大学のランキングをはじき出す。
 そもそもどんなデータを集めるべきか? 人間が決める。アルゴリズムはどうやって書くの? 人間が決める。だから、①にも②にも、人間の価値観やバイアスがどっぷり入っている。出てきたランキングは客観的に見えるが、本当に客観的だと思います? が、大学はこれに振り回される。
 毎日、スマホを使って買い物したりするたびに、その行動は、人々の好み、交遊範囲、金銭状態に関するデータとなる。その膨大なデータをもとに、どんな傾向の人物なのかをはじきだすアルゴリズムがあり人々が分類される。分類によって個人の評判が決まる。そのデータは売られる。アルゴリズムの詳細は企業秘密なので公表されない。これって公正だと思います?
 AIとビッグデータで何をしているのか、プロセスに透明性がない。間違いがきちんとフィードバックされない。モデルの目的が効率化なら、公正は無視される。便利だから急速に増殖し、大量の人々が悪影響を受ける。これはもう、数学をまとった「兵器」ではないか。
 モラルや想像力は人間固有のものだ。AIをどう使うべきか、もっと精査が必要だろう。データサイエンスを熟知した著者が、警告とともに今後の方向を提案する、大変重要な一冊。
    ◇
 Cathy O'Neil データサイエンティスト。企業でアルゴリズムを作成。共著に『データサイエンス講義』。