「あなたを支配し、社会を破壊する、AI・ビッグデータの罠 」書評 数学をまとった「兵器」に警告
ISBN: 9784772695602
発売⽇： 2018/06/18
サイズ: １９ｃｍ／３３３ｐ
あなたを支配し、社会を破壊する、AI・ビッグデータの罠 ［著］キャシー・オニール
人工知能（ＡＩ）とビッグデータは大流行。ソサエティー５・０？ 第４次産業革命？ ＡＩによって人間の仕事が奪われるって？ いや、もっと怖いのだ。
ＡＩとビッグデータは、①膨大な量のデータを集め、②そこから、ある目的のためのアルゴリズムを作り、③そのモデルを当てはめて予測を引き出す。大学ランキングを例にとろう。受験者の学力データ、２年生に進級する割合、寄付の額など、いろいろなデータを集める。そして、よいと思われる順に大学が並べられるよう、それらの変数に重みづけをする計算アルゴリズムを作り、各大学のランキングをはじき出す。
そもそもどんなデータを集めるべきか？ 人間が決める。アルゴリズムはどうやって書くの？ 人間が決める。だから、①にも②にも、人間の価値観やバイアスがどっぷり入っている。出てきたランキングは客観的に見えるが、本当に客観的だと思います？ が、大学はこれに振り回される。
毎日、スマホを使って買い物したりするたびに、その行動は、人々の好み、交遊範囲、金銭状態に関するデータとなる。その膨大なデータをもとに、どんな傾向の人物なのかをはじきだすアルゴリズムがあり人々が分類される。分類によって個人の評判が決まる。そのデータは売られる。アルゴリズムの詳細は企業秘密なので公表されない。これって公正だと思います？
ＡＩとビッグデータで何をしているのか、プロセスに透明性がない。間違いがきちんとフィードバックされない。モデルの目的が効率化なら、公正は無視される。便利だから急速に増殖し、大量の人々が悪影響を受ける。これはもう、数学をまとった「兵器」ではないか。
モラルや想像力は人間固有のものだ。ＡＩをどう使うべきか、もっと精査が必要だろう。データサイエンスを熟知した著者が、警告とともに今後の方向を提案する、大変重要な一冊。
◇
Cathy O'Neil データサイエンティスト。企業でアルゴリズムを作成。共著に『データサイエンス講義』。
