「抑圧のアルゴリズム」書評 差別を助長する危うさに警鐘
ISBN: 9784750356860
発売⽇： 2024/02/08
サイズ: 18.9×2cm／344p
「抑圧のアルゴリズム」 ［著］サフィヤ・Ｕ・ノーブル
人に薦めたくなる本には、読んでいて楽しい本と、不快になるが知っておくべきことが書かれている本がある。本書はどちらかというと後者。グーグルの検索エンジンが、人種的偏見や性差別を強化している状況を明らかにした重要な書だ。
著者が2010年前後に「黒人の女の子」を検索すると、ポルノサイトばかり表示されたという。黒人女性が商品ないし性的欲求の対象として表象されていた。
検索すると上位の結果が最も人気があるように見える。だがそれは広告費の支払いや、巧妙な検索エンジン最適化の影響により、上位に表示されたのかもしれない。ポルノ業界はその仕組みを最もうまく利用している業界の一つだという。商業主義によって今を生きる黒人女性への差別が助長されている。
一方、「医者」という語で画像検索すると白人の男性ばかりが表示される。ポジティブな語と白人の画像が関連づけられ、白人優位が強化される。そんなアルゴリズムを作るのは人間だ。シリコンバレーでは白人男性が多数派。人種主義や性差別の歴史に詳しい人が少なく、その状況が製品設計に反映される。アルゴリズムは中立的だとみなされがちだが、全くそうではないのだ。
著者はブラック・フェミニズムの観点から巨大企業の検索エンジンの仕組みを問うた。そのおかげで検索結果の是正もなされてきたという。
これは海外の話で他人事だと思わないほうがいい。以前、評者は授業の題材に用いるため、Japanese menという語をよく検索していたのだが、メガネをかけた出っ歯で黄色い顔のステレオタイプが多く表示されていた。今同じ語で画像検索してみると俳優など「イケメン」が比較的多く表示されるようになった。商業主義は外見至上主義と結びついて利益を得る方向にシフトしたのだろうか。本書は現在進行中の状況を考える上でも十分有用だ。
◇
Safiya U. Noble カリフォルニア大ロサンゼルス校教育・情報学部教授。
