AI植民地主義

AIモデルには開発者の思想が入っている。もっとはっきりいってしまうと、アメリカの生成AIを使うことは、西側諸国の社会規範や哲学も持ち込まれる。これは途上国や社会的弱者に対する考慮を無意識に脇に追いやっていることに他ならない。

大手テック企業の「デジタル植民地主義」がAIに潜むバイアスを放置している

人工知能（AI）システムを訓練するためのデータセットには、人種差別的、性差別的なバイアスを含む内容が当たり前のように含まれ、配布され続けている。AI研究者のアベバ・ビルハネはこの問題を指摘し、これらデータセットを使って利益を得ている巨大企業の責任を問おうとしている。

 wired.jp

MIT Technology Reviewにて、 AI Colonialism（AI植民地主義）という連載コラムがある。公開は2022年4月で、まだChatGPT登場前

Artificial intelligence is creating a new colonial world order

An MIT Technology Review series investigates how AI is enriching a powerful few by dispossessing communities that have been dispossessed before.

 www.technologyreview.com

かつてのヨーロッパによるアフリカや南アメリカの植民地化になぞらえて、AIの流行は、「データ・労働・資源」を途上国から吸い上げ、価値をアメリカなどの特定の国や企業に集中させる新しい“搾取構造”になっている、というのがテーマ

• 南アメリカの都市では、住民への十分な説明がないまま、巨大な高度監視システムが構築され、実地検証の場となっている。この監視網への投資は巨大であり、格差の一因となっている。（PART I）
• AppenやRemotasksのようなデータラベリングプラットフォームでは、多くのベネズエラや（ベネズエラ難民の多い）コロンビアの貧困層がアノテーターとして参加しているが、労働搾取のような実態がある。（PART II）
• 人間がアルゴリズムに対抗する手段として、ジャカルタのバイクタクシーGojekを紹介する。ドライバー同士が支え合うコミュニティが出てきている。新人のサポートやタスクの分担などを行い、経営会社と交渉できるにまで至った。（PART III）
• AIによるモデル化は少数派コミュニティを脇に追いやる、という状況への抵抗として、マオリ語のデジタルアーカイブプロジェクトの紹介する（PART IV）

昔デジタル主権についてメモしたけど、AI植民地化はもっと自虐的な言葉な気がする。改めてこれら用語をまとめると

• デジタル主権（Digital Sovereignty）: 国家や組織が自分のデータ・ITインフラ・技術を自らコントロールできる状態
• デジタル赤字（Digital Trade Deficit）: ITサービスやデジタル製品の輸入超過
• ソブリンAI（Sovereign AI）: 国家や地域が自前でAIモデル・計算基盤・データを持つこと
• AI植民地化（AI Colonialism）: 他国や企業のAI・データ・インフラに依存し、意思決定や経済が支配される状態

上から、目標、指標、手段、結果、みたいなイメージだろうか。

認知的植民地主義

こうしたAI植民地化は、生成AIを作れるだけの計算資源を持つ側と持たざる側の搾取関係を表現しているが、生成AIが浸透しつつある今は、さらに悪化している。

認知を生成AIに任せることは、AIモデルのバイアスを受け入れることに加え、主体性を任せるという認知的依存が始まる。人類の多様性を平坦化する、らしい。

上記記事ではこの植民地化に対抗するためには、前提を知り、代替アプローチを検討し、責任者を設け、ファクトチェックしましょう、と書かれている。

デジタル小作人¹にはなるな、ということかもしれない。