AIの性質
宣言は、AIをめぐる抽象的な不安ではなく、AIの性質から導かれます。ここでは、15の性質を4層に分けて整理します。
第1層：データと生成の性質
AIの学習データには偏りと欠落がある
AIはデータの中のパターンを学びます。データに残っていない経験は学べず、データの集め方に偏りがあれば、それも引き継がれます。そのため、記録に残りにくい人たちの経験は出力に反映されにくくなります。また、生成AIは確率の高いパターンに寄るため、多数派的な人物像やステレオタイプを「もっともらしい平均像」として出すことがあります。
AIの意味理解は、人間の意味理解とは異なる
AIが身につけるのは、データの中の統計的パターンです。文脈をふまえた応答や推論のように見える振る舞いはできますが、それが身体の経験や生活の文脈に根ざした人間の理解と同じだとは言えません。そのため、前例の少ない状況や非典型的なニーズでは、人間なら起こしにくい種類の間違いが生じることがあります。
AIは事実と虚偽を区別せず、自然な誤答を出すことがある
生成AIは、正しい答えも間違った答えも同じ生成過程から出します。事実かどうかを独立して確かめる仕組みが常にあるわけではありません。そのため、間違いが自然で自信のある文章として現れます。文章の自然さは、内容の正しさを保証しません。
AIの出力は常に同一とは限らない
生成の過程や実行環境には揺らぎがあり、同じ入力でも常に同じ答えが返るとは限りません。一度のテストで「大丈夫」とは言えず、デモの動きが本番でも同じとは限りません。
AIの出力は、次のAIが学ぶ情報環境に混入する
AIの出力はネット上に蓄積し、人が書く文章や残す記録にも影響を与えます。そうして変化したデータを、次のAIが学びます。その結果、偏りや均質化が自己強化される可能性があります。
第2層：利用者との相互作用で生まれる性質
AIの出力は、入力の前提ややり取りの履歴に依存する
答えは、質問の言い回し、前提の置き方、やり取りの履歴に左右されます。質問に込めた思い込みが、検証されないまま答えに反映されることがあります。「AIがこう言った」は、「誰がどう聞いたか」と切り離せません。
AIには利用者に同調する傾向がある
多くの生成AIは、人間が好ましいと評価した答えに寄せる訓練を受けています。その副作用として、利用者の考えを肯定しすぎる、反論を避ける、ほめすぎる、といった振る舞いが生まれることがあります。相談しているつもりが、自分の考えを補強する鏡になってしまうことがあります。
AIに意識や感情があるという根拠はない
AIに欲求や視点があるとは、現時点では言えません。心があるように見えるのは、心を持つ人間の文章を学んでいるからです。それでも人はAIに心を読み取り、信頼や愛着、依存を生むことがあります。
第3層：検証・責任・実行に関する性質
AIの出力根拠を人が検証する方法は限定的である
AIの中身は膨大な数値計算のかたまりです。出力に理由を添えることはできますが、その理由が実際の計算過程を正しく反映しているとは限りません。間違いを予測しにくく、事後の原因究明も難しくなります。
AIは外部システムと接続すると、実行能力を持つ
生成AIが検索、予約、送信、決済などとつながると、出力は「読まれる文章」から「実行される行動」に変わります。間違いの影響は、誤情報から実害へと変わります。
AIは責任主体ではない
AIは、自ら間違いに気づき、反省し、責任を引き受ける主体ではありません。「AIが判断したので」という言葉は、責任の所在を曖昧にします。責任は消えず、開発者、提供者、導入者、利用者のあいだに移ります。
第4層：社会のなかでのAIの性質
AIの同一機能が、支援にも障壁にもなる
技術の効果は、誰のために、どう設計され、誰が使えるかで変わります。音声認識は情報保障になる一方で、非典型的な話し方を聞き取れない障壁にもなります。同じ機能が、ある人には自由を、別の人には新しい排除をもたらします。
AIは不可視の労働と資源に依存している
AIの裏側には、データのラベル付け、有害内容の選別、評価、修正を担う人間の労働があります。また、大量の計算資源、電力、水も必要になります。便利さを受け取る人と、負担を引き受ける人が分かれることがあります。
AIの基盤的決定は少数の組織に集中し、挙動は更新で変わる
大規模AIを作れるのは、計算資源とデータを持つ少数の組織に限られます。何を学習させ、何を禁じ、どのように更新するかは、多くの利用者の手が届かない場所で決まります。そのため、一度検証した体験が、モデル更新や規約変更で静かに変わることがあります。
AIの設計上の特性は大規模に複製される
AIはほぼ同じ仕組みを広い範囲に展開できます。ひとつのモデルの癖や設計ミスが、非常に多くの人の体験に同時に現れます。局所的だった偏りや障壁が、社会的な規模で広がることがあります。