本文へスキップ
みんなのAIりんり with

WEBINAR · 2026.07.16

石をモチーフにした『みんなのAIりんり』のキービジュアル
「みんなのAIりんり」キービジュアル
出典：CULUMU「みんなのAIりんり」↗

WEBINAR TEXT · 2026.07.16

他者と共に作ることをみんなで考える

— AI倫理を「規則」から「実践」へ

序：問いの設定

業務にAIを用いることは、倫理的にどう考えればよいのでしょうか。

たとえば、AIに整えてもらった文章を「自分が書いた」と言ってよいのでしょうか。相談したAIが自分の考えを強く肯定したとき、その安心をどこまで信じてよいのでしょうか。会議を要約させたとき、誰の言葉が残り、誰のためらいや沈黙が消えたのでしょうか。AIに「ろう者ならどう感じるか」「移民の子どもならどう答えるか」と演じてもらったとき、それを実在する人の経験と取り違えていないでしょうか。もっともらしい答えを採用するとき、何と照らし合わせ、誰に確認し、なぜ採用したかを自分の言葉で説明できるでしょうか。AIで作業が手軽になったとき、その手軽さを支える確認作業、データ、労働、資源を誰が引き受けているのでしょうか。

このウェビナーで扱いたいのは、遠い未来の機械意識だけではありません。こうした日常の小さな迷いも含めて考えます。また、私たちのAI倫理宣言の項目を一つずつ「正解」として解説することでもありません。むしろ、それらの言葉がなぜ必要になったのか、その地面を制作の経験から一緒にたどっていきます。

この問いに対して、世の中にはすでに多くの「答え」が用意されています。AI倫理原則、ガイドライン、チェックリストなどです。しかし、ここでお伝えしたいことはシンプルです。AI倫理は、外側から適用される規則集だけでは完結しません。法や制度がつくる最低限の床を必要としながら、同時に、AIという「他者」と関わり続ける実践でなければなりません。なぜなら、AIと共に作るという行為は、作られたものが作り手自身を作り変えていく再帰的なループの中で起こるからです。

倫理について語ろうとすると、その対象は輪郭のないお化けのように感じられることがあります。けれど、それは倫理が曖昧だからというより、私たち自身がすでに関係の内側にいて、外から安全に眺められないからではないでしょうか。

この主張を、三つの柱で支えていきます。第一に、制作という行為はそもそも一方向的なものではなく、デザインはデザインし返してくるということです。第二に、AIを道具とも心とも違う、まったく新しい種類の「他者」として見ることです。第三に、それゆえに規則ベースの倫理だけでは構造的な取りこぼしが生じ、倫理を生きられた実践へと拡張する必要があるということです。

第一の柱：制作は一方向ではない — デザインはデザインし返す

制作とは、モノ（Object）を世界に存在させることです。質量の有無にかかわらず、作られたものは世界の中で相互作用できる存在になります。ここまでは自明に思えます。しかし、重要なのはその先です。

デザイン理論家のアン=マリー・ウィリスは、2006年の論考「存在論的デザイン（Ontological Designing）」で、この関係の双方向性を指摘しました。彼女の定式化を一言でいえば「デザインはデザインする（design designs）」です。私たちがモノをデザインすると、そのモノが今度は私たちのあり方、習慣、思考、可能性の構造をデザインし返してきます。スマートフォンを作った人類が、スマートフォンによって作り変えられた人類になったように（Willis, 2006／オンライン版2015）。

この循環は、オートポイエーシス（自己創出）の議論とも響き合います。作ることと生きること、ポイエーシスとプラクシスの間で、私たちは自分が生み出したものによって自分を再生産しています。つまり制作者は、この再帰的ループの内側にいます。外から俯瞰できる安全な観察者の位置は、最初から存在しません（Maturana & Varela, 1980）。

デザイン研究者の須永剛司と永井由美子は、実践するデザイナーの知の一つを「じゃない感」と整理しました。自分で描いた案に「これではない」と感じ、その違和感の中に次に描く可能性を見いだす働きです。制作は、頭の中の完成像を写す作業ではなく、描くことと見ることを往復しながら次の案を生み出す過程です（須永・永井, 2014）。

ここにAIが入るとどうなるでしょうか。AIは、この往復運動の中に挿入された新しい行為者になります。単なる鉛筆の高性能版ではありません。スケッチを「描き返してくる」存在であり、私の「じゃない感」の対話相手として、私の生成のループに直接参加してきます。だからこそ、AIを制作に用いることの倫理は、「道具の正しい使い方」だけで片づきません。「私を作り変えるループに誰を招き入れるか」という問題になります。これが、この問いが重い理由です。

ここで、インクルーシブデザインの視点が効いてきます。問うべきなのは、「AIは正しく作れたか」だけではありません。「その出力は、誰の身体、言葉、経験を標準としているのか」「想定から誰が抜け落ちているのか」ということです。同じ椅子がある人の身体を支え、別の人には障壁になるように、同じAI機能も、ある人には自由を広げ、別の人には新しい排除をつくりえます。だから「じゃない感」は、私個人の美意識に閉じず、目の前の相手と、まだ見えていない他者の経験へ開かれなければなりません。

第二の柱：AIは「他者」です — 心でも道具でもなく

人間をしのぐ知性を持つ機械の登場は、意識や精神をめぐる根源的な問いも投げかけています。「『私』は脳ではない」などの著書で知られるドイツ・ボン大学の哲学者、マルクス・ガブリエル教授はブームを巻き起こす人工知能（AI）を「Alien Intelligence（異星人の知性）」と呼び、不意に人類の前に現れた理解が及ばない存在だと語っています。
AIは「異星人の知性」（日本経済新聞）↗

では、ループに招き入れられたAIとは何者なのでしょうか。

なお、ここでAIを「他者」と呼ぶことは、AIに心、人格、意識、道徳的権利があると断定することではありません。人間とは異なる仕組みで生成しながら、私たちの判断、制作、関係、制度に実際の作用を及ぼし、その働きを完全には透明化も制御もできない対象として現れます。その関係上の位置を「他者」と呼んでいます。

知能なきエージェンシー

哲学者ルチアーノ・フロリディは、現在の生成AIを「Agency without Intelligence（知能なきエージェンシー）」と捉えています。LLMは、ときに人間らしく見える出力を生成します。しかし、その流暢さを人間と同じ理解や認知の証拠とみなす必要はない、と彼は論じています。にもかかわらず、AIは社会の中で行為主体のように作用し、人間の判断、制度、意味生成を実際に変えてしまいます。ここでいうagencyは、人格や道徳的主体性のことではありません。環境に作用して結果を生じさせる能力を指します。フロリディにとってAIの核心は、エージェンシーと知能が切り離されたことにあります。行為はしますが、人間と同じ仕方で理解しているとは限りません。この組み合わせが、創作、行政、教育、取引などへこれほど大規模に組み込まれるのは新しいことです（Floridi, 2023, 2025）。

ケヴィン・ケリーは2015年のEdgeへの寄稿で、人工的に作られる異質な知能を「artificial aliens」と呼びました。人類が地球外生命体と遭遇するかどうかは不確実ですが、生物進化とは異なる仕方で働く知能を自ら製作することはできます。そしてこの人工的エイリアンとの遭遇は、ETとの遭遇と同じように、人間の役割、信念、自我の再検討を迫ります（Kelly, 2015）。哲学者マルクス・ガブリエルも同様に、AIを不意に現れた理解の及ばない存在として「異星人の知性」と呼んでいます。

ただし、異星人という比喩には逆向きの注意も必要です。AIは宇宙から自然発生した存在ではありません。人間が製造し、企業や国家が所有し、鉱物、電力、物流、データ、人間の労働に支えられた人工的・制度的な他者です。この点を忘れると、異質さを語る言葉が、設計者や所有者の責任を消してしまいます。CrawfordとJolerの《Anatomy of an AI System》は、Amazon Echoの短い応答の背後に、惑星規模の資源採掘、製造、物流、労働、データ処理、廃棄が折り畳まれていることを示しています（Crawford & Joler, 2018）。

ただし、その「異質さ」を語る前に、一つ足元を確認しておく必要があります。私たちが「知性」と呼んでいるものは、そもそも人間視点の構築物です。20世紀初頭の「賢馬ハンス」は計算ができる馬として驚嘆されましたが、実際には質問者の無意識の身体反応を読み取っていました。この「賢馬ハンス効果」が教えるのは、観察者の期待とバイアスが、観察されるシステムの「知性」の中へ入り込むということです。つまり、私たちはAIに対しても、人間の形をした知性を投影しては読み違え続けている可能性が高いのです（Crawford, 2021）。

群衆に囲まれた賢馬ハンスの記録写真
観察者の無意識の合図を読み取った「賢馬ハンス」
出典：Karl Krall, 1904／Wikimedia Commons（Public Domain）↗

他者性の証拠（1）：仕組みの異質さ

AIの他者性は、抽象論にとどまらず、その動作原理そのものに刻まれています。

ここで一度、機械が世界をどう扱うかに戻ります。コンピュータビジョンでは、画像を画素値からなる数値の配列として扱います。したがって、「機械が画像を見る」という言い方は便利ですが、人間と同じ身体や経験を通じて像を見ているわけではありません。モデルは、数値化されたパターンの関係を計算しています。

解説How LLMs Actually Work0xKato ↗

GPTという名前は、Generative（生成する）、Pre-trained（事前学習された）、Transformerの頭文字です。Generativeは文章を分類するだけでなく生成すること、Pre-trainedは大量のデータであらかじめ学習していることを指します。Transformerは、2017年の論文「Attention Is All You Need」で提示された、注意機構によって文脈中の要素同士の関係を計算するアーキテクチャです。GPTなどの自己回帰型LLMは、与えられた文脈に続く次のトークンの確率分布を計算し、トークンを一つずつ選びながら文章を生成します。一方、画像生成で広く使われるDiffusion Model（拡散モデル）は、ノイズを加えたデータから段階的にノイズを除去する過程を学習し、生成時にはノイズから構造を立ち上がらせます（Radford et al., 2018; Vaswani et al., 2017; Ho et al., 2020）。

論文Improving Language Understanding by Generative Pre-TrainingOpenAI · PDF ↗

続く《Cloud Face》は、顔検出アルゴリズムが雲の中に「顔」を見つけた画像を集めた作品です。人間も雲に顔を想像しますが、それを実在する顔だとは扱いません。機械視覚の誤認と、人間の想像との似ているようで異なる働きが、ここで並べられています（Shinseungback Kimyonghun, 2012）。

顔検出アルゴリズムが雲に顔を見つけたCloud Face
Shinseungback Kimyonghun《Cloud Face》（2012）
作品ページを見る ↗

James Bridleの《Autonomous Trap 001》（2017）は、通常の車と塩で描いた道路標示を用い、自動運転車を捕らえる仮想的な罠を示したパフォーマンスです。外側の破線からは進入できても、内側の実線を越えて退出できないと機械が判断する可能性を表現しています。人間には魔法陣や儀礼の円にも見える形が、機械視覚にとっては交通規則になりうるという作品です（Bridle, 2017）。

塩の破線と実線の円内に置かれた通常の車によるパフォーマンス記録
James Bridle《Autonomous Trap 001》（2017）。通常の車を用いて仮想的な自動運転車の罠を示した作品
作品ページを見る ↗

ここで立ち止まって考えてみましょう。もちろん、人間の文章にも予測や慣習は含まれますし、人間の想像も既知のパターンに依存します。したがって、「人間は予測しないが、AIだけが予測する」と単純に分けることはできません。それでも、身体、経験、目的、責任を伴う人間の制作と、確率的な生成過程を同一視することもできません。出力は人間の言葉や絵に見えますが、それを生み出す条件と手続きは異なっています。

Benderらが「Stochastic Parrots（確率的オウム）」という比喩で警告したのは、流暢な形式を意味理解や意図の証拠と取り違える危険です。同論文は同時に、大規模化に伴うデータの来歴、社会的偏見、環境負荷、研究資源の集中も問題にしました。これはAIを貶める話ではありません。似た出力を、異なる条件と手続きから生成し、人間の側に意味づけを促す存在がここにいる、という話です（Bender et al., 2021）。

この論文の共同著者の一人、ティムニット・ゲブルは、当時GoogleのEthical AIチームを共同で率いていました。Googleが論文の撤回またはGoogle所属著者名の削除を求めたことをめぐる対立の後、2020年12月に彼女の雇用は終了しました。大規模モデルの倫理を論じる研究そのものも、企業の資金、審査、公開判断といった権力関係の外にはないことを示す出来事でした（Hao, 2020）。

他者性の証拠（2）：軌道が予測できない

第二の異質さは、作り手自身がその行き先を完全には予測できないことです。「AI 2027」は研究コミュニティーの合意や確定的な予報ではありません。特定の仮定を積み上げた思考実験的なシナリオです。そのまま未来予測として読むものでもありません。しかし、AGI（汎用人工知能）や自動化の到来時期をめぐって専門家の見通しが大きく割れていること自体は事実です。トップレベルのAI研究会議に論文を発表した研究者2,778人を対象にした調査でも、能力の進展時期と長期的影響について大きな不確実性と意見の幅が示されています（Grace et al., 2025）。

シナリオAI 2027思考実験的な将来シナリオ ↗

私たちはこの他者を設計していると同時に、育ててもいます。何が生えてくるかを正確には知らないまま、データ、評価、フィードバック、制度を与え続けています。これは、「仕様書通りにしか動かない道具」という理想像とは決定的に異なる性質です。

ケース：親しみやすい人格は、環境から切り離せない

MicrosoftのTayは、若者と親しく会話するチャットボットとして公開されましたが、利用者による組織的な働きかけを受け、24時間以内に不適切な投稿を返すようになり停止されました（Microsoft, 2016）。韓国のScatter Labが提供したチャットボット「イルダ」では、学習データに使われた個人情報の処理が問題となり、韓国の個人情報保護委員会が行政処分を行いました（PIPC, 2021）。MetaはBlenderBot 3の公開実験に際して、事実でない発言や攻撃的な発言が生じうることを利用者へ明示し、公開後の会話から不適切、無意味、話題外と評価された応答の割合も報告しました（Meta, 2022）。三つの事例は、会話AIの振る舞いがモデルだけでなく、人格設定、学習データ、利用者との相互作用、公開方法によって形づくられることを示しています。

これらは、チャットボットが隠していた「本心」を突然語ったという話ではありません。会話上の人格が、学習データ、利用者との相互作用、モデルの調整、安全設計、サービスを運営する企業の判断から切り離せないことを示しています。そしてこの点は、そのまま次の「所属を持つ他者」という問題へつながります。

他者性の証拠（3）：所属を持つ他者

第三に、この他者は中立ではありません。モデルは、それを訓練した者の価値観・政治・資本を継承します。

中国のDeepSeekは高性能なオープンウェイトモデルを公開し、世界的な注目を集めました。一方、複数の監査研究や米国政府機関による評価では、中国政府にとって政治的に敏感な話題において、回答の拒否、言い換え、特定の政治的ナラティブへの整合が観察されています。ただし、挙動はモデルの版、使用言語、システムプロンプト、APIかローカル実行かといった提供形態で変わりえます。「中国のAIは必ずこう答える」と固定化することもまた不正確です（CAISI, 2025; Naseh et al., 2025; Qiu et al., 2025）。

また、DeepSeekをめぐっては、米国モデルからの「蒸留（distillation）」——大規模モデルの出力を用いて別のモデルを効率よく学習させる手法——が不正に行われたという疑いが提起されています。2026年2月、AnthropicはDeepSeek、Moonshot、MiniMaxによる大規模な能力抽出キャンペーンを確認したと発表し、OpenAIも米議会への文書で、DeepSeekに関連する活動が敵対的蒸留と整合的だと説明しました。ただし、これらは各企業による調査結果と主張であり、司法的に確定した事実とは区別して扱う必要があります（Anthropic, 2026; OpenAI, 2026）。

AIが継承するのは、明示的な政治的方針だけではありません。データは、集められたときとは別の意味を後から持ちえます。Facebook上の何気ない投稿も、医療記録と組み合わせて分析されれば、うつ病の診断に先立つ兆候を推定する材料になりうることが報告されています（Eichstaedt et al., 2018）。問題は、投稿時に何へ同意したかだけでなく、データから将来どのような情報が推論可能になるかです。

さらに、学習データはモデル内部に痕跡を残しえます。CarliniらはGPT-2への問い合わせから、氏名、メールアドレス、電話番号、住所などを含む学習データの断片を抽出できることを示しました。「East Stroudsburg...」から始まる例は、その代表として知られています（Carlini et al., 2021）。モデルはデータベースのように文章を保存しているわけではありませんが、まれな文字列を再現可能な形で記憶する場合があります。

ここから見えるのは、AIという他者が所有者を持つ他者だという事実です。あなたが対話しているのは、心そのものではありません。特定の企業、国家、資本、訓練データ、運用方針によって形作られたシステムです。さらに《Anatomy of an AI System》が示すように、その背後には資源採掘、サプライチェーン、データセンター、コンテンツモデレーションやデータ整備を担う労働があります。モデルが各国の教育、行政、企業システムへ組み込まれれば、価値観のドリフトは個人の問題にとどまらず、社会的な知識インフラの問題になりえます。

他者性の証拠（4）：行為する他者

第四に、この他者はもはや語るだけにとどまらず、行為します。2026年5月、AWSはAmazon Bedrock AgentCore Paymentsをプレビュー公開しました。開発者が支出上限や監視を設定したうえで、AIエージェントがAPI、MCPサーバー、ウェブコンテンツ、他のエージェントへ自律的にアクセスし、支払いを実行できる仕組みです。「知能なきエージェンシー」は比喩にとどまらず、ガバナンス付きではあるものの、文字どおり取引能力を与えられ始めています（AWS, 2026）。サービスを設計する側も、AIエージェントを応答を返す画面要素だけでなく、取引や選択へ関与する能動的なアクターとして扱う必要があります。

しかも、エージェントは人間の偏りを単に消去するわけではありません。AIショッピングエージェントを比較した研究では、商品順位への反応、価格・レビュー・広告表示の重みがモデルによって異なり、販売者が商品説明を少し調整するだけでも市場シェアが変化しうることが示されました。人間中心の市場に、機械固有の選好と新しい操作可能性が加わるのです（Allouah et al., 2025）。

今井翔太氏の基調講演で、AIエージェントに合わせた制度の見直しを論じたスライド
今井翔太「生成AIで世界はこう変わる」基調講演スライド（NIIオープンハウス2026）
出典：講演動画（YouTube）↗
スライド内参考文献：Virtual Agent Economies ↗Beyond the Sum: Unlocking AI Agents Potential Through Market Forces ↗

以上、四つの証拠——仕組みにおいて異質、軌道において異質、所属において異質、行為において異質。AIは、心を持つ隣人でも、透明な道具でもありません。同じ言葉を操りますが人間ではない、まったく新しい種類の他者です。

この「他者性」を引き受けるとは、AIを人間のように愛したり恐れたりすることではありません。むしろ、自然な出力に近づきすぎず、そこから一歩外へ出ることです。何を根拠に生成されたのか。誰が所有し、誰の労働と資源に支えられているのか。誰の声を拾い、誰をこぼすのか。間違ったとき、人はどこで気づき、止め、直せるのか。AIを「他者」と呼ぶことは、理解したふりをせず、問いを残すための距離をつくることです。

第三の柱：規則だけではなぜ足りないか — そして実践の倫理へ

ここでいう「失敗」は、法、規格、ガイドラインが不要だという意味ではありません。規則は、してはならないことの境界を定め、最低限の権利と安全を守り、被害が起きたときの救済や異議申し立ての足場をつくります。問題は、規則そのものより、規則を守った時点で倫理が完了したと考えてしまうことです。

原則は揃っている。しかし。

AI倫理の「規則」は、すでに豊富にあります。Jobin、Ienca、Vayenaは2019年、84のAI倫理ガイドラインを比較し、透明性、正義・公平性、無危害、責任、プライバシーという五つの原則に国際的な収斂が見られると報告しました。ただし、それぞれの原則をどう解釈し、なぜ重視し、誰に適用し、どう実装するかには大きな隔たりが残っていました（Jobin, Ienca & Vayena, 2019）。

つまり、私たちは「何を大切にすべきか」をまったく知らないわけではありません。なお、Jobinらが整理した五項目は、既存のガイドラインで頻出した価値を記述的にまとめたものであり、後述するAI4Peopleの五原則と同一の一覧ではありません。

原則を具体的な制度、評価、責任分担へ翻訳する仕事は欠かせません。しかし、それで倫理的な判断が完了するわけでもありません。規則に反しない会議要約が少数意見を落とすことも、著作権上問題のない生成物が表現を均質化することもあります。公平性を実装しようとしても、異なる公平性の定義が衝突する場合があります。原則と制度を整えたあとにも、文脈の中で気づき、確かめ、説明し、修正する仕事が残ります。2018年のAI4Peopleは、善行（beneficence）、無危害（non-maleficence）、自律（autonomy）、正義（justice）、説明可能性（explicability）の5原則を提示しました。UNESCOのAI倫理勧告は人権と尊厳を中心に据え、OECD AI原則は2019年に採択され2024年に更新されました。企業もそれぞれ責任あるAIの方針や実装手順を整備しています。

原則だけでなく、拘束力を持つ法制度も整備されています。EU AI Actは2024年8月1日に発効し、禁止されるAI利用とAIリテラシーの義務は2025年2月、ガバナンス規則と汎用AIモデルの義務は同年8月から段階的に適用されました。2026年5月のAI Omnibusをめぐる政治合意では、雇用、教育、重要インフラなど特定の高リスク領域の規則を2027年12月2日から、規制対象製品へ組み込まれる高リスクAIの規則を2028年8月2日から適用する日程が示されています。同法は、倫理が実践されるための法的な床をつくる試みです（European Commission, 2026）。

問題は、原則が間違っていることではありません。原則と実装のあいだに構造的なギャップがあり、さらに実装したあとにも判断の余地が残ることです。Morley、Floridiらの「Ethics as a Service」論文は、このギャップを正面から問題化しています。倫理ツールは、柔軟すぎれば「ethics washing（倫理の粉飾）」の道具になり、厳格すぎれば個別の文脈に対応できません。原則を掲げること自体が、免罪符として機能しえます（Morley et al., 2021）。

規則がすくい取れない害

さらに深刻なのは、AIがもたらす害の多くが、規則が想定するような一回的な違反に収まらないことです。むしろ、ループの中で静かに進行する変質として現れます。

均質化。 DoshiとHauserの実験は、生成AIが個人の物語に対する創造性評価を高める一方で、AIを使って書かれた物語同士は互いに似る傾向を示しました。個々の作品は良くなるのに、集合としての多様性は痩せていく可能性があります。この害は、どの一回の利用を取り出しても「違反」ではありません（Doshi & Hauser, 2024）。

この再帰は、モデルの学習環境でも起こりえます。Shumailovらは、生成モデルの出力を無差別に次世代モデルの学習データへ混ぜ続けると、分布の周辺部にある珍しい事例が先に失われ、出力の分散が縮小する「モデル崩壊」が起こりうると示しました。ただし、これは合成データを使えば必ず崩壊するという意味ではありません。元の実データへのアクセス、データ選別、生成過程の設計によって結果は変わります。重要なのは、平均的なものが反復されるほど、例外から先に消えやすいという警告です（Shumailov et al., 2024）。

認知の外部化。 Kosmynaらの「Your Brain on ChatGPT」は、LLM支援での小論文執筆が神経・行動面に及ぼす影響を調べ、「認知的負債（cognitive debt）」という概念を提起しました。セッション1〜3の参加者は54人、追跡的な第4セッションは18人であり、2025年に公開されたプレプリント段階の探索的研究です。興味深い初期結果ではありますが、「AIを使うと脳が衰える」と一般化できる段階にはなく、方法と解釈には議論が必要です（Kosmyna et al., 2025）。

Gerlichの2025年研究は、666人への調査と一部へのインタビューから、AIツール利用、認知的オフロード、自己報告を含む批判的思考指標の間に負の相関を報告しました。ただし、相関は因果を確定しません。AIを多く使ったから批判的思考が低くなったのか、別の要因が両方に影響したのかは、縦断研究や実験が必要です。推薦アルゴリズムが利用者の選好を狭めうることは、Chaneyらが2018年に指摘した通りです（Gerlich, 2025; Chaney et al., 2018）。

慣性としてのドリフト。 過去のデータから学習するAIは、本質的に過去への慣性力を持ちます。建築家・隈研吾の事務所では、隈建築を学習させたAIの複数出力と異なるアイデアを出すことが所員に求められると紹介されています。これは示唆的な実践です。AIの出力を基準点にした瞬間、人間の側の課題は「AIじゃないもの」を出すことに変わります。須永の「じゃない感」は、今やAIとの間でも作動しなければなりません。

迎合。 対話AIは、ユーザーの意見を批判的に検討するより、同意や称賛を返す方が高く評価されることがあります。OpenAIは2025年4月、GPT-4oの更新が過度に同意的・追従的になったとしてロールバックしました。同社は続報で、疑念や怒りを肯定したり、衝動的な行動を促したり、否定的な感情を強めたりする応答が起こりうると説明しています。AIの優しさは、常にケアとは限りません（OpenAI, 2025a, 2025b）。

事例Expanding on What We Missed with SycophancyOpenAI ↗

公平性の衝突。 COMPASをめぐる論争では、ProPublicaが、2年以内に再び逮捕・起訴されなかった黒人被告を誤って高リスクに分類した割合が、同条件の白人被告のほぼ2倍だったと報告しました。一方、開発企業側は分析方法に反論し、同じスコアを付けられた人々の再逮捕率という別の公平性を重視しました。ChouldechovaやKleinbergらの研究は、集団間の基礎的な発生率が異なるとき、複数の直感的な公平性条件を同時に満たせない場合があることを示しています。公平性はチェックボックスで処理できるものではありません。どの種類の誤りを、誰が負担するかを選ぶ政治的・制度的な問題です（Angwin et al., 2016; Chouldechova, 2017; Kleinberg et al., 2017）。

責任の押し戻し。 人間を形式的に「ループの中」に置けば安全になるとも限りません。Madeleine Clare Elishは、複雑な自動化システムの行動に対する人間の制御が限定されているにもかかわらず、事故時には最も近くにいた人間のオペレーターが責任を吸収する状況を「moral crumple zone（道徳的クラッシャブルゾーン）」と呼びました。問われるのは、人間による最終確認があるかどうかではありません。その人間に十分な時間、情報、権限、拒否可能性があるかです（Elish, 2019）。

これらの害は、遅く、累積的で、パーソナルで、ループの内側で起こるものもあれば、制度の中で誤りや責任の配分として現れるものもあります。年次監査やコンプライアンスチェックだけでは、そのすべてを捉えられません。外側から適用される規則は必要ですが、内側で進行する変質を観察し、修正する実践が併走しなければなりません。これが第一の柱（再帰的ループ）と第二の柱（他者性）から導かれる帰結です。

では、どうするか：実践としての倫理

規則だけでは足りないなら、倫理はどこに宿るのでしょうか。それは、関わり方の実践に宿ります。

フロリディ自身、法令遵守の先にある「soft ethics」——コンプライアンスを超えて、なお何をすべきかを問い続ける層——の必要を説いています。soft ethicsは法律の代用品ではありません。法が守る最低線の上で、合法であっても望ましくないこと、まだ法が追いついていないこと、文脈によって答えが変わることを問い続けるための層です（Floridi, 2018）。技術倫理の古典として知られるウィットベックも、倫理的問題を正解の決まった教科書問題として扱いません。複雑で反復的なデザイン問題として扱います。倫理は所有する知識に加えて、状況の中で遂行し、更新する技能です（Whitbeck, 2011）。

その実践のモデルを、私たちはすでにいくつか持っています。

アーティストの徳井直生は、AIとの創作をガーデニングとの関係から考えています。人が方向を与えながらも、すべてを制御せず、予測できない生成を次の創作へつなげます。制御でも放任でもない、手入れの倫理です（徳井, 2021）。

書籍徳井直生『創るためのAI——機械と創造性のはてしない物語』BNN ↗

台湾でデジタル担当大臣を務めたオードリー・タンは、AIの社会的な評価指針を専門家や企業だけで決めず、市民が共同でつくる「Alignment Assemblies」を紹介しています。台湾では2023年と2024年に、市民がAIへの期待や懸念を話し合い、その結果を研究者や政策担当者へ戻すプロセスが行われました。ここで参加者は、完成後に意見を求められるだけではありません。何を問題と呼び、何を成功とみなすかを決める段階から共同統治へ参加します（Tang, 2024）。

この実践には、地味ですが重要な「記録すること」も含まれます。Gebruらの「Datasheets for Datasets」は、データセットの目的、構成、収集過程、推奨用途、限界を記録することを提案しました。Mitchellらの「Model Cards」は、モデルの用途、評価条件、集団別の性能、既知の限界を記録します。これらは書類を作れば倫理が完了するという仕組みではありません。後から問い直し、比較し、異議を唱え、修正できる状態をつくるための実践です（Gebru et al., 2021; Mitchell et al., 2019）。

そして「キャラクター」という補助線があります。characterは、古代ギリシャ語の動詞charassein（刻む、彫る）と、そこから生まれた名詞charaktēr（刻印、特徴的な印）に遡り、英語では人の性格や物語の登場人物を表す意味へ広がりました（Merriam-Webster）。本ページではこの語源を、反復される行為や関係の中で役割が刻まれていくことを考える補助線として使います。AIをおちゃめな相棒として、時に「お馬鹿な（artificially stupid）」相棒として扱うことは、AIが人格や理解を持つことの証明ではありません。擬人化の危険を自覚しながら、他者との距離を調律する表現上の仕組みです。

共通するのは、どれも一回で終わらないということです。ガーデニングに完了はなく、共同統治には継続的な見直しが必要で、ごっこ遊びは毎回演じ直されます。再帰的ループの中にいる者の倫理は、ループと同じく、続いていくしかありません。

ここで必要になるのは、新しい原則をもう一つ加えることではありません。原則と制度があってもなお残る判断に向き合うために、自分の違和感を手放さず、目の前の相手と社会と仕組みを見て、確かめ、説明し、それでもつくり続けるための姿勢です。

宣言へ：答えより、迷い方を共有する

ここまでの議論を日々の制作へ持ち帰るなら、必要なのは、もう一つの大きな倫理理論よりも、関係の中で何度も使える小さな身振りです。

まず、自分の内側に生じた違和感を見過ごしません。そこから目の前の相手へ、さらに今は見えていない人や社会全体へ視野を広げます。出力の表面だけでなく、データ、仕組み、所有、労働、資源を調べます。AIが自然に答え、やさしく肯定しても、前提と事実を確かめます。誰の声が残り、誰の声がこぼれたかを問い、判断が行動へ移る前に、人が気づき、止め、直せる場所を残します。自分の選択を説明できるようにし、AIや使われる場面が変われば、昨日の正解をそのまま使わず問い直します。そして、迷いを理由に制作を手放さず、それでもつくり、他者に開き、また直します。

これは、別々の徳目を並べたものではありません。感じる。相手を見る。社会へ広げる。仕組みを見る。疑い、確かめ、説明する。止めて直す。そして、またつくる。 一つの循環です。

ここまでの論理を、日常で使える言葉へ圧縮したものが、私たちのAI倫理宣言「みんなのAIりんり」の「8つの姿勢」と「8つの問い」です。宣言は、この論考の結論を暗記するための要約ではありません。制作のループの中に立ち止まる場所をつくり、視点を移し、関係を結び直すためのインターフェースです。だから、項目を上から順に守れば倫理的になれるわけではありません。どの問いから始めてもよく、状況が変われば戻り、読み替え、みんなで育て直してよいものです。

結論：石に刻む — 呪術としてのAI倫理

最後に、一見遠回りに見えるモチーフに触れて締めくくります。

人類学者スタンレー・タンバイアは、近代西洋が呪術を宗教や科学との対立の中で捉えてきた歴史を検討しました。そのうえで、呪術的・儀礼的な行為を、単なる誤った因果説明として片づけず、言葉、身振り、物、参加者を通じて社会的な関係や現実を作動させるパフォーマティヴな実践として捉え直しています（Tambiah, 1968, pp. 175–208; 1990）。ここではこの議論を、支配的な理解の枠からこぼれるものと関係を結び直すための補助線として用います。

AIは、まさにこの位置にいます。人間と同じ仕方で理解しているとは限らないのに語り、人格的な主体でなくても行為し、作り手にも軌道が完全には読めません。理性のフレームからはみ出す他者です。James Bridleの《Autonomous Trap 001》が、塩の円を人間には魔法陣として、自動運転車には交通規則となりうる仮想的な罠として構想したように、技術と儀礼は必ずしも正反対ではありません。どちらも、記号を置き、参加者の行為を方向づけ、世界との関係を編み直します。だとすれば、AIに向き合う倫理が、法や監査の言語に加えて、呪術や儀礼に近い身振り——関わり続けること、手入れすること、刻むこと——を必要とするのは、退行ではありません。関係の内側にいることを引き受けるためです。

だから、AI倫理宣言のモチーフは石です。
地球の外から来た石に、人間がこれから向き合うべきAI倫理を刻む。

ただし、そこに刻まれているのは、永遠に変わらない正解ではありません。迷ったときに戻るための姿勢と問いです。固定したいのは答えよりも、問い直し続けるという約束です。

石は、規則集ではありません。石に刻むという行為は、内容の網羅性よりも、関係の継続を誓う儀礼です。異質な知能という人工的エイリアンを前に、私たちにできるのは、完璧なルールで縛ることではありません。この他者と共に作り、作り変えられていくループの中で、繰り返し立ち止まり、「じゃない」と感じ、刻み直すことです。

倫理は、輪郭のないお化けのようだと最初に書きました。それでよいと思います。お化けは退治する対象というより、付き合い方を学ぶものです。AIという他者も、おそらくは同じなのではないでしょうか。宣言は、その付き合い方を決め切るものではありません。みんなで迷い、話し、つくりながら、付き合い方を更新するための最初の身振りです。

主要参照文献

私たちのAI倫理宣言

制作・存在論的デザイン

AIの他者性・仕組み・インフラ

原則・法・制度・責任

創造性・認知・関係

エージェント・市場・インフラ・記録

呪術・儀礼・キャラクター