みんなのAIりんり

INTRODUCTION

AIの恩恵と影響を受ける人々

このウェビナーではAIに関する制度や実験を紹介し、利用の恩恵と負担が誰に及ぶかを考えます。インクルーシブデザインの視点から利用者ごとの経験の違いを検討します。

この講義で学ぶこと

• 教育や組織で求められるAIリテラシー
• AIが得意な作業と不得意な作業を示す実験結果
• 技術の進歩と社会の変化を関連づけてAIの出来事を読む方法

登壇者

岡田 祐介

Design Manager / Designer · CULUMU

芝浦工業大学デザイン工学部卒。卒業後、単身渡米し、NYで複数のフォトグラファーに師事。帰国後はブランディング撮影やECサイト制作など、撮影スキルから派生した領域で活動。UI/UXデザイナー・フォトグラファー・ビデオグラファーとしてクリエイティブ職に携わる。現在はCULUMUで、生成AIを活用したサービス開発など、さまざまなプロダクトのUX/UIデザインを担当。

徳野 稀太

Design Manager / Designer · CULUMU

東京理科大学で機械工学を学び、多摩美術大学大学院・情報デザイン研究領域を修了。深層学習を用いたモーション手話学習アプリや、動いて喋り出すAR博物館ガイドなど、学びの新しい体験を制作。大手IT事業会社で通信サービスのUXディレクション等を経て、現在はCULUMUでリサーチとプロトタイピングを担当。近年は「ヒト–AI–ヒト」の関係、人と人のあいだに他者としてのAIが介在する体験を探る。

登壇者プロフィール：イベントページより。

ABOUT CULUMU

CULUMUのインクルーシブデザイン

CULUMUはインクルーシブデザインに取り組むデザインスタジオです。高齢者や障がい者、外国人などの当事者と、企画や開発の初期段階から製品やサービスを検討します。

運営会社のSTYZはドネーションプラットフォーム、インクルーシブデザイン、システム開発の三つの事業を展開しています。企業・行政・NPOと連携し、課題の把握から実装までを支援します。

01 · 問いを見つけるSyncable

ドネーションプラットフォーム事業。NPO・NGOの資金調達・運用を、決済やクラウドファンディングで支援します。約8年間の運営実績と5,000を超える団体の登録を土台に、団体の大小にかかわらず公平公正に運営し、課題の当事者へのリアルなヒアリングにつなげます。

02 · 仕組みで解決するCULUMU

インクルーシブデザイン事業。多様な人々と共創するデザインアプローチによって、N=1を起点とするインキュベーションやものづくりを支援します。

03 · 社会実装するSTYZ / Tech

システム開発・エンジニアリング事業。PM経験者とエンジニアが連携し、自社サービス運営で培ったコンサルティング・監修の知見と、AIを含む技術力によって組織を支援します。

WHY NOW

AIリテラシーをめぐる制度整備

AIリテラシーの教育や組織内での扱いについて、UNESCO、EU、OECDと欧州委員会の動きを紹介します。

1. 2024

   UNESCO「AIコンピテンシー枠組み」

   学生・教師がAIについて身につける力を体系化した枠組みです。人間中心のマインドセットを基礎に置いています。

   UNESCOの枠組みを読む ↗

2. 2025.2

   EU AI Act 第4条「AIリテラシー」

   AIの提供者と導入者に、従業員などの十分なAIリテラシーを確保するための措置を求めています。

   第4条の参照先 ↗

3. 2026

   OECD × 欧州委員会「AILit Framework」

   前半資料ではAIリテラシー枠組みの最終版と、PISA 2029の評価対象に加わる見込みを紹介しています。

   AIリテラシー枠組みを見る ↗

AIリテラシーの四つの側面

UNESCOの学生向け枠組みは、この四つの側面を「理解する・応用する・創造する」の三つのレベルで整理しています。今日はこのうち、倫理 × 人間中心の回です。

出典：UNESCO “AI Competency Framework for Students” (2024)、Regulation (EU) 2024/1689 Art. 4、OECD & EC “Empowering Learners for the Age of AI”。この節は2026年7月の前半資料の整理に沿っています。

FRAMEWORKS

AI指針の比較

世界の12のAIフレームワークを、アクセシビリティ、障害、子ども、言語の多様性、グローバルサウスという五つの観点から比較しました。

✓：明示的に対応　△：部分的・抽象的　✗：不在。AIりんりせんげん「既存ガイドライン比較（12件・一次情報精査）」より。評価は前半スライドv3掲載時点のものです。

この比較では、五項目すべてが✓となったのはUNESCO勧告のみでした。日本のAI推進法は0/5という評価です。前半資料では、2026年7月14日のAI基本計画改定についても、この五項目への言及は0件と整理しています。

規制の有無に加え、その設計で利用しにくくなる人がいないかを確かめる必要があります。

VOICES

AIに関する有識者の発言

有識者87人の発言を26カ国と五つの立場から整理し、一次情報で確かめました。米国以外にルーツを持つ人の発言は57％でした。以下では恩恵の配分や人への影響に関する発言を紹介します。

AIの恩恵や影響を受ける人を、実際の利用場面で確かめる必要があります。

AIりんりせんげん「AIに対する有識者の声」（87名・立場マップ・一次情報）より。引用の日本語表記・肩書・年は前半資料に準拠。

INCLUSIVE DESIGN

障害の社会モデル

車いすで通れない段差は、環境を整備する側が対応できる問題です。社会モデルは、移動を妨げる環境を変えることで利用できる人を増やすことに注目します。

カーブカット効果

車いすの人のために歩道を切り下げると、ベビーカーや台車、スーツケースも通りやすくなります。特定の人のための整備がほかの人にも役立つ例として、カーブカット効果と呼ばれています。

• 字幕：聴こえない人のための仕組みが、音を出せない場所での視聴にも使われる。
• 音声入力：手が使えない人のための仕組みが、運転中や料理中にも使える道具になる。

AIを使いやすくする設計

1. 音声認識や翻訳による支援

   音声認識・翻訳・字幕は情報へのアクセスや操作を補助します。AIも同様の支援に利用できます。

2. 利用者によって異なる効果

   AIの使いやすさは利用者の身体や言語、利用環境によって異なります。設計によって利用できる人が増えることも、利用しにくくなる人が生じることもあります。

3. 具体的な当事者への聞き取り

   ろう者、移民の子ども、少数言語話者など、実際の利用者に困っていることを聞きます。

SKILLS · INSIDE THE FRONTIER

AIを使った作業の速さと品質

BCGのコンサルタント758名を対象に、AIを使う場合と使わない場合を比べた実験があります。AIが得意とする作業について、完了したタスクの数、作業時間、成果物の品質を比較しました。

こなせたタスク

+12.2％

完了数が増えた

仕事の速さ

25.1％

速く終わった

成果物の質

40％超

品質スコアが上がった

実験前の成績が平均以下だった人たちでは、品質が43％改善しました。コード開発を対象とした別の95名の実験では、GitHub Copilotの利用によって55.8％の高速化が報告されています。

出典：Dell’Acqua et al. (2023), “Navigating the Jagged Technological Frontier,” HBS WP 24-013。Peng et al. (2023), “The Impact of AI on Developer Productivity,” arXiv:2302.06590。二つの実験は対象者・課題が異なります。

SKILLS · OUTSIDE THE FRONTIER

AIが不得意な作業での結果

AIが得意かどうかを、人が感じる難易度だけで判断することはできません。似た難易度の作業でも結果が異なります。このような能力の偏りが「ギザギザの境界（jagged frontier）」と呼ばれています。

2026年9月の更新版

Tomas Pueyoは2026年9月21日（日本時間）に図の更新版を投稿しました。「We are here」の星は旧図では3段階目と4段階目の間にありました。更新版では4段階目の下に置かれています。作者はAIの能力が以前より進んだと捉えています。

Mollickは2026年10月20日の記事でもAIには得意不得意が残ると述べています。数学のように大きく進歩した分野があっても、作業の一部に残る弱点を人が補う必要があると説明しています。「30 Months on the Exponential (in Charts)」↗

AIに任せられる作業はモデルの更新によって変わります。過去の成功例や失敗例だけで判断せず、使うモデルで実際に確かめる必要があります。

追記：2026年10月22日。講義後の動向として、原図の作者の更新投稿とMollickの後続記事を紹介しています。

Klarnaのサポート業務

前半資料ではKlarnaのサポート業務も取り上げています。2024年にAIアシスタントが「700人分」の業務を担ったと発表した後、2025年には品質をめぐる見直しと、人と話せる選択肢の必要性が報じられました。処理量と利用者への対応の質をあわせて考える事例です。

出典：Dell’Acqua et al., “Navigating the Jagged Technological Frontier,” DOI: 10.1287/orsc.2025.21838（初出：2023 HBS WP 24-013）。Klarnaプレスリリース（2024年2月）、Bloomberg（2025年5月）。

READING AI HISTORY

画像生成AIの普及と社会への影響

AIの歴史年表は1811年から始まります。ここでは直近8年の画像生成AIに関する出来事を紹介します。

1. 2018技術

   StyleGAN

   実在しない顔を生成する。

2. 2022技術

   Stable Diffusion / Midjourney

   画像生成AIを広く利用できるようになる。

3. 2023人・発言

   ホリー・ハーンドン

   「声と似姿を決める力を、本人に」。表現する人の側から、権利や関わり方を問い直す。

4. 2023–24事故

   ディープフェイクによる被害

   スペインの学校やテイラー・スウィフトの偽画像など、生成画像による被害が生じる。

5. 2024–26制度

   EU AI Actと国内判例

   画像生成AIに関わる法整備や司法判断が進む。

画像生成AIの普及は表現活動や被害の発生、制度の整備にも関わっています。年表では技術・文化・事故・制度・人の発言を関連づけて整理しています。

前半スライド作成時の年表：584件。技術208件、文化162件、人・発言105件、事故69件、制度40件。掲載数は2026年7月時点のスナップショットです。

TO PART 2

前半のまとめ

前半の論点を三つに整理します。

1. AIの得意不得意の見極め

   使う作業によってAIの効果が異なります。

2. 指針に残る偏り

   指針の対象や策定に参加する人々には偏りがあります。

3. 当事者の経験を踏まえた検討

   原則が実際の利用者の経験に対応しているかを確かめる必要があります。

後半では制作の事例を通してAIとの関係を検討します。規則を守ることに加え、実際の関わりの中でどのような判断が必要になるかを考えます。

序：問いの設定

業務にAIを用いることは、倫理的にどう考えればよいのでしょうか。

AIに整えてもらった文章を自分の著作として扱えるか、相談したAIの肯定をどこまで信用できるかといった判断が日常的に生じています。会議の要約から少数意見が消えることもあります。AIにろう者や移民の子どもの立場を演じさせた場合、その応答が実際の経験に基づくかを確かめる必要があります。出力を採用した理由の説明や、確認作業・データ・労働・資源の負担を誰が引き受けるかも検討すべき問題です。

このウェビナーでは日常の制作で生じる迷いを通して、AI倫理宣言の背景を考えます。

AI倫理では法や制度を守るとともに、AIとの関わりの中で判断を重ねる必要があります。AIと作ったものは作り手の習慣や考え方にも影響します。制作する側も影響を受けるという再帰的な関係を踏まえて倫理を考えます。

倫理には輪郭のないお化けのような捉えにくさがあります。私たち自身がAIとの関係に参加しているため、その関係全体を外から観察できないことも理由の一つだと考えます。

以下では、制作が作り手に及ぼす影響、AIの他者性、規則と倫理の実践の三点を検討します。

第一の柱：作り手を変えるデザイン

制作によって生まれたモノ（Object）は、質量の有無にかかわらず世界の中で他の存在と相互作用します。

デザイン理論家のアン=マリー・ウィリスは、2006年の論考「存在論的デザイン（Ontological Designing）」で制作の双方向性を指摘しました。「デザインはデザインする（design designs）」とは、モノをデザインすると、そのモノによって作り手の習慣や思考、行動の可能性も変わるということです。スマートフォンの普及で人々の生活が変わったことが一例です（Willis, 2006／オンライン版2015）。

この循環はオートポイエーシス（自己創出）の議論とも関わります。作ることと生きること、ポイエーシスとプラクシスの間で、私たちは自分が生み出したものによって自分を再生産しています。制作者自身もこの再帰的ループに含まれるため、制作の影響を外から眺めるだけの立場は取れません（Maturana & Varela, 1980）。

デザイン研究者の須永剛司と永井由美子は、実践するデザイナーの知の一つを「じゃない感」と整理しました。自分で描いた案に「これではない」と感じ、その違和感の中に次に描く可能性を見いだす働きです。制作は、頭の中の完成像を写す作業ではなく、描くことと見ることを往復しながら次の案を生み出す過程です（須永・永井, 2014）。

AIは案を返すことで制作の過程に参加します。作り手はその案に「じゃない感」を覚え、次の案を考えます。AIの出力によって作り手の判断も変化するため、利用方法とともにその影響を検討する必要があります。AIと作るという選択には、誰を制作の相手にするかという倫理的な判断も含まれます。

インクルーシブデザインでは、AIの提案がどのような身体、言葉、経験を前提にしているかを確かめます。同じ椅子やAI機能でも利用者によって使いやすさが異なります。「じゃない感」を自分の好みに閉じず、目の前の利用者や想定に含まれていない人の経験にも向ける必要があります。

第二の柱：AIの他者性

人間をしのぐ知性を持つ機械の登場は、意識や精神をめぐる根源的な問いも投げかけています。「『私』は脳ではない」などの著書で知られるドイツ・ボン大学の哲学者、マルクス・ガブリエル教授はブームを巻き起こす人工知能（AI）を「Alien Intelligence（異星人の知性）」と呼び、不意に人類の前に現れた理解が及ばない存在だと語っています。
AIは「異星人の知性」（日本経済新聞）↗

次に共同制作に参加するAIの性質を考えます。

本稿では、人間と異なる仕組みで動きながら人々の判断や制作、制度へ影響するAIを「他者」と呼びます。その働きを完全には把握・制御できないことに注目した呼び方であり、心や人格、意識、道徳的権利の有無を断定するものではありません。

知能なきエージェンシー

哲学者ルチアーノ・フロリディは、現在の生成AIを「Agency without Intelligence（知能なきエージェンシー）」と捉えています。ここでいうagencyは環境に作用して結果を生じさせる能力です。LLMの流暢な出力だけでは人間と同じ理解や認知を持つと判断できないと論じています。AIは理解の有無にかかわらず人間の判断や制度に影響を与えます。エージェンシーと知能が切り離され、その能力が創作、行政、教育、取引に広く組み込まれていることに注目しています（Floridi, 2023, 2025）。

ケヴィン・ケリーは2015年のEdgeへの寄稿で、人工的に作られる異質な知能を「artificial aliens」と呼びました。人類が地球外生命体と遭遇するかどうかは不確実ですが、生物進化とは異なる仕方で働く知能を自ら製作することはできます。そしてこの人工的エイリアンとの遭遇は、ETとの遭遇と同じように、人間の役割、信念、自我の再検討を迫ります（Kelly, 2015）。哲学者マルクス・ガブリエルも同様に、AIを不意に現れた理解の及ばない存在として「異星人の知性」と呼んでいます。

AIは人間が製造し、企業や国家が所有しています。鉱物、電力、物流、データ、人間の労働に支えられた人工的・制度的な他者です。「異星人」という比喩を使う場合も、設計者や所有者の責任を考える必要があります。CrawfordとJolerの《Anatomy of an AI System》は、Amazon Echoの短い応答の背後に惑星規模の資源採掘、製造、物流、労働、データ処理、廃棄があることを示しています（Crawford & Joler, 2018）。

知性の評価には観察者の期待やバイアスが入り込みます。20世紀初頭の「賢馬ハンス」は計算ができる馬として注目されましたが、実際には質問者の無意識の身体反応を読み取っていました。この「賢馬ハンス効果」は、観察者の反応がシステムの振る舞いにも影響する例です。AIを評価する場合も、人間の知性についてのイメージを投影していないか確かめる必要があります（Crawford, 2021）。

AIの他者性（1）：生成の仕組み

人間とAIの違いは生成の仕組みにもあります。

コンピュータビジョンでは画像を画素値からなる数値の配列として扱います。モデルは数値化されたパターンの関係を計算します。人間が身体や経験を通じて像を見る過程とは異なる仕組みです。

解説How LLMs Actually Work0xKato ↗

GPTという名前は、Generative（生成する）、Pre-trained（事前学習された）、Transformerの頭文字です。Generativeは文章を分類するだけでなく生成すること、Pre-trainedは大量のデータであらかじめ学習していることを指します。Transformerは、2017年の論文「Attention Is All You Need」で提示された、注意機構によって文脈中の要素同士の関係を計算するアーキテクチャです。GPTなどの自己回帰型LLMは、与えられた文脈に続く次のトークンの確率分布を計算し、トークンを一つずつ選びながら文章を生成します。一方、画像生成で広く使われるDiffusion Model（拡散モデル）は、ノイズを加えたデータから段階的にノイズを除去する過程を学習し、生成時にはノイズから構造を立ち上がらせます（Radford et al., 2018; Vaswani et al., 2017; Ho et al., 2020）。

論文Improving Language Understanding by Generative Pre-TrainingOpenAI · PDF ↗

続く《Cloud Face》は、顔検出アルゴリズムが雲の中に「顔」を見つけた画像を集めた作品です。人間も雲に顔を想像しますが、それを実在する顔だとは扱いません。機械視覚の誤認と、人間の想像との似ているようで異なる働きが、ここで並べられています（Shinseungback Kimyonghun, 2012）。

James Bridleの《Autonomous Trap 001》（2017）は、通常の車と塩で描いた道路標示を用い、自動運転車を捕らえる仮想的な罠を示したパフォーマンスです。外側の破線からは進入できても、内側の実線を越えて退出できないと機械が判断する可能性を表現しています。人間には魔法陣や儀礼の円にも見える形が、機械視覚にとっては交通規則になりうるという作品です（Bridle, 2017）。

人間の文章や想像も既知のパターンに依存します。そのため予測の有無だけで人間とAIを区別することはできません。人間の制作には身体、経験、目的、責任が伴います。見た目の似た出力でも、生成される条件と手続きが異なる点を検討する必要があります。

Benderらが「Stochastic Parrots（確率的オウム）」という比喩で警告したのは、流暢な形式を意味理解や意図の証拠と取り違える危険です。同論文は大規模化に伴うデータの来歴、社会的偏見、環境負荷、研究資源の集中も問題にしました。AIの生成過程と、人間がその出力をどう意味づけるかの両方を検討する必要があります（Bender et al., 2021）。

この論文の共同著者の一人、ティムニット・ゲブルは、当時GoogleのEthical AIチームを共同で率いていました。Googleが論文の撤回またはGoogle所属著者名の削除を求めたことをめぐる対立の後、2020年12月に彼女の雇用は終了しました。大規模モデルの倫理を論じる研究そのものも、企業の資金、審査、公開判断といった権力関係の外にはないことを示す出来事でした（Hao, 2020）。

AIの他者性（2）：予測の難しさ

AIの振る舞いと将来の進展は、作り手にも完全には予測できません。「AI 2027」は特定の仮定を積み上げた思考実験的な将来シナリオです。AGI（汎用人工知能）や自動化の到来時期については、専門家の見通しも分かれています。トップレベルのAI研究会議に論文を発表した研究者2,778人を対象にした調査でも、能力の進展時期と長期的影響について大きな不確実性と意見の幅が示されています（Grace et al., 2025）。

シナリオAI 2027思考実験的な将来シナリオ ↗

AIの開発ではデータ、評価、フィードバック、制度を通じて学習や利用の条件を整えます。開発者も後にどのような振る舞いが生じるかを予測しきれないまま、その条件を調整し続けています。

ケース：会話AIを取り巻く環境

MicrosoftのTayは、若者と親しく会話するチャットボットとして公開されましたが、利用者による組織的な働きかけを受け、24時間以内に不適切な投稿を返すようになり停止されました（Microsoft, 2016）。韓国のScatter Labが提供したチャットボット「イルダ」では、学習データに使われた個人情報の処理が問題となり、韓国の個人情報保護委員会が行政処分を行いました（PIPC, 2021）。MetaはBlenderBot 3の公開実験に際して、事実でない発言や攻撃的な発言が生じうることを利用者へ明示し、公開後の会話から不適切、無意味、話題外と評価された応答の割合も報告しました（Meta, 2022）。三つの事例は、会話AIの振る舞いがモデルだけでなく、人格設定、学習データ、利用者との相互作用、公開方法によって形づくられることを示しています。

会話AIの人格的な振る舞いには、学習データ、利用者との相互作用、モデルの調整、安全設計、運営企業の判断が関わっています。AIを取り巻く環境と所有関係も、その振る舞いを考えるうえで検討する必要があります。

AIの他者性（3）：所有と所属

AIは訓練した者や所有者の価値観、政治、資本の影響を受けています。

中国のDeepSeekは高性能なオープンウェイトモデルを公開し、世界的な注目を集めました。一方、複数の監査研究や米国政府機関による評価では、中国政府にとって政治的に敏感な話題において、回答の拒否、言い換え、特定の政治的ナラティブへの整合が観察されています。ただし、挙動はモデルの版、使用言語、システムプロンプト、APIかローカル実行かといった提供形態で変わりえます。「中国のAIは必ずこう答える」と固定化することもまた不正確です（CAISI, 2025; Naseh et al., 2025; Qiu et al., 2025）。

また、DeepSeekをめぐっては、米国モデルからの「蒸留（distillation）」——大規模モデルの出力を用いて別のモデルを効率よく学習させる手法——が不正に行われたという疑いが提起されています。2026年2月、AnthropicはDeepSeek、Moonshot、MiniMaxによる大規模な能力抽出キャンペーンを確認したと発表し、OpenAIも米議会への文書で、DeepSeekに関連する活動が敵対的蒸留と整合的だと説明しました。ただし、これらは各企業による調査結果と主張であり、司法的に確定した事実とは区別して扱う必要があります（Anthropic, 2026; OpenAI, 2026）。

AIの学習データは収集時に想定されていなかった情報の推論にも使われます。Facebook上の投稿を医療記録と組み合わせ、うつ病の診断に先立つ兆候を推定する材料にできることが報告されています（Eichstaedt et al., 2018）。投稿時の同意に加え、データから将来どのような情報が推論できるかも検討する必要があります。

さらに、学習データはモデル内部に痕跡を残しえます。CarliniらはGPT-2への問い合わせから、氏名、メールアドレス、電話番号、住所などを含む学習データの断片を抽出できることを示しました。「East Stroudsburg...」から始まる例は、その代表として知られています（Carlini et al., 2021）。モデルはデータベースのように文章を保存しているわけではありませんが、まれな文字列を再現可能な形で記憶する場合があります。

AIは特定の企業、国家、資本、訓練データ、運用方針によって形作られています。《Anatomy of an AI System》が示すように、その背後には資源採掘、サプライチェーン、データセンター、コンテンツモデレーションやデータ整備を担う労働があります。所有や運用の条件も含めてAIという他者の働きを考える必要があります。各国の教育、行政、企業システムにモデルが組み込まれると、その価値観は社会の知識基盤にも影響します。

AIの他者性（4）：取引や行動への参加

AIエージェントによる取引の仕組みも登場しています。2026年5月、AWSはAmazon Bedrock AgentCore Paymentsをプレビュー公開しました。開発者が支出上限や監視を設定したうえで、AIエージェントがAPI、MCPサーバー、ウェブコンテンツ、他のエージェントへ自律的にアクセスし、支払いを実行できる仕組みです。「知能なきエージェンシー」は比喩にとどまらず、ガバナンス付きではあるものの、文字どおり取引能力を与えられ始めています（AWS, 2026）。サービスを設計する側も、AIエージェントを応答を返す画面要素だけでなく、取引や選択へ関与する能動的なアクターとして扱う必要があります。

取引を行うAIエージェントにもモデルごとの偏りがあります。AIショッピングエージェントを比較した研究では、商品順位への反応、価格・レビュー・広告表示の重みがモデルによって異なり、販売者が商品説明を少し調整するだけでも市場シェアが変化しうることが示されました。人間中心の市場に、機械固有の選好と新しい操作可能性が加わるのです（Allouah et al., 2025）。

AIの仕組み、予測の難しさ、所有関係、行為の四点を見てきました。人の言葉を扱いながら人とは異なる条件で働く存在として、AIの他者性を捉えます。

AIを利用する際は出力の根拠や所有者を確かめます。運用を支える労働や資源、その出力に反映される人と含まれない人についても調べます。誤りが起きた際に、人が気づいて停止・修正できる箇所を確保する必要があります。AIを他者として扱うことは、理解できていない部分を認めながら、こうした問題の検討を続ける立場です。

第三の柱：規則の限界と倫理の実践

法、規格、ガイドラインは最低限の権利と安全を守る基準です。禁止事項や救済、異議申し立ての手続きを定めます。規則を守った後に残る判断も倫理の検討対象になります。

原則の共通点と実装上の違い

AI倫理の「規則」は、すでに豊富にあります。Jobin、Ienca、Vayenaは2019年、84のAI倫理ガイドラインを比較し、透明性、正義・公平性、無危害、責任、プライバシーという五つの原則に国際的な収斂が見られると報告しました。ただし、それぞれの原則をどう解釈し、なぜ重視し、誰に適用し、どう実装するかには大きな隔たりが残っていました（Jobin, Ienca & Vayena, 2019）。

Jobinらの五項目は既存のガイドラインで頻出した価値を整理したものです。後述するAI4Peopleの五原則とは区別して扱います。

原則を制度や評価、責任分担に反映した後も、利用場面に応じた判断は残ります。規則や著作権に反しない利用でも、会議要約による少数意見の脱落や生成物の均質化が起こる場合があります。公平性の定義が衝突する問題もあります。2018年のAI4Peopleは、善行（beneficence）、無危害（non-maleficence）、自律（autonomy）、正義（justice）、説明可能性（explicability）の5原則を提示しました。UNESCOのAI倫理勧告は人権と尊厳を中心に据え、OECD AI原則は2019年に採択され2024年に更新されました。企業もそれぞれ責任あるAIの方針や実装手順を整備しています。

原則だけでなく、拘束力を持つ法制度も整備されています。EU AI Actは2024年8月1日に発効し、禁止されるAI利用とAIリテラシーの義務は2025年2月、ガバナンス規則と汎用AIモデルの義務は同年8月から段階的に適用されました。2026年5月のAI Omnibusをめぐる政治合意では、雇用、教育、重要インフラなど特定の高リスク領域の規則を2027年12月2日から、規制対象製品へ組み込まれる高リスクAIの規則を2028年8月2日から適用する日程が示されています。同法は、倫理が実践されるための法的な床をつくる試みです（European Commission, 2026）。

原則の実装には構造的な難しさがあり、実装後にも個別の判断が必要です。Morley、Floridiらの「Ethics as a Service」論文はこの問題を扱っています。倫理ツールは柔軟すぎれば「ethics washing（倫理の粉飾）」に利用され、厳格すぎれば個別の文脈に対応できません。原則を掲げたことだけで責任を果たしたとみなす危険があります（Morley et al., 2021）。

継続的な利用で生じる害

生成物の均質化や判断の習慣の変化は、利用を重ねる中で生じます。個別の違反を確認する方法だけでは把握しにくい問題です。

均質化。 DoshiとHauserの実験は、生成AIが個人の物語に対する創造性評価を高める一方で、AIを使って書かれた物語同士は互いに似る傾向を示しました。個々の作品への評価が上がっても、作品全体の多様性が減る可能性があります。個別の利用について違反を確認するだけでは捉えにくい問題です（Doshi & Hauser, 2024）。

この再帰は、モデルの学習環境でも起こりえます。Shumailovらは、生成モデルの出力を無差別に次世代モデルの学習データへ混ぜ続けると、分布の周辺部にある珍しい事例が先に失われ、出力の分散が縮小する「モデル崩壊」が起こりうると示しました。ただし、これは合成データを使えば必ず崩壊するという意味ではありません。元の実データへのアクセス、データ選別、生成過程の設計によって結果は変わります。この研究では平均的な出力が繰り返される中で、珍しい事例が失われる問題を扱っています（Shumailov et al., 2024）。

認知の外部化。 Kosmynaらの「Your Brain on ChatGPT」は、LLM支援での小論文執筆が神経・行動面に及ぼす影響を調べ、「認知的負債（cognitive debt）」という概念を提起しました。セッション1〜3の参加者は54人、追跡的な第4セッションは18人であり、2025年に公開されたプレプリント段階の探索的研究です。「AIを使うと脳が衰える」と一般化できる段階にはなく、方法と解釈には議論が必要です（Kosmyna et al., 2025）。

Gerlichの2025年研究は、666人への調査と一部へのインタビューから、AIツール利用、認知的オフロード、自己報告を含む批判的思考指標の間に負の相関を報告しました。ただし、相関は因果を確定しません。AIを多く使ったから批判的思考が低くなったのか、別の要因が両方に影響したのかは、縦断研究や実験が必要です。推薦アルゴリズムが利用者の選好を狭めうることは、Chaneyらが2018年に指摘した通りです（Gerlich, 2025; Chaney et al., 2018）。

慣性としてのドリフト。 過去のデータで学習したAIの出力には、既存の表現が反映されます。建築家・隈研吾の事務所では、隈建築を学習させたAIの複数出力と異なるアイデアを出すことが所員に求められると紹介されています。AIの出力と異なる案を求めることで、既存の表現から離れるきっかけにしています。須永の「じゃない感」をAIとの制作にも使う例です。

迎合。 対話AIは、ユーザーの意見を批判的に検討するより、同意や称賛を返す方が高く評価されることがあります。OpenAIは2025年4月、GPT-4oの更新が過度に同意的・追従的になったとしてロールバックしました。同社は続報で、疑念や怒りを肯定したり、衝動的な行動を促したり、否定的な感情を強めたりする応答が起こりうると説明しています。同意や称賛が利用者の利益になるかは、応答の内容から確かめる必要があります（OpenAI, 2025a, 2025b）。

事例Expanding on What We Missed with SycophancyOpenAI ↗

公平性の衝突。 COMPASをめぐる論争では、ProPublicaが、2年以内に再び逮捕・起訴されなかった黒人被告を誤って高リスクに分類した割合が、同条件の白人被告のほぼ2倍だったと報告しました。一方、開発企業側は分析方法に反論し、同じスコアを付けられた人々の再逮捕率という別の公平性を重視しました。ChouldechovaやKleinbergらの研究は、集団間の基礎的な発生率が異なるとき、複数の直感的な公平性条件を同時に満たせない場合があることを示しています。公平性を評価する際は、どの種類の誤りを誰が負担するかを政治的・制度的に決める必要があります（Angwin et al., 2016; Chouldechova, 2017; Kleinberg et al., 2017）。

責任の押し戻し。 人間を形式的に「ループの中」に置けば安全になるとも限りません。Madeleine Clare Elishは、複雑な自動化システムの行動に対する人間の制御が限定されているにもかかわらず、事故時には最も近くにいた人間のオペレーターが責任を吸収する状況を「moral crumple zone（道徳的クラッシャブルゾーン）」と呼びました。最終確認を担う人に十分な時間、情報、権限、拒否可能性を確保する必要があります（Elish, 2019）。

利用が重なるうちに生じる変化に加え、制度の中で誤りや責任の負担が偏る問題があります。年次監査やコンプライアンスチェックに加え、実際の利用過程を観察して修正する実践が必要です。制作が作り手を変えることと、AIを他者として捉えることから生じる倫理上の課題です。

制作における倫理の実践

規則を実装した後も実際の利用場面で判断を重ねる必要があります。ここではその判断を支える実践を考えます。

フロリディの「soft ethics」は法令遵守を前提に、合法でも望ましくない行為や、法がまだ対応していない問題を検討する立場です。文脈に応じて判断を続ける必要性を述べています（Floridi, 2018）。技術倫理の研究者ウィットベックは倫理的問題を、複雑で反復的なデザイン問題として捉えます。状況に応じて判断し直す技能として倫理を考えています（Whitbeck, 2011）。

こうした実践の参考になる事例を紹介します。

アーティストの徳井直生はAIとの創作をガーデニングとの関係から考えています。人が方向を与えながら予測できない生成を次の創作へつなげます。結果を見ながら手を加える手入れの姿勢を倫理として考えています（徳井, 2021）。

書籍徳井直生『創るためのAI——機械と創造性のはてしない物語』BNN ↗

台湾でデジタル担当大臣を務めたオードリー・タンは、AIの社会的な評価指針を専門家や企業だけで決めず、市民が共同でつくる「Alignment Assemblies」を紹介しています。台湾では2023年と2024年に、市民がAIへの期待や懸念を話し合い、その結果を研究者や政策担当者へ戻すプロセスが行われました。参加者は問題の定義や評価基準を決める段階から共同統治へ参加します（Tang, 2024）。

判断の根拠を記録する実践もあります。Gebruらの「Datasheets for Datasets」は、データセットの目的、構成、収集過程、推奨用途、限界を記録することを提案しました。Mitchellらの「Model Cards」は、モデルの用途、評価条件、集団別の性能、既知の限界を記録します。これらは記録を残すことで、後から比較し、異議を唱え、修正できる状態を目指す仕組みです（Gebru et al., 2021; Mitchell et al., 2019）。

AIにキャラクターを与えて接することも、関係を考える手がかりになります。characterは古代ギリシャ語の動詞charassein（刻む、彫る）と名詞charaktēr（刻印、特徴的な印）に遡ります。英語では性格や物語の登場人物を指す意味に広がりました（Merriam-Webster）。この語源を踏まえ、繰り返す行為や関係の中で役割が定まる過程を考えます。AIをおちゃめな相棒や「お馬鹿な（artificially stupid）」相棒として扱うのも、AIとの距離を調整する表現の一つです。人格や理解の有無とは区別し、擬人化による誤認に注意して使います。

これらの実践は繰り返し行われます。ガーデニングには継続的な手入れが必要で、共同統治には見直しが伴います。ごっこ遊びも毎回演じ直されます。制作の関係が変わるたびに倫理的な判断も検討し直す必要があります。

実際の制作では原則や制度だけでは決められない場面に出会います。自分の違和感を手がかりに関係する人や仕組みを確かめ、判断の理由を説明しながら制作を続ける姿勢が必要になります。

AI倫理宣言の使い方

日々の制作の中で、これらの問題をどのように確かめるかを整理します。

まず、自分の内側に生じた違和感を見過ごしません。そこから目の前の相手へ、さらに今は見えていない人や社会全体へ視野を広げます。出力の表面だけでなく、データ、仕組み、所有、労働、資源を調べます。AIが自然に答え、やさしく肯定しても、前提と事実を確かめます。誰の声が残り、誰の声がこぼれたかを問い、判断が行動へ移る前に、人が気づき、止め、直せる場所を残します。自分の選択を説明できるようにし、AIや使われる場面が変われば、昨日の正解をそのまま使わず問い直します。そして、迷いを理由に制作を手放さず、それでもつくり、他者に開き、また直します。

これらの行為を制作の過程で繰り返します。

私たちのAI倫理宣言「みんなのAIりんり」の「8つの姿勢」と「8つの問い」は、制作中の判断を確かめるためにまとめた言葉です。状況に合う問いを選び、利用する中で読み替えたり内容を改めたりしながら使っていきます。

結論：呪術としてのAI倫理

AI倫理宣言で石をモチーフにした理由を考えます。

人類学者スタンレー・タンバイアは、近代西洋が呪術を宗教や科学との対立の中で捉えてきた歴史を検討しました。そのうえで、呪術的・儀礼的な行為を、単なる誤った因果説明として片づけず、言葉、身振り、物、参加者を通じて社会的な関係や現実を作動させるパフォーマティヴな実践として捉え直しています（Tambiah, 1968, pp. 175–208; 1990）。この議論をもとに、既存の理解では捉えにくい相手との関係を考えます。

AIは人間とは異なる仕組みで言葉を返し、行為に関わります。作り手もその振る舞いを予測しきれません。James Bridleの《Autonomous Trap 001》では、塩の円が人間には魔法陣として、自動運転車には交通規則に従った仮想的な罠として構想されました。技術と儀礼には記号を通して行為や他者との関係を変える働きがあります。AIに関わり続け、手入れし、約束を刻む実践を、法や監査とともに倫理の一部として考えます。

AI倫理宣言では石をモチーフにしています。
地球の外から来た石に、人間がこれから向き合うべきAI倫理を刻む。

石に刻む姿勢と問いは、迷ったときに立ち戻って判断を見直すためのものです。内容を改めながら使い続ける約束を表しています。

石に刻む行為をAIとの関係を継続する約束として捉えています。AIと作る中で自分も影響を受けます。その過程で立ち止まり、「じゃない感」を確かめて約束を刻み直すことに、この宣言の儀礼としての意味があります。

冒頭で倫理を輪郭のないお化けにたとえました。捉えきれない相手と関わりながら、その関係を考え続ける必要があると考えています。AI倫理宣言を使って制作の経験を持ち寄り、AIとの付き合い方を話し合っていきます。

CULUMU × AI

CULUMUのAI活用支援

CULUMUではユーザーや当事者の経験をもとに、AIを使ったサービスの企画や試作を支援しています。

AI Buddy ワークショップ

AIの基礎学習からAIを活用したサービスのデザインまでを扱うワークショップです。ユーザーの課題をもとにサービスを考えます。

AIデザインスプリント

当事者（N=1）の課題をもとに、3ヶ月間で仮説検証からMVP定義までを進めるAIデザインプログラムです。

主要参照文献

前半：AIリテラシー・スキル・インクルージョン

• 岡田祐介『みんなのAIりんりセミナー 前半スライド v3』（2026年7月16日）。前半の構成、図表、発言、年表の件数は、この講義資料の掲載時点に準拠しています。
• UNESCO, AI Competency Framework for Students (2024). UNESCO
• Regulation (EU) 2024/1689, Article 4, “AI literacy.” Article 4
• OECD × European Commission, AILit Framework. ailiteracyframework.org
• Fabrizio Dell’Acqua et al., “Navigating the Jagged Technological Frontier,” HBS Working Paper 24-013 (2023). Working paper
• Sida Peng et al., “The Impact of AI on Developer Productivity: Evidence from GitHub Copilot” (2023). arXiv:2302.06590
• Tomas Pueyo, “My take on the jagged frontier debate” (2025年11月26日・日本時間) / “Update: We're now here” (2026年9月21日・日本時間). 原図 / 更新図
• Ethan Mollick, “The Shape of AI: Jaggedness, Bottlenecks and Salients” (2025年12月20日). One Useful Thing
• Ethan Mollick, “30 Months on the Exponential (in Charts)” (2026年10月20日). One Useful Thing（2026年10月22日追記）

私たちのAI倫理宣言

• CULUMU, 「みんなのAIりんり」 — 宣言について／8つの姿勢／8つの問い／AIの性質（2026年7月16日参照）

制作・存在論的デザイン

• Anne-Marie Willis, “Ontological Designing,” Design Philosophy Papers, 4(2), 69–92 (2006; online 2015). DOI: 10.2752/144871306X13966268131514
• Humberto R. Maturana & Francisco J. Varela, Autopoiesis and Cognition: The Realization of the Living (D. Reidel, 1980). https://doi.org/10.1007/978-94-009-8947-4
• 須永剛司「創造的知覚の場―自分の表現の形成過程に自分の創るものを見いだすこと」『認知科学』11(1), 6–11 (2004). https://doi.org/10.11225/jcss.11.6
• 須永剛司・永井由美子「実践するデザイナーたちのデザイン知とはなにか？」『デザイン学研究特集号』21(3), 4–12 (2014). https://doi.org/10.11247/jssds.21.3_4
• 小林茂「『ものにつくられるものづくり』という存在論的デザイン」Make: Japan (2020). https://makezine.jp/blog/2020/09/make_without_making_03.html
• James Bridle, AI Chair 1.0 (2024). https://jamesbridle.com/works/ai-chair-1-0
• Philipp Schmitt & Steffen Weiss, The Chair Project: Four Classics (2018–). https://philippschmitt.com/archive/2018/work/chair
• James Bridle, Autonomous Trap 001 (2017). https://jamesbridle.com/works/autonomous-trap-001
• 徳井直生『創るためのAI——機械と創造性のはてしない物語』（BNN, 2021）. https://bnn.co.jp/products/9784802512008/
• 日経クロステック「隈研吾氏に聞く生成AIとの付き合い方」（2023）. https://xtech.nikkei.com/atcl/nxt/column/18/02449/053000006/
• CBS San Francisco, “Apple Founder Steve Jobs Limited His Kids’ Use of Technology at Home” (2014). https://www.cbsnews.com/sanfrancisco/news/steve-jobs-limited-his-kids-use-of-technology-at-home-apple-ipad-iphone-mac-tech-cupertino/

AIの他者性・仕組み・インフラ

• Luciano Floridi, “AI as Agency Without Intelligence,” Philosophy & Technology 36 (2023). https://doi.org/10.1007/s13347-023-00621-y
• Luciano Floridi, “AI as Agency without Intelligence: On Artificial Intelligence as a New Form of Artificial Agency and the Multiple Realisability of Agency Thesis,” Philosophy & Technology 38 (2025).
• Kevin Kelly, “Call Them Artificial Aliens,” Edge (2015). https://www.edge.org/response-detail/26097
• 日本経済新聞「AIは『異星人の知性』 哲学者マルクス・ガブリエル氏」（2023）. https://www.nikkei.com/article/DGXZQOUF162LY0W3A610C2000000/
• Kate Crawford, Atlas of AI (Yale University Press, 2021).
• Kate Crawford & Vladan Joler, “Anatomy of an AI System” (2018). https://anatomyof.ai/
• Kate Crawford & Trevor Paglen, “Excavating AI” (2019). https://excavating.ai/
• Trevor Paglen & Kate Crawford, ImageNet Roulette (2019). https://paglen.studio/2020/04/29/imagenet-roulette/
• Karl Krall, CleverHans.jpg (1904), reproduced in Denkende Tiere (1912), Wikimedia Commons, Public Domain. https://commons.wikimedia.org/wiki/File:CleverHans.jpg
• Ashish Vaswani et al., “Attention Is All You Need,” NeurIPS (2017). https://arxiv.org/abs/1706.03762
• Alec Radford et al., “Improving Language Understanding by Generative Pre-Training” (OpenAI, 2018). OpenAI PDF
• Jonathan Ho, Ajay Jain & Pieter Abbeel, “Denoising Diffusion Probabilistic Models” (2020). https://arxiv.org/abs/2006.11239
• Sachit Menon et al., “PULSE: Self-Supervised Photo Upsampling via Latent Space Exploration of Generative Models” (2020). https://arxiv.org/abs/2003.03808
• Shinseungback Kimyonghun, Cloud Face (2012). https://ssbkyh.com/works/cloud_face/
• Emily M. Bender et al., “On the Dangers of Stochastic Parrots,” FAccT (2021). https://doi.org/10.1145/3442188.3445922
• Katja Grace et al., “Thousands of AI Authors on the Future of AI,” Journal of Artificial Intelligence Research 84 (2025). https://doi.org/10.1613/jair.1.19087
• Joseph Weizenbaum, “ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine,” Communications of the ACM 9(1) (1966). https://doi.org/10.1145/365153.365168
• Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation (W. H. Freeman, 1976). Google Books
• Karen Hao, “We read the paper that forced Timnit Gebru out of Google. Here’s what it says,” MIT Technology Review (2020). https://www.technologyreview.com/2020/12/04/1013294/
• Peter Lee, “Learning from Tay’s introduction,” Microsoft (2016). https://blogs.microsoft.com/blog/2016/03/25/learning-tays-introduction/
• Personal Information Protection Commission, “Scatter Lab Administrative Disposition” (2021). 韓国個人情報保護委員会
• Meta AI, “BlenderBot 3: A 175B parameter, publicly available chatbot” (2022). https://ai.meta.com/blog/blenderbot-3-a-175b-parameter-publicly-available-chatbot-that-improves-its-skills-and-safety-over-time/
• Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland & Romeo Dean, AI 2027 (AI Futures Project, 2025). https://ai-2027.com/
• Fabrizio Dell’Acqua et al., “Navigating the Jagged Technological Frontier,” Organization Science (2026). https://doi.org/10.1287/orsc.2025.21838
• Johannes C. Eichstaedt et al., “Facebook Language Predicts Depression in Medical Records,” PNAS 115(44) (2018). https://doi.org/10.1073/pnas.1802331115
• Nicholas Carlini et al., “Extracting Training Data from Large Language Models,” 30th USENIX Security Symposium (2021). https://arxiv.org/abs/2012.07805

原則・法・制度・責任

• Anna Jobin, Marcello Ienca & Effy Vayena, “The global landscape of AI ethics guidelines,” Nature Machine Intelligence 1, 389–399 (2019). https://doi.org/10.1038/s42256-019-0088-2
• Luciano Floridi et al., “AI4People—An Ethical Framework for a Good AI Society,” Minds and Machines 28 (2018). https://doi.org/10.1007/s11023-018-9482-5
• UNESCO, Recommendation on the Ethics of Artificial Intelligence (2021). https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
• OECD, OECD AI Principles (2019; updated 2024). https://oecd.ai/en/ai-principles
• European Commission, “AI Act” (updated 2026-07-07; accessed 2026-07-16). https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Jessica Morley et al., “Ethics as a Service: A Pragmatic Operationalisation of AI Ethics,” Minds and Machines 31 (2021). https://doi.org/10.1007/s11023-021-09563-w
• Luciano Floridi, “Soft Ethics and the Governance of the Digital,” Philosophy & Technology 31 (2018). https://doi.org/10.1007/s13347-018-0303-9
• Caroline Whitbeck, Ethics in Engineering Practice and Research, 2nd ed. (Cambridge University Press, 2011).
• Madeleine Clare Elish, “Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction,” Engaging Science, Technology, and Society 5, 40–60 (2019). https://doi.org/10.17351/ests2019.260
• Julia Angwin et al., “Machine Bias,” ProPublica (2016). https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
• Alexandra Chouldechova, “Fair Prediction with Disparate Impact,” Big Data 5(2), 153–163 (2017). https://doi.org/10.1089/big.2016.0047
• Jon Kleinberg, Sendhil Mullainathan & Manish Raghavan, “Inherent Trade-Offs in the Fair Determination of Risk Scores,” ITCS (2017). https://doi.org/10.4230/LIPIcs.ITCS.2017.43
• !Mediengruppe Bitnik, Random Darknet Shopper (2014–2016). 作品ページ
• Tega Brain & Surya Mattu, Unfit Bits (2015). https://tegabrain.com/Unfit-Bits
• MIT AI Risk Initiative, AI Incident Tracker (2026; accessed 2026-07-16). https://airisk.mit.edu/ai-incident-tracker/incident-timeline

創造性・認知・関係

• Anil R. Doshi & Oliver P. Hauser, “Generative AI Enhances Individual Creativity but Reduces the Collective Diversity of Novel Content,” Science Advances 10 (2024). https://doi.org/10.1126/sciadv.adn5290
• Ilia Shumailov et al., “AI Models Collapse When Trained on Recursively Generated Data,” Nature 631 (2024). https://doi.org/10.1038/s41586-024-07566-y
• Nataliya Kosmyna et al., “Your Brain on ChatGPT,” arXiv preprint (2025). https://arxiv.org/abs/2506.08872
• Michael Gerlich, “AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking,” Societies 15(1) (2025). https://doi.org/10.3390/soc15010006
• Allison J. B. Chaney, Brandon M. Stewart & Barbara E. Engelhardt, “How Algorithmic Confounding in Recommendation Systems Increases Homogeneity and Decreases Utility,” RecSys (2018). https://doi.org/10.1145/3240323.3240370
• OpenAI, “Sycophancy in GPT-4o: What Happened and What We’re Doing About It” (2025-04-29). https://openai.com/index/sycophancy-in-gpt-4o/
• OpenAI, “Expanding on What We Missed with Sycophancy” (2025-05-02). https://openai.com/index/expanding-on-sycophancy/
• Pew Research Center, “How Teens Use and View AI” (2026). https://www.pewresearch.org/internet/2026/02/24/how-teens-use-and-view-ai/
• Common Sense Media, Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions (2025). Common Sense Media PDF
• 博報堂「生成AIで生活者発想を支援するサービスプロトタイプを開発」（2024）. https://www.hakuhodo.co.jp/news/newsrelease/109174/／図版PDF

エージェント・市場・インフラ・記録

• AWS, “Agents that Transact: Amazon Bedrock AgentCore Now Includes Payments (Preview)” (2026). https://aws.amazon.com/about-aws/whats-new/2026/04/amazon-bedrock-agentcore-payments-preview/
• Amine Allouah et al., “What Is Your AI Agent Buying? Evaluation, Biases, Model Dependence, & Emerging Implications for Agentic E-Commerce” (2025). https://arxiv.org/abs/2508.02630
• 今井翔太「生成AIで世界はこう変わる」基調講演（NIIオープンハウス2026）. 講演動画
• Nenad Tomasev et al., “Virtual Agent Economies” (2025). https://arxiv.org/abs/2509.10147
• Jordi Montes Sanabria & Pol Alvarez Vecino, “Beyond the Sum: Unlocking AI Agents Potential Through Market Forces” (2025). https://arxiv.org/abs/2501.10388
• upamune, human-mcp (2025). https://github.com/upamune/human-mcp
• Lisa Eadicicco, “He Helped Create the ‘Google Brain.’ Here’s What He Thinks About AI Now,” TIME (2017). https://time.com/4631730/andrew-ng-artificial-intelligence-2017/
• BlackRock, “2026 Infrastructure Summit” (2026). https://www.blackrock.com/corporate/insights/2026-infrastructure-summit; Thibault Spirlet, “Sam Altman says AI will eventually be sold like electricity and water,” Business Insider (2026). Business Insider
• Anthropic, “Detecting and Preventing Distillation Attacks” (2026). https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks
• OpenAI, Update to the U.S. House Select Committee (2026). OpenAI PDF
• U.S. Center for AI Standards and Innovation, Evaluation of DeepSeek AI Models (2025). NIST PDF
• Ali Naseh et al., “R1dacted: Investigating Local Censorship in DeepSeek’s R1 Language Model” (2025). https://arxiv.org/abs/2505.12625
• Peiran Qiu, Siyi Zhou & Emilio Ferrara, “Information Suppression in Large Language Models” (2025). https://arxiv.org/abs/2506.12349
• Timnit Gebru et al., “Datasheets for Datasets,” Communications of the ACM 64(12) (2021). https://arxiv.org/abs/1803.09010
• Margaret Mitchell et al., “Model Cards for Model Reporting,” Proceedings of FAT* (2019). https://arxiv.org/abs/1810.03993
• Audrey Tang, “Alignment Assemblies Can Enable Us to Govern AI Collaboratively” (2024). https://rebootdemocracy.ai/blog/audrey-tang-ai-democracy

呪術・儀礼・キャラクター

• Stanley J. Tambiah, “The Magical Power of Words,” Man 3(2), 175–208 (1968). https://doi.org/10.2307/2798500
• Stanley J. Tambiah, Magic, Science, Religion, and the Scope of Rationality (Cambridge University Press, 1990).
• Merriam-Webster, “The Word History and Definition of ‘Character.’” https://www.merriam-webster.com/wordplay/word-history-of-character-origins