[SMBCグループ・ロフトワーク共催]倫理的なAIデザインと持続可能性ーこれからのデジタルサービスとの向き合い方（2021-04-21 (Wed))の河島担当のスライド資料です。

1. AIエージェントとは何者か：AI倫理を交えて

2. 自己紹介
名前: 河島茂生(Shigeo KAWASHIMA)
専門: 社会情報学，メディア論，情報倫理
現在：・青山学院大学准教授
・理化学研究所革新知能統合研究センター客員研究員
・総務省情報通信政策研究所特別研究員
・総務省情報通信政策研究所AIネットワーク社会推進会議
AIガバナンス検討会構成員
・上廣倫理財団 AIロボット倫理研究会プロジェクト委員
『AI時代の「自律性」』
(勁草書房，2019)
『AI倫理』
(中央公論新社，2019)
『AI×クリエイティビティ』
(高陵社書店，2019)
『未来技術の倫理』
(勁草書房，2020)

3. 技術の媒介
 技術の媒介
 技術を介した認知領域の拡大
技術
世界
一対
技術
世界
認知
『AI×クリエイティビティ』p.39，p.68

4. 技術の媒介
 技術の媒介
 エージェントの3要件
• 双方向性
状態変化による刺激に対応すること
• 自律性
刺激なしでも状態を変化させる能力
• 適応性
状態を変化させる推移規則を変化させる能力
Floridi(2010)など
技術
世界
コンテンツの選定
人工的エージェント
意思決定支援
PHR(Personal Health Record)の管理
デジタル遺産の管理
・SNSやサーチの画面
・メールの振り分け
・天気の通知 など

5. エージェントとしての自己(人物像)
 複数化・多重化する自己(近代社会以降)
本人
学校 勤務先
友人
公的空間
インターネット
実名
仮名
ハンドル
ニックネーム
匿名
名無しさん
通りすがり
本人到達性
リ
ン
ク
可
能
性
実名や現実(リアル)に誰だかわかる
同
一
人
物
だ
と
わ
か
る
実名や現実(リアル)に誰だかわからない
同
一
人
物
だ
と
わ
か
ら
な
い
Facebook
炎上
Twitter
折田(2011)をもとに一部，作図
河島(2014a;2014b)
 日本のネットコミュニケーションの匿名志向／複数アカウ
ント志向
• 確固たる個人の非形成
• 落書文化
• 共話

6. 生物／機械
作動のネットワーク
構成素
観察者
入力 出力
観察者
生物
(オートポイエティック・システム)
機械
(アロポイエティック・システム)
生物／機械を単体で捉えるレベル
AI
世界
創作
ICT
コンサル データサイエンティスト データエンジニア システムエンジニア
ビジネス戦略
課題の抽出
AIの導入領域の検討
モデルの構築
データの収集
モデルの評価
テスト
データクレンジング
アノテーション
開発・メンテナンス
利用
『未来技術の倫理』pp.85-89
『未来技術の倫理』pp.69-77
自動化され
た人工物

7. エージェントと責任
責任者
エージェント
ペイシェント
オートポイエティック・システム アロポイエティック・システム
生物
(情報有機体)
自動化
された
人工物
人間
情報的存在 星など
 責任者／エージェント／ペイシェント
集合的責任
組織的責任
個人的責任
 責任の重層性

8. AI倫理
 倫理
≠箴言，説教
＝ethicsの語源はギリシア語の ethos。「慣習」の意味。
※道徳 moralの語源はラテン語の moresで意味は同じ
＝倫(なかま，秩序)＋理(ことわり，すじ道)
テクノロジー 個人，社会
影響
 技術と社会との相互作用
A
Info-product
所産としての情報
Info-resource
資源としての情報
Info-target
対象としての情報
Infosphere
情報圏
Floridi(2010)など
エージェント

9. 注
 河島茂生編著(2014a)『デジタルの際』聖学院大学出版会
 西垣通・河島茂生・西川アサキ・大井奈美編著(2014b)『基礎情報学のヴァイアビリティ』東京大学出版会
 折田明子(2011)「SNSに集約する情報」『情報の科学と技術』Vol.61, No.2, pp.70-75
 Floridi, L.(2010)Information, Oxford University Press
※このほかの河島の文献は，スライド2に記載
 スライド3以降 Earth, globe, internet, browser, world icon By Andrian Valeanu Andrian Valeanu Attribution
3.0 Unported (CC BY 3.0)
 スライド3 telescope CC0，microscope CC0
 スライド3 右上 by Eadweard Muybridge
 スライド6 左上 by Sergey Ershov Attribution 3.0 Unported (CC BY 3.0)
 スライド6 左上 by BomSymbols https://www.iconfinder.com/korawan_m
 スライド6 右下 by Dumitriu Robert Attribution 3.0 Unported (CC BY 3.0)
 スライド6 左下 by sudheep b https://www.iconfinder.com/sudheepb
 スライド6 中央左 by DailyYouth Attribution 3.0 Unported (CC BY 3.0)
 スライド6 中央右 by Flatart
参考文献