it21​/public​/proceedings​/202201

IT21の会（令和4年1月）第270回議事録
日時：2022年1月7日(金)  18時30分～21時30分
場所：オンライン開催（Zoom）
出席者：51名
配付資料：
  IT21-2201-01：「AI倫理をめぐる論点：技術者倫理との関連で」
  IT21-2201-02：「IT21の会 役員のおしごと」
議事：
18:30-18:35 事務連絡、資料確認、初参加の方の自己紹介
18:35-19:55 メインテーマ講演、質疑応答
20:00-20:30 サブテーマ講演、質疑応答
20:30-20:45 今後の予定
20:45-21:30 オンライン懇親会
[1]初参加者の自己紹介 5名
石井康信氏、井形圭治氏、稲岡孝雄氏、松世麻理子氏、松澤文太郎氏からそれぞれ自己紹介があった。
[2]メインテーマ「AI倫理をめぐる論点：技術者倫理との関連で」
講師：村田 潔 氏（明治大学商学部教授）
資料：IT21-2201-01
１．技術の開発と利用に関わる責任
　今道有信氏(東京大学)は科学技術の発達と普及による「行為の論理構造の逆転現象」が発生していると指摘する。
アリストテレスのニコマコス倫理学では、以下の行為に至る選択をする。
　・大前提：Aは私にとって望ましい
　・小前提：p,q,r…はAを実現できる
　・結論：何らかの理由でAを達成するための方法pを私は選択する
しかし、現代、特に原子力や電力では上記とは逆転の前提となっている。
　・大前提：既に強力な手段Pを私たちは有している
　・小前提：Pは目的a,b,c…を実現できる
　・結論：何らかの理由で目的aを私たちは選択する
　このように既に強力な技術的手段がある現代の社会において、その技術を利用する人や組織に何らかの倫理が必要となる。
　それらの技術を利用する組織や人にはその技術を利用する上で過剰にならない程度の相応責任（nosismノスイズム）が求められる。
　オランダの技術哲学者であるピーター・ポール・ファーベークの著書『技術の道徳化』を紹介し、技術は人間を特定の方向にむけて媒介し、人間の行為・判断の形成に介入するようになっている点を紹介した。
　人間の判断や行為が技術に媒介された行為となっている。
　その例として超音波診断の技術が登場し、胎児の段階でなんらかの病態や異常を発見できるようになっており、それが堕胎の決定に影響を与えていることを挙げた。
　すなわち技術によって倫理問題に立ち向かっていることになる。
　逆に人間が技術の在り方に介入することもある。
　技術と人間は相互に道徳的な行為主体として、相互に影響しあっている。
　設計は本質的に倫理的な行為であり、技術は利便性を産むだけでなく、重い課題を人間に突き付けている。
　ITの発展に伴いプライバシー侵害が起きている。
　プライバシーは正確に理解することが難しい問題であり、個人情報と混同されていることもある。
　倫理でどう対応するか、要件が問われる。
　技術に関わる責任には消極的責任(リアクティブ)と積極的責任(プロアクティブ)とがある。
　消極的責任は物事が起きてから対処することであり、積極的責任は物事が起こる前に予防的に対処することである。
　デューケアとはエンジニアが設計を行う上で、当然配慮すべき事をいう。
　法律はリアクティブで、倫理はプロアクティブと言われるが果たしてそうなのか。
　倫理が予防的といっても限界がある。ICTをどのように使うかは利用者次第である。
マルチスタビリティといい、複数の安定性があり得る。
また「設計段階で倫理を組み込むこと」（Ethics by Design）は可能であるかと問いかけた。
設計は新たな人工物を作り出す事であり、人工物には倫理問題が潜在する。すなわち設計とは道徳を物質化することである。
２．ICTプロフェッショナリズム
　ICTプロフェッショナリズムとは何か。
プロフェッショナルは専門家や専門職と訳されているが、専門家はプロフェッショナルとは限らない。
　たとえば料理の専門家はいるが、「料理のプロフェッショナル」は存在しない。（料理注文者への責任はあるが）社会的責任がないからである。
商取引(trade)や職人(artisan)とプロフェッショナルとは明確に異なる。
典型的なプロフェッショナルに聖職者がある。日本では理解されにくいが、聖職者は人々の死生観に関わる職業である。
　イタリアでは新型コロナで亡くなった聖職者が多数いる(注1)。
それでもローマ・カトリック教会のフランシスコ教皇は聖職者らに対し、新型コロナウイルスによって病気になった人々に「会いに行く勇気を持つ」よう呼びかけている。
　亡くなろうとする人々に寄り添うことは聖職者の社会的使命と考えられているからである。
(注1) イタリアでは患者の臨終に立ち会う聖職者が感染して死亡するケースが相次ぎ、少なくとも50名が死亡したという。フランシスコ教皇は患者たちのために尽くして感染した彼らは勇気ある行為の手本を示してくれた」と述べた。イタリアでの聖職者の死者数は医師よりも多いと言われている。
　ICTエンジニアの倫理が問題となるのは、ICTがいまや人々の生活に浸透し、人々の行動を左右しているからである。
　ICTの社会的品質を高く維持する必要がある。
　社会的責任とは社会が認める方法でパワーを使うということである。
　情報システムの開発は社会的格差の増幅というマイナス面もある。
　そこで。情報システムの開発ではできるだけ多くの人のQOL（生活の質）を向上させるようにしなければならない。
　社会的責任を果たさなければ、最終的には持つ力を失うことになる。
　コンピュータ倫理研究のはじまりは1980年代であった。
　コンピュータ犯罪の多発を背景としたものであった。
　しかし、当初のコンピュータ倫理研究は内容がバラバラであった。
　コンピュータ倫理の研究者のドナルド・ゴッターバーンは内容を「ICTエンジニアがコントロール可能な行為に絞り込むべきである」と1990年代に提言した。
　ICTエンジニアはコンピュータのプロフェッショナルであると同時に、所属組織のパワーをもち、所属組織の制約を受けている。
　プロフェッショナルの権利とパワーに責任が付随する。
　したがってICTプロフェッショナルは常に倫理的なエージェントとして行動しなければならない。
　ところが近年のＡＩが登場して、コントロール可能な行為でないものが登場した。コンピュータ倫理のスコープに再考を迫るものである。
３．プロフェッショナルの条件
　プロフェッショナルは自分が行った職務上の行動が、他者に影響することに思いを致さなければならない。
　作為・不作為に関わらず、自分の行為や判断に相応の責任を負う。
　医師に見られるように、プロフェッショナルの職務上の決定には、説明責任が伴う。
　ある職業がプロフェッションとして成り立つためには、4つの条件がある。
　①高度に専門化された知識と技能の大系(BOK: Body of Knowledge)を保持する
　②責任を伴う自律性
　③プロフェッショナル組織
　④公共サービス
　プロフェッショナルには利他的な動機が必要である。
　資格認定はプロフェッショナル組織が行う。
　たとえば日本でも医師国家試験の問題はプロフェッショナル組織の一員である医師が作成している。
　つまり、プロフェッショナル組織は再生産のパワーを持つ。
４．ICTプロフェッショナリズム
　ICTエンジニアはプロフェッショナルとして成立するだろうか。
　BOKが流動的であり、同業者組織がないという点で難しい面がある。
　ACMにおいてもＩＣＴエンジニアの加入率は8%に過ぎないからプロフェッショナル組織とは言い難い。
　しかし、その社会的重要性から考えれば、ICTエンジニアのプロフェッショナリズム確立の努力は必要である。
５．ソフトウェアエンジニアリングのための倫理ならびにプロフェッショナル実務綱領
　ソフトウェアエンジニアのための倫理綱領はIEEE-CSとACM（米国コンピュータ学会）との共同で作成されている。
　1999年に第5.2版が公表されており、８原則が規定されている。
　https://tinyurl.com/yy7skjdw
６．ACM倫理ならびにプロフェッショナル行動綱領
　海外ではソフトウェアエンジニアの教育プログラムに倫理科目が組み込まれており、
　しかも技術を理解した段階における最終学年に教えられる。
　ケーススタディ付きの必修科目とされている。
　日本では教養科目で、しかも選択科目に位置づけられている。
　まだ技術を理解していないソフトウェアエンジニア教育の初年度に教えられている。
　ACM倫理綱領はACM Code of Ethics and Professinal conduct で規定されている。
　https://www.acm.org/code-of-ethics
７．ICTプロフェッショナリズムの阻害要因
　ICTエンジニアには、従業員としての立場と、プロフェッショナルの立場の2面がある。
　デボラ・ジョンソン(Deborah Johonson)は論文「コンピュータ倫理」で、組織の従業員には制約とパワーがあると主張する。
　立場のコンフリクトがあった場合、どちらを優先させるかという選択に迫られる。
　組織メンバーとしての責任にはどんな条件があるかを検討しなければならない。
　ICTエンジニアの説明責任をあいまいにする以下４つの要因がある。
　①メニーハンズ
　②不可避なバグ
　③システムに責任を押し付け
　④賠償責任なき所有権
８．AI倫理
　ＡＩ利用の倫理問題に以下が挙げられる。
　①学習データに潜むバイアスによる差別
　　公平なデータとは何かを考える必要がある。
　②ＡＩ利用が雇用に与える影響
　　ＡＩの維持に賃金の安い人々の労働力が使われてることがある。
　　またＡＩコンピューティングによってなくなる仕事もあると言われているが、新たに生み出される仕事もある。
　③ＡＩシステム利用による人間の自律性・主体性の喪失
　　ＡＩによる検索エンジンの選別や視聴者に合わせた広告によって人々の判断に影響を与えている。
　　すなわち人間の知的自由の危機がある。
　　ＡＩの提供するリコメンデーションにより人間の判断が管理されている。
　　説明責任をより難しくしている。
　④ＡＩシステムの用途の倫理性（自律性致死兵器など）
　　ＡＩが社会にあり方に影響を与えることがある。
　⑤ＡＩコンピューティング利用における責任の不在（５つのシナリオ）
　　誰がどう責任を負うかを明確にする必要がある。
　
　そしてＡＩコンピューティング利用の責任をいかに回復していくか、ＩＣＴエンジニアが果たすべき責任をどのように担保するかなどの課題がある。
９．AIコンピューティングにおける責任不在性
　ＡＩ時代の責任をいかに回復していくか。
　組織が果たすべき責任とＩＣＴエンジニアが果たすべき責任とがある。
　ＩＣＴエンジニアがこれまで以上に社会問題や倫理問題に関与していくべきである。
　同時に公式の教育プログラムとプロフェッショナルの認定制度が重要である。
質疑応答
（１）
（質問）AI自身が賢くなりすぎて、心をもった場合に生命倫理（ブレードンナーのような映画で描かれる、レプリカントが奴隷となる世界）は起こりうるでしょうか。
（回答）ＡＩが（倫理的な）心を持てるか、という問題がある。ＡＩは心をもてないという人もいるが、外見的に心を持っているように見えれば、それは心と呼んでもよいという意見もある。大阪大学の石黒先生がその問題を扱っている。
（２）
（質問）学習デ―タのバイアスに関連して、「人材採用のＡＩ化で、ジェンダーバイアス」が起こると言われています。
　人材採用にＡＩが使われると、アファーマティブアクションに反するなど、法的な問題も起こり得ます。
　さらに社会への入り口だけでなく出口でも使われる可能性があります。たとえば、リストラ対象の選別に使うなどです。
　採用では学習データに問題があるという意見もありますが、法制度との関係でもＡＩ倫理に影響するのではないでしょうか。
　アドバイスがありましたら、よろしくお願いします。
（回答）ＡＩを使用した人材採用でジェンダーバイアスがあると言われているが、きちんと検証したものがないので、現時点では分からない。学習データに偏りがあるかどうかも解明されてはいない。責任のある研究が求められる。
参考文献紹介
（１）Peter-Paul Verbeek(2011)” Moralizing Technology: Understanding and Designing the Morality of Things” University of Chicago Printing
（２）Spinello, R. A. (2002). Case Studies in Information Technology Ethics.  Prentice Hall.中西輝夫訳『情報社会の倫理と法―41のケースで学ぶ』エヌティティ出版
（３）Carl Benedikt Frey and Michael A. Osborne (2013):”THE FUTURE OF EMPLOYMENT: HOW SUSCEPTIBLE ARE JOBS TO COMPUTERISATION?”
（４）OECD(2016)”Automation and Independent Work in a Digital Economy”
（５）Don Ihde(1990)“Technology and the Lifeworld: From Garden to Earth” Indiana University Press
（６）D Gotterbarn(1991): “Computer ethics: Responsibility regained” NationalForum: The Phi Beta Kappa Journal, Vol. 71, No. 3, pp. 26-31.
（７）Deborah Johonson:” Computer Ethics”(Philosophy of information technology)ACADEMIA,pp.65-75
[3]サブテーマ「IT21の会 役員のおしごと」
講師：桔梗 靖之 氏 IT21の会 25期会長 技術士（情報工学部門・総合技術監理部門）
資料：IT21-2201-02
１．はじめに
目的：
・IT21の会の理念、活動及び活動目標を改めて確認、今期役員（25期）の取り組み内容を紹介する。
・会の理念等を果たすため会員の役割を共有し、｢会員間の自発的で自由な集い｣､｢相互研さんの場｣として活性化を促したい。
・本会の運営や、次年度以降の役員として活躍したい方に向け情報提供をしていく。
・25期役員任期：1年（2021年７月～2022年６月ごろ)
２．IT21の会：改めて
　IT21の活動は自発的で自律的な活動である。役員それぞれが専門性を生かして運営している。
３．役員の主な仕事
　各役員（会長、副会長、運営役員、会計役員）の役割を紹介した。
　例会とは別に役員のみの打ち合わせも実施している。
　会を盛り上げるために講演以外にも忘年会や新年会を企画・実施している。
　運営には技術士のプロフェッショナルコンピテンシーや総合技術管理部門の５つの管理にも通じる内容がある。
４．今後に向けて
　コロナ終息を見据えて、IT21の会を会場とZoomを利用した「ハイブリッド運営」を検討している。
　今後のホームページ等の改修のため、インフラWGを'21年12月に発足した。
　インフラWGの課題は、SSL対応、ホームページコンテンツの改訂、メーリングリスト運営。
　現在のZoomによる当会の運営ニーズはあるため、今後もリモート参加者へのサポートが必要である。
　今後の安定的IT21の会の運営のため、過去の役員等の有志バックアップ体制、情報技術を活用した仮想的な組織運営を念頭に置いている。
　現在でも遠隔地からでも運営できる環境が整っている。
　しかし、会場運営を考慮すると、現地設営等を担う運営役員がもう１名必要となる。
　IT21の会への参画として、メイン・サブ講演、議事録担当、役員としての参画がある。
　役員としての参画は、本業とは違う視点が持て、視野が大きく広がる。
　GoogleDriveに過去の各種マニュアルが蓄積されており、参照ができる。
　運営に際し、役員間でお互いを尊重する姿勢が必要。
　一市民としての倫理的ふるまいと同じ。
　技術士会の倫理綱領、相互の尊重に該当する。
　組織人として会則や細則は手段であり、縛られるものであるが、状況に応じて、柔軟な組織運営のため会則や細則を変える考え方も必要である。
　役員になることは自身へのリターンとなる。
[4]今後の予定等
　2021年2月から4月までの月例会講師の予定紹介があった。
　月例会発表の講師募集をしている。
　インフラWGのリーダに２５期運営役員、傳寶氏が選出された。
(議事録担当 奥田孝之 記、後に各講演者様による確認及び更新)