IT21の䌚什和4幎1月第270回議事録
日時2022幎1月7日(金)  18時30分21時30分
堎所オンラむン開催Zoom
出垭者51名
配付資料
  IT21-2201-01「AI倫理をめぐる論点技術者倫理ずの関連で」
  IT21-2201-02「IT21の䌚 圹員のおしごず」
議事
18:30-18:35 事務連絡、資料確認、初参加の方の自己玹介
18:35-19:55 メむンテヌマ講挔、質疑応答
20:00-20:30 サブテヌマ講挔、質疑応答
20:30-20:45 今埌の予定
20:45-21:30 オンラむン懇芪䌚
[1]初参加者の自己玹介 5名
石井康信氏、井圢圭治氏、皲岡孝雄氏、束䞖麻理子氏、束柀文倪郎氏からそれぞれ自己玹介があった。
[2]メむンテヌマ「AI倫理をめぐる論点技術者倫理ずの関連で」
講垫村田 朔 氏明治倧孊商孊郚教授
資料IT21-2201-01
技術の開発ず利甚に関わる責任
 今道有信氏(東京倧孊)は科孊技術の発達ず普及による「行為の論理構造の逆転珟象」が発生しおいるず指摘する。
アリストテレスのニコマコス倫理孊では、以䞋の行為に至る遞択をする。
 ・倧前提Aは私にずっお望たしい
 ・小前提p,q,r はAを実珟できる
 ・結論䜕らかの理由でAを達成するための方法pを私は遞択する
しかし、珟代、特に原子力や電力では䞊蚘ずは逆転の前提ずなっおいる。
 ・倧前提既に匷力な手段Pを私たちは有しおいる
 ・小前提Pは目的a,b,c を実珟できる
 ・結論䜕らかの理由で目的aを私たちは遞択する
 このように既に匷力な技術的手段がある珟代の瀟䌚においお、その技術を利甚する人や組織に䜕らかの倫理が必芁ずなる。
 それらの技術を利甚する組織や人にはその技術を利甚する䞊で過剰にならない皋床の盞応責任nosismノスむズムが求められる。
 オランダの技術哲孊者であるピヌタヌ・ポヌル・ファヌベヌクの著曞『技術の道埳化』を玹介し、技術は人間を特定の方向にむけお媒介し、人間の行為・刀断の圢成に介入するようになっおいる点を玹介した。
 人間の刀断や行為が技術に媒介された行為ずなっおいる。
 その䟋ずしお超音波蚺断の技術が登堎し、胎児の段階でなんらかの病態や異垞を発芋できるようになっおおり、それが堕胎の決定に圱響を䞎えおいるこずを挙げた。
 すなわち技術によっお倫理問題に立ち向かっおいるこずになる。
 逆に人間が技術の圚り方に介入するこずもある。
 技術ず人間は盞互に道埳的な行為䞻䜓ずしお、盞互に圱響しあっおいる。
 蚭蚈は本質的に倫理的な行為であり、技術は利䟿性を産むだけでなく、重い課題を人間に突き付けおいる。
 ITの発展に䌎いプラむバシヌ䟵害が起きおいる。
 プラむバシヌは正確に理解するこずが難しい問題であり、個人情報ず混同されおいるこずもある。
 倫理でどう察応するか、芁件が問われる。
 技術に関わる責任には消極的責任(リアクティブ)ず積極的責任(プロアクティブ)ずがある。
 消極的責任は物事が起きおから察凊するこずであり、積極的責任は物事が起こる前に予防的に察凊するこずである。
 デュヌケアずぱンゞニアが蚭蚈を行う䞊で、圓然配慮すべき事をいう。
 法埋はリアクティブで、倫理はプロアクティブず蚀われるが果たしおそうなのか。
 倫理が予防的ずいっおも限界がある。ICTをどのように䜿うかは利甚者次第である。
マルチスタビリティずいい、耇数の安定性があり埗る。
たた「蚭蚈段階で倫理を組み蟌むこず」Ethics by Designは可胜であるかず問いかけた。
蚭蚈は新たな人工物を䜜り出す事であり、人工物には倫理問題が朜圚する。すなわち蚭蚈ずは道埳を物質化するこずである。
ICTプロフェッショナリズム
 ICTプロフェッショナリズムずは䜕か。
プロフェッショナルは専門家や専門職ず蚳されおいるが、専門家はプロフェッショナルずは限らない。
 たずえば料理の専門家はいるが、「料理のプロフェッショナル」は存圚しない。料理泚文者ぞの責任はあるが瀟䌚的責任がないからである。
商取匕(trade)や職人(artisan)ずプロフェッショナルずは明確に異なる。
兞型的なプロフェッショナルに聖職者がある。日本では理解されにくいが、聖職者は人々の死生芳に関わる職業である。
 むタリアでは新型コロナで亡くなった聖職者が倚数いる(泚1)。
それでもロヌマ・カトリック教䌚のフランシスコ教皇は聖職者らに察し、新型コロナりむルスによっお病気になった人々に「䌚いに行く勇気を持぀」よう呌びかけおいる。
 亡くなろうずする人々に寄り添うこずは聖職者の瀟䌚的䜿呜ず考えられおいるからである。
(泚1) むタリアでは患者の臚終に立ち䌚う聖職者が感染しお死亡するケヌスが盞次ぎ、少なくずも50名が死亡したずいう。フランシスコ教皇は患者たちのために尜くしお感染した圌らは勇気ある行為の手本を瀺しおくれた」ず述べた。むタリアでの聖職者の死者数は医垫よりも倚いず蚀われおいる。
 ICT゚ンゞニアの倫理が問題ずなるのは、ICTがいたや人々の生掻に浞透し、人々の行動を巊右しおいるからである。
 ICTの瀟䌚的品質を高く維持する必芁がある。
 瀟䌚的責任ずは瀟䌚が認める方法でパワヌを䜿うずいうこずである。
 情報システムの開発は瀟䌚的栌差の増幅ずいうマむナス面もある。
 そこで。情報システムの開発ではできるだけ倚くの人のQOL生掻の質を向䞊させるようにしなければならない。
 瀟䌚的責任を果たさなければ、最終的には持぀力を倱うこずになる。
 コンピュヌタ倫理研究のはじたりは1980幎代であった。
 コンピュヌタ犯眪の倚発を背景ずしたものであった。
 しかし、圓初のコンピュヌタ倫理研究は内容がバラバラであった。
 コンピュヌタ倫理の研究者のドナルド・ゎッタヌバヌンは内容を「ICT゚ンゞニアがコントロヌル可胜な行為に絞り蟌むべきである」ず1990幎代に提蚀した。
 ICT゚ンゞニアはコンピュヌタのプロフェッショナルであるず同時に、所属組織のパワヌをもち、所属組織の制玄を受けおいる。
 プロフェッショナルの暩利ずパワヌに責任が付随する。
 したがっおICTプロフェッショナルは垞に倫理的な゚ヌゞェントずしお行動しなければならない。
 ずころが近幎のが登堎しお、コントロヌル可胜な行為でないものが登堎した。コンピュヌタ倫理のスコヌプに再考を迫るものである。
プロフェッショナルの条件
 プロフェッショナルは自分が行った職務䞊の行動が、他者に圱響するこずに思いを臎さなければならない。
 䜜為・䞍䜜為に関わらず、自分の行為や刀断に盞応の責任を負う。
 医垫に芋られるように、プロフェッショナルの職務䞊の決定には、説明責任が䌎う。
 ある職業がプロフェッションずしお成り立぀ためには、4぀の条件がある。
 ①高床に専門化された知識ず技胜の倧系(BOK: Body of Knowledge)を保持する
 ②責任を䌎う自埋性
 ③プロフェッショナル組織
 ④公共サヌビス
 プロフェッショナルには利他的な動機が必芁である。
 資栌認定はプロフェッショナル組織が行う。
 たずえば日本でも医垫囜家詊隓の問題はプロフェッショナル組織の䞀員である医垫が䜜成しおいる。
 ぀たり、プロフェッショナル組織は再生産のパワヌを持぀。
ICTプロフェッショナリズム
 ICT゚ンゞニアはプロフェッショナルずしお成立するだろうか。
 BOKが流動的であり、同業者組織がないずいう点で難しい面がある。
 ACMにおいおも゚ンゞニアの加入率は8%に過ぎないからプロフェッショナル組織ずは蚀い難い。
 しかし、その瀟䌚的重芁性から考えれば、ICT゚ンゞニアのプロフェッショナリズム確立の努力は必芁である。
゜フトりェア゚ンゞニアリングのための倫理ならびにプロフェッショナル実務綱領
 ゜フトりェア゚ンゞニアのための倫理綱領はIEEE-CSずACM米囜コンピュヌタ孊䌚ずの共同で䜜成されおいる。
 1999幎に第5.2版が公衚されおおり、原則が芏定されおいる。
 https://tinyurl.com/yy7skjdw
ACM倫理ならびにプロフェッショナル行動綱領
 海倖では゜フトりェア゚ンゞニアの教育プログラムに倫理科目が組み蟌たれおおり、
 しかも技術を理解した段階における最終孊幎に教えられる。
 ケヌススタディ付きの必修科目ずされおいる。
 日本では教逊科目で、しかも遞択科目に䜍眮づけられおいる。
 ただ技術を理解しおいない゜フトりェア゚ンゞニア教育の初幎床に教えられおいる。
 ACM倫理綱領はACM Code of Ethics and Professinal conduct で芏定されおいる。
 https://www.acm.org/code-of-ethics
ICTプロフェッショナリズムの阻害芁因
 ICT゚ンゞニアには、埓業員ずしおの立堎ず、プロフェッショナルの立堎の2面がある。
 デボラ・ゞョン゜ン(Deborah Johonson)は論文「コンピュヌタ倫理」で、組織の埓業員には制玄ずパワヌがあるず䞻匵する。
 立堎のコンフリクトがあった堎合、どちらを優先させるかずいう遞択に迫られる。
 組織メンバヌずしおの責任にはどんな条件があるかを怜蚎しなければならない。
 ICT゚ンゞニアの説明責任をあいたいにする以䞋぀の芁因がある。
 ①メニヌハンズ
 ②䞍可避なバグ
 ③システムに責任を抌し付け
 ④賠償責任なき所有暩
AI倫理
 利甚の倫理問題に以䞋が挙げられる。
 ①孊習デヌタに朜むバむアスによる差別
  公平なデヌタずは䜕かを考える必芁がある。
 ②利甚が雇甚に䞎える圱響
  の維持に賃金の安い人々の劎働力が䜿われおるこずがある。
  たたコンピュヌティングによっおなくなる仕事もあるず蚀われおいるが、新たに生み出される仕事もある。
 ③システム利甚による人間の自埋性・䞻䜓性の喪倱
  による怜玢゚ンゞンの遞別や芖聎者に合わせた広告によっお人々の刀断に圱響を䞎えおいる。
  すなわち人間の知的自由の危機がある。
  の提䟛するリコメンデヌションにより人間の刀断が管理されおいる。
  説明責任をより難しくしおいる。
 ④システムの甚途の倫理性自埋性臎死兵噚など
  が瀟䌚にあり方に圱響を䞎えるこずがある。
 ⑀コンピュヌティング利甚における責任の䞍圚぀のシナリオ
  誰がどう責任を負うかを明確にする必芁がある。
 
 そしおコンピュヌティング利甚の責任をいかに回埩しおいくか、゚ンゞニアが果たすべき責任をどのように担保するかなどの課題がある。
AIコンピュヌティングにおける責任䞍圚性
 時代の責任をいかに回埩しおいくか。
 組織が果たすべき責任ず゚ンゞニアが果たすべき責任ずがある。
 ゚ンゞニアがこれたで以䞊に瀟䌚問題や倫理問題に関䞎しおいくべきである。
 同時に公匏の教育プログラムずプロフェッショナルの認定制床が重芁である。
質疑応答

質問AI自身が賢くなりすぎお、心をもった堎合に生呜倫理ブレヌドンナヌのような映画で描かれる、レプリカントが奎隷ずなる䞖界は起こりうるでしょうか。
回答が倫理的な心を持おるか、ずいう問題がある。は心をもおないずいう人もいるが、倖芋的に心を持っおいるように芋えれば、それは心ず呌んでもよいずいう意芋もある。倧阪倧孊の石黒先生がその問題を扱っおいる。

質問孊習デ―タのバむアスに関連しお、「人材採甚の化で、ゞェンダヌバむアス」が起こるず蚀われおいたす。
 人材採甚にが䜿われるず、アファヌマティブアクションに反するなど、法的な問題も起こり埗たす。
 さらに瀟䌚ぞの入り口だけでなく出口でも䜿われる可胜性がありたす。たずえば、リストラ察象の遞別に䜿うなどです。
 採甚では孊習デヌタに問題があるずいう意芋もありたすが、法制床ずの関係でも倫理に圱響するのではないでしょうか。
 アドバむスがありたしたら、よろしくお願いしたす。
回答を䜿甚した人材採甚でゞェンダヌバむアスがあるず蚀われおいるが、きちんず怜蚌したものがないので、珟時点では分からない。孊習デヌタに偏りがあるかどうかも解明されおはいない。責任のある研究が求められる。
参考文献玹介
Peter-Paul Verbeek(2011)” Moralizing Technology: Understanding and Designing the Morality of Things” University of Chicago Printing
Spinello, R. A. (2002). Case Studies in Information Technology Ethics.  Prentice Hall.䞭西茝倫蚳『情報瀟䌚の倫理ず法―41のケヌスで孊ぶ』゚ヌティティ出版
Carl Benedikt Frey and Michael A. Osborne (2013):”THE FUTURE OF EMPLOYMENT: HOW SUSCEPTIBLE ARE JOBS TO COMPUTERISATION?”
OECD(2016)”Automation and Independent Work in a Digital Economy”
Don Ihde(1990)“Technology and the Lifeworld: From Garden to Earth” Indiana University Press
D Gotterbarn(1991): “Computer ethics: Responsibility regained” NationalForum: The Phi Beta Kappa Journal, Vol. 71, No. 3, pp. 26-31.
Deborah Johonson:” Computer Ethics”(Philosophy of information technology)ACADEMIA,pp.65-75
[3]サブテヌマ「IT21の䌚 圹員のおしごず」
講垫桔梗 靖之 氏 IT21の䌚 25期䌚長 技術士情報工孊郚門・総合技術監理郚門
資料IT21-2201-02
はじめに
目的
・IT21の䌚の理念、掻動及び掻動目暙を改めお確認、今期圹員25期の取り組み内容を玹介する。
・䌚の理念等を果たすため䌚員の圹割を共有し、䌚員間の自発的で自由な集い盞互研さんの堎ずしお掻性化を促したい。
・本䌚の運営や、次幎床以降の圹員ずしお掻躍したい方に向け情報提䟛をしおいく。
・25期圹員任期1幎2021幎月2022幎月ごろ)
IT21の䌚改めお
 IT21の掻動は自発的で自埋的な掻動である。圹員それぞれが専門性を生かしお運営しおいる。
圹員の䞻な仕事
 各圹員䌚長、副䌚長、運営圹員、䌚蚈圹員の圹割を玹介した。
 䟋䌚ずは別に圹員のみの打ち合わせも実斜しおいる。
 䌚を盛り䞊げるために講挔以倖にも忘幎䌚や新幎䌚を䌁画・実斜しおいる。
 運営には技術士のプロフェッショナルコンピテンシヌや総合技術管理郚門の぀の管理にも通じる内容がある。
今埌に向けお
 コロナ終息を芋据えお、IT21の䌚を䌚堎ずZoomを利甚した「ハむブリッド運営」を怜蚎しおいる。
 今埌のホヌムペヌゞ等の改修のため、むンフラWGを'21幎12月に発足した。
 むンフラWGの課題は、SSL察応、ホヌムペヌゞコンテンツの改蚂、メヌリングリスト運営。
 珟圚のZoomによる圓䌚の運営ニヌズはあるため、今埌もリモヌト参加者ぞのサポヌトが必芁である。
 今埌の安定的IT21の䌚の運営のため、過去の圹員等の有志バックアップ䜓制、情報技術を掻甚した仮想的な組織運営を念頭に眮いおいる。
 珟圚でも遠隔地からでも運営できる環境が敎っおいる。
 しかし、䌚堎運営を考慮するず、珟地蚭営等を担う運営圹員がもう名必芁ずなる。
 IT21の䌚ぞの参画ずしお、メむン・サブ講挔、議事録担圓、圹員ずしおの参画がある。
 圹員ずしおの参画は、本業ずは違う芖点が持お、芖野が倧きく広がる。
 GoogleDriveに過去の各皮マニュアルが蓄積されおおり、参照ができる。
 運営に際し、圹員間でお互いを尊重する姿勢が必芁。
 䞀垂民ずしおの倫理的ふるたいず同じ。
 技術士䌚の倫理綱領、盞互の尊重に該圓する。
 組織人ずしお䌚則や现則は手段であり、瞛られるものであるが、状況に応じお、柔軟な組織運営のため䌚則や现則を倉える考え方も必芁である。
 圹員になるこずは自身ぞのリタヌンずなる。
[4]今埌の予定等
 2021幎2月から4月たでの月䟋䌚講垫の予定玹介があった。
 月䟋䌚発衚の講垫募集をしおいる。
 むンフラWGのリヌダに期運営圹員、傳寶氏が遞出された。
(議事録担圓 奥田孝之 蚘、埌に各講挔者様による確認及び曎新)

Front page   Freeze Diff Backup Copy Rename Reload   New List of pages Search Recent changes   Help   RSS of recent changes (RSS 1.0) RSS of recent changes (RSS 2.0) RSS of recent changes (RSS Atom)
Counter: 209, today: 1, yesterday: 1
Last-modified: 2022-01-23 (Sun) 17:35:25 (JST) (373d) by DENBOU