Data Ethics

このページでは「データ倫理とは何か?」という問いをはじめ,データ倫理に関する具体的な事例,国内外での取り組みについて皆さまの疑問にお答えします。

データ倫理とは何ですか?

データ倫理とは何かについて普遍的な定義はありませんが,いくつかの定義・概念が提案されています。ここではその代表的なものを紹介します。
英国のオープンデータインスティテュート(ODI)によれば,データ倫理とは「倫理学の一分野であり,データの収集,共有および利活用によって,人びとおよび社会に対して負の影響を与える可能性のあるデータ実務を評価するもの」とされます(https://theodi.org/service/data-ethics/)。
データ倫理の第一人者の一人であるルチアーノ・フロリディ教授(オックスフォード大学)は,データ倫理と「倫理学の一分野であり,データ,情報,アルゴリズムに関する道徳的問題およびそれらに対応するプラクティスやインフラを研究・評価し,道徳的に善い解決策を形成・支援することを目指すもの」定義しています。

参考文献:Floridi, L. ‘Soft Ethics and the Governance of the Digital’ in Philosophy & Technology. 31, 1–8 (2018).

なぜデータ倫理が大切なのですか?

近年,機械学習やビッグデータの利活用が急速に拡大しつつあります。ビッグデータの利用によってイノベーションや効率的なサービスの提供が可能となり,生産性の向上や経済成長が見込める一方で,利用者とサービス提供者との間に非対称性があるため,データを取得される利用者がその事実を知らないまま個人情報を取得・共有されるおそれや,サービス提供者が意図しない結果を生むおそれ,既存の差別や偏見を助長してしまうおそれ,さらにはビッグデータを用いたプロファイリングなどによって個人の自律的選択が脅かされるおそれなどが指摘されています。
このように,ビッグデータの収集や利活用により生じる倫理的・社会的問題を解決しながら利活用の促進と調和するため,データ倫理を考える必要があります。

参考文献:Herschel, Richard and Virginia M. Miori, "Ethics & big data," in Technology in Society 49 (2017): 31-36.

データ倫理,情報倫理,AI倫理はそれぞれどのように違いますか?

データ倫理における第一人者のひとりであるルチアーノ・フロリディ教授(オクスフォード大学)によれば,2000年代初めにはPCやタブレット,クラウドコンピューティングといった特定の技術に着目した「情報倫理」が中心でしたが,近年はそうした技術が扱う対象である「データ倫理」が中心の時代に移行しています。フロリディによれば,データ倫理は,①データの倫理,②アルゴリズムの倫理,③実践の倫理という3つの軸から成るとされます。AI倫理は,特にアルゴリズムの倫理に関わる領域といえるでしょう。

参考文献:Floridi, Luciano and Taddeo, Mariarosaria, ‛What is Data Ethics?’ Philosophical Transactions of The Royal Society A Mathematical Physical and Engineering Sciences, Volume 374, Issue 2083, December 2016.

データ倫理について詳しく勉強したいのですが,おすすめの本や教材はありますか?

本ウェブサイトの「リソース」ページにデータ倫理に関する海外の資料の紹介や,オンラインコース等へのリンクを掲載しています。ぜひご活用ください。

海外ではどのような取り組みが⾏われているのでしょうか?

GDPR(欧州一般データ保護規則)が施行された2018年前後からデータ倫理に関する取り組みが各国で加速しつつあります。
先進国の多くでは,データ倫理に関する問題について研究や助言を行うさまざまな専門家から成る団体が設立されています。イギリスのThe Alan Turing Institute(https://www.turing.ac.uk)の Data Ethics Group や Open Data Institute(https://theodi.org)などが代表的です。
こうした団体は,データ倫理に関するガイドラインやチェックツールを提案するなどの活動を行っています。最近では,COVID-19 追跡確認アプリに関連する倫理的問題についての提言も行っています。
さらに,企業内にデータ倫理の専門家を設けて,自社のサービス提供において生じうるリスクに備える企業も増えつつあります。

参考文献:Taddeo, M. ‘The Ethical Governance of the Digital During and After the COVID-19 Pandemic,’ Minds and Machines, 30, 2020, pp.171-176. ;Floridi, L. ‘Mind the App: Considerations on the Ethical Risks of COVID-19 Apps,’ Philosophy & Technology, 33, 2020, pp.167-172. ; Jessica Morley, Josh Cowls, Mariarosaria Taddeo, Luciano Floridi, ‘Ethical guidelines for COVID-19 tracing apps: Protect privacy, equality and fairness in digital contact tracing with these key questions.’ in Nature, 28, May, 2020.

データ倫理に関する具体的な事例について教えてください。

データの収集,流通,利活用がかかわるあらゆる場面で問題となると考えられます。
個人のプライバシーに関しては,個人情報保護法等の法令によるセーフガードが設けられていますが,法令を遵守していても倫理的に正当化し得ないプライバシー侵害が発生しうる場合もあります。
また,テクノロジーの社会実装に際して,一定の人々への不利益や差別・偏見,社会的分断の創出や拡大等,プライバシー以外の分野での害が生じるリスクもあります。さらに,多数の人に影響を及ぼす形でデータが利活用される場合には,意思決定における手続的正義の問題も生じえます。
国内では,2019年に就活情報サイト「リクナビ」を運営していたリクルートキャリアの事例が問題となりましたが,この事例では,プライバシー侵害だけでなく,利用者にとっての不利益につながりうる形でデータが利用されていたことや意思決定過程が不透明であったことも問題であったと考えられます。
人事に関わる場面以外にも,マーケティングや,保険の審査といった個人の評価にかかわる場面で問題が先鋭化すると考えられます。また,公的部門では,福祉給付や犯罪予防,最近では感染症対策を目的とするデータの利活用に関してしばしば倫理的課題が指摘されています。

他にもさまざまな事例があります。詳しくは「リソース」ページをご覧ください。

データ倫理を考えることにはどのような意義がありますか?

データの利活用を推進することで,イノベーションの創出などさまざまなメリットが期待されています。一方で,扱われるデータの量・範囲の拡大やテクノロジーの高度化に伴い,新たな社会的・倫理的課題が指摘されるようになっています。こうしたリスクへの対応には,差別・偏見や社会的分断の防止,手続的正義といった,より広い視座が求められると考えられ,既存の法令等の遵守だけで対処することは困難です。
また,テクノロジーが急速に発展・複雑化する中,法律等による既存のルールではそもそもカバーされていない/想定されていない領域も拡大しています。
こうした状況下で社会からの信頼を得ながら責任あるデータ利活用を実践するためには倫理的な取り組みが重要であると考えられます。

データ倫理の問題には正解がないように思いますが?

データ倫理に限らず,倫理的問題とされるものの多くは,いわゆる倫理的ジレンマを含んでおり,答えが自明ではありません。また,現在データの利活用をめぐって生じている社会的・倫理的問題の多くは,そうした性格のものです。
データ倫理は,データをめぐるそうした困難な問題について判断・選択するためのよりより方法を探求する分野であるといえます。
医療倫理についての以下の説明は,データ倫理にもあてはまるかもしれません。

「この学問には以下の仕事が含まれる。実践において倫理的問題がどのように生じるかを理解すること,関係する当事者全員のためにその問題に関わる重要な事実や価値についてのエビデンスを注意深く集めること,それらの事実や価値を用いて議論を明確化すること,およびさまざまな選択肢に関して十分に推論するという過程により,どう行為すべきかの決定に至ること」
引用文献:マイケル・ダン,トニー・ホープ/児玉聡,赤林朗訳『医療倫理超入門』(岩波書店,2020年)12頁

データ倫理の取り組みを実践するにはどのようにすればいいですか?

リソース」ページにデータ倫理に関する資料やオンラインコース,評価ツールなどのリンクを掲載しています。これらを参考に,まずは現在のデータの取扱いに倫理的な観点から見て問題はないかを検討することをおすすめします。

データ倫理について学ぶ必要があるのはどのような人々でしょうか?

データ倫理には,その実践の場面により,①データサイエンティストなどデータを取り扱う専門家の専門職倫理,②データサイエンスなどデータに関わる学術研究分野の研究倫理,そして,③データを活用したビジネスを展開している事業者の企業倫理という3つの側面があります。これらの専門家や事業者がデータ倫理を学び,実践することは必須になると思われます。
また,パーソナルデータを提供したり,データサービスを利用する立場の一般市民にとっても,データ倫理について学び,データが適正に取り扱われているかどうかをチェックすることは今後さらに重要になると考えられます。

データ倫理に関する法律およびガイドラインにはどのようなものがありますか?

データ倫理に特化した法律やガイドラインは国内にはありません。
関連するものとしては個人情報保護法およびその関連法・ガイドラインが挙げられます。これらの解釈・運用に際して,データ倫理の考え方を取り入れることは有用であると思われます。また,GDPR(欧州データ保護一般規則)には,公平性(5条)など適用にあたって一定の価値判断を必要とする規定が比較的多く,データ倫理の考え方が運用上有用であると指摘されています。
経済産業省がデジタルトランスフォーメーション(DX)推進の観点から作成した「DX時代における企業のプライバシーガバナンスガイドブックver1.0」(https://www.meti.go.jp/press/2020/08/20200828012/20200828012.html)も参考になります。

この研究プロジェクトについて教えてください。

「イノベーションを支えるデータ倫理規範の形成」プロジェクトは,JST-RISTEXの支援を受けて2019年にスタートしました。データ倫理に特化した研究としては,国内最初のプロジェクトであると思われます。データ利活用のさらなる拡大を想定して,データ倫理に関わる規範やガバナンスモデルの提案を行うことを目標に活動を行っています。詳しくは「プロジェクトの概要」ページをご覧ください。

お仕事の依頼や共同研究のご相談等がありましたら,「コンタクト」よりお願いいたします。

  • TOP
  • データ倫理を知る