第16回　学習データセットの中身（６）〜 パーソナル情報の学習利用 〜

パーソナル情報は、著作物と並んで、学習利用に注意を要するデータです。本人の許諾なく利用すると基本権の侵害になることから、慎重な取り扱いが必要であることが法律でも規定されています。

利用の自己コントロール

自分の住所や生年月日あるいはマイナンバーを、他人が知っているのは、何か気持ちの悪いことです。なりすましなど、何処かで悪用される恐れもあります。購入した商品を自宅配送する場合は、住所に加えて連絡先の電話番号などを登録しますが、このようなパーソナル情報を自分の知らないところで勝手に使われないようにしたいものです。そのために、伝える相手や利用の目的に納得した上で、自分自身がデータ利用の仕方をコントロールします。

前回のテーマだった著作権法は、著作者が著作物を利用許諾する枠組みを定めており、第３者による無断利用、つまり、タダ乗り（フリーライダー）から保護する役割を果たします。著作権者が、利用をコントロールしているという点で、上で述べたパーソナル情報と似たところがある一方、これら２つは、法律上の位置付けが全く異なります。

プライバシー

プライバシーの保護は、人が持つ基本権から導かれます^文献[1]。19世紀に整理された頃からの伝統的なプライバシー権は「ひとりで放っておいてもらう権利」と言われます。私的領域に他者を無断で立ち寄らせないことでした。自宅でくつろいでいる姿を覗かれたら嫌ですよね。その後、マスメディアが発展して、情報化社会になり「自己に関する情報をコントロールする権利」（情報プライバシー権）が重要視されるようになりました。自己の情報（パーソナル情報）についての閲読・訂正ないし抹消請求を含むものです。何処かで保持されているパーソナル情報が誤りだったら、自身が悪影響を被るかもしれません。実際、情報に誤りがあったことで、飛行機への搭乗が拒否されたというニュースがありました。

パーソナル情報の学習利用は、情報プライバシー権と関わる問題です。いくつか用語を確認しておきましょう。パーソナル情報に紐付けられた自然人を「データ主体」と呼びます。そして、提供に同意することを「オプトイン」と言います。その逆の不同意は「オプトアウト」です。

パーソナル情報は、「登録データ」と「アクティビティデータ」に分類されます。前者は個人を直接特定する情報のことで、たとえば、氏名・生年月日・住所などの基本的な項目や医療情報などの機微属性です。後者のアクティビティデータとしては、最近では、インターネットサービス利用に関わる情報が注目されています。Web閲覧状況を記録したクッキー、検索エンジン利用時の検索履歴、「いいね」ボタン情報、電子商取引サイトの購買履歴などです。

一時、インターネットサービスに関わるアクティビティデータ（インターネットビッグデータ）をプラットフォーマーが独占し、利用者の知らないうちに、学習データとして利用している、ということが、情報プライバシー権の観点から問題になりました。現在では、たとえば、Webページ閲覧時のクッキー収集に同意するかどうかを確認する仕組みが導入されています。

データ保護加工と再特定

パーソナル情報を利用する際には、個人を直接特定する情報を加工します^文献[2]。通常、パーソナル情報は、いくつかの属性の情報を含む集まりです。たとえば、氏名やマイナンバー（米国ではSSN）は直接特定につながる識別子です。一方、個人を直接特定することが難しい属性（凖識別子）であっても、複数を組み合わせると再特定が可能になる場合があります。つまり、単純に、識別子を削除すれば良いというわけではありません。

また、加工の方法によっては、加工後のデータから個人の特定可能となる情報を復活できる場合があります。つまり、加工済みデータからの個人の再特定が技術的に可能であることがわかっているのです。容易に考えられる加工は、仮名化という方法です。一般化すると「系統的な方法で変換」するということですが、単純化すると、氏名を数字IDに置き換えるような方法です。置き換えの規則がわかれば、あるいは置き換えの対応表があれば、数字IDから氏名を復元できます。

仮名化に比べ、もう少し複雑な方法に、非特定化があります。再特定するには、対象データに依存した補助情報、あるいは背景知識を利用し、試行錯誤せざるを得ないような加工法です。この非特定化は匿名加工と呼ばれることがありますが、再特定が可能なことから、完全に匿名化されているわけではありません。

情報プライバシー権を守る立場から見ると、どのような保護加工の方法であっても、データ主体のコントロールが及ばないところで、パーソナル情報が参照されないことを保証しなければなりません。再特定が容易な弱い加工法であれば、外部へのデータ流出を防止する仕組みを整える組織的な体制に重きが置かれます。一方、強い加工法であれば、仮にデータ漏洩したとしても、再特定される恐れが小さくなります。

欧州の法律

欧州AI法の情報プライバシー権に関わる条項は、一般データ保護規則（GDPR）を参照しています。つまり、パーソナル情報を学習データとして利用する際には、GDPRにしたがいなさい、ということです。

GDPRには、パーソナル情報を利用する法的な根拠を示す条項があり、データ主体の同意、契約、正当利益のいずれかの場合にのみ利用可能とします。身近な例として、先に述べたWebページ参照時のクッキー収集への同意確認があります。クッキーはアクティビティデータとされていているので、情報提供に同意することを確認します。

パーソナル情報の利用が許可されていても、さまざまな制限が課されます。データ主体が同意したからといって、無制限に自由な利用をしてよいわけではありません。法の遵守・公正な利用・利用の透明性が大前提で、目的の制限、最小化、正確さ、保存の制限、完全性と機密性、利用側のアカウンタビリティなどです。目的の制限は、パーソナル情報の提供を受ける時に明示した以外の目的での利用を禁じています。最小化は、その目的に必要なデータだけを用いることです。また、保存の制限は、不要になったデータを保持し続けてならない、ということです。

学習データとしてモデル訓練に利用する場合、目的の制限に注意する必要があります。訓練済みモデルは後段タスクのファインチューニングによって、当初とは異なる目的で利用することが技術的に可能です。しかし、示した目的の範囲を守らなければならないのです。また、利用目的を曖昧な表現で記している場合は要注意と言えます。

医療へのAI応用

医療分野は、AI利用が進められている分野です。多数の症例あるいは医療情報を集めて学習データにする、などです。実は、医療応用と情報プライバシー権の遵守は、密接に関わっています。先に述べた凖識別子と再特定の説明は、計算機科学の研究テーマとして情報プライバシーが取り上げられるきっかけとなった問題です^文献[3]。以下に説明します。

約30年前、マサチューセッツ州で、医療情報データベースを公開した際、氏名などの識別子を削除しました。ところが、残っていた凖識別子の組み合わせ（郵便番号、生年月日、性別）から、その条件に合致する人を探し出し、さらに、公開されている有権者名簿と組み合わせることで個人を特定できた、という話です。この方法で州知事を特定し、医療情報データベースから抽出した州知事の記録を本人に郵送したそうです。

また、最近の話題を紹介します。英国は、欧州連合離脱（Brexit）後、GDPRと同等の国内法を制定し、医療情報の収集に注意しています。一方で、UKバイオバンクから約50万人分の医療情報が流出する事案が生じましたが、データ加工が施されていたので、プライバシー漏洩にはならない、ということのようです。

一般に、AI開発で行うモデル訓練は統計処理ではありません。データ主体の同意なく学習データを構築する作業は、情報プライバシー権の侵害とされる可能性があります。学習データとしての利用では、目的を明示して、データ主体から同意を得ることが、世界的にみて、当たり前になっています。

参考文献
[1] 芦部信喜、高橋和之補訂：「第七章 包括的基本権と法の下の平等」、憲法 [第八版]、岩波書店 (2023)
[2] 中島震：「2.2節 プライバシーリスク」、AIリスクマネジメント、丸善書店 (2022)
[3] Latanya Sweeney: Weaving Technology and Policy Together to Maintain Confidentiality, J. Law, Medicine and Ethics 25(2-3). pp.98-110 (1997)

次回の予告
中島先生の第17回ニュースレターでは、大きな手間がかかる学習データセットの作成とフリーライダーの排除方法について解説いただきます。学習データセットにはどのような保護方法があるのでしょうか。どうぞお楽しみに。