顔認識技術が一般市場に浸透し、今では顔だけで携帯電話やパソコンのロックを解除できるようになりました。顔を一目見るだけで人物を識別できるという、まさに人間的な能力を機械に与えることは非常に喜ばしいことですが、倫理的な懸念がないわけではありません。
例えば、あなたの会社が顔認識技術の導入を検討しているとします。その場合、これらの懸念事項を認識し、それらに対処する準備を整えておくことが不可欠です。場合によっては、顔認識技術の導入を完全に断念することも考えられます。
参照: 人工知能倫理ポリシー (TechRepublic Premium)
これらの倫理的懸念を評価する際には、顧客、従業員、そして一般の人々が、テクノロジーの使用方法を完全に知ったらどのように反応するかを考えてみましょう。もしその考えに不安を感じるなら、倫理的に「危険領域」に踏み込んでいる可能性があります。
顔認識技術の倫理的問題は何ですか?
透明性と同意の欠如
顔認識技術に関する根本的な倫理的問題は、これらの技術がしばしば同意や通知なしに使用されることです。従業員、顧客、あるいは一般市民の監視カメラやビデオ映像にアクセスできるからといって、関係者に通知せずにそのデータを使用することが賢明であるとは限りません。
顔で個人を特定することは、あらゆる種類のデータへのアクセスを可能にする可能性があり、倫理的な懸念を増幅させる可能性があります。例えば、顔認識技術を使って来店者を特定する場合、そのIDを使って購入履歴を取得すべきでしょうか？信用情報はどうでしょうか？信用スコアの低い顧客へのサービス提供を避け、「高価値」の顧客に集中すべきでしょうか？
同様の例として、Ringドアベルのような家電製品が挙げられます。Politicoによると、Amazonはユーザーの同意なしにこれらのデバイスから撮影した動画を警察に提供しているとのことです。
大規模監視
大規模監視への懸念は誇張された陰謀論のように思えるかもしれないが、米国ではむしろ劇的な影響を及ぼしている。連邦政府による中絶保護の撤廃により、大手テクノロジー企業が召喚状を受け、中絶クリニックを訪れたユーザーを特定する可能性があるという懸念が生じている。
中絶クリニックの例が示すように、大規模な市民活動の記録は一見問題ないように見えるかもしれませんが、実際にはそうではありません。市民が集まり、今日の問題に対する支持や反対を自由に表明できることは、ほとんどの民主主義国家にとって基本的な要素です。大規模な監視と顔認識は、「悪い行動」とみなされる記録を作成し、市民に不利に働く可能性があります。この倫理的な懸念は、すでに現実のものとなりつつあります。EFFによると、ロサンゼルス警察は、反警察デモの際に、ユーザーに対しRingカメラの映像の提供を要請しました。
もっと無害な例でさえ、倫理的な懸念を引き起こします。例えば、アイスクリームチェーンを経営する会社で、顔認識技術を使って常連客を特定し、特典で「サプライズ」をプレゼントするとします。こうした顧客は、自分の「ちょっとした楽しみ」が監視・追跡されていることに不快感を覚えるでしょうか？
バイアスと正確性に関する懸念
顔認識技術に関する倫理的な懸念としてよく挙げられるのは、アルゴリズムに人種的バイアスが存在するという点です。しかし、この懸念は、顔認識技術の全体的な精度に対する、より根深い懸念を反映しています。バイアスの存在を示す証拠として主張されるものは、多くの場合、顔から人種、性別、年齢などの特徴を判別しようとする人口統計分類アルゴリズムに起因しています。2018年にMITが行った研究では、ほとんどの分類アルゴリズムが肌の色の濃い女性を他のどのグループよりも誤認していることが明らかになりました。
顔認識の支持者は、分類と識別は別物であり、アルゴリズムは技術的にも、そして長年にわたるトレーニングの積み重ねによっても進化してきたと主張しています。しかし、「完璧な」条件下では、顔認識技術の成功率は99.92%です。これは印象的に思えるかもしれませんが、マンハッタンで連続殺人犯を探している場合、顔認識は13万件もの誤検出を示唆する可能性があります。しかも、それは「完璧な」条件下での話です。
さらに、写真の年代と個人の顔の年代の違いから、ドッペルゲンガーや一卵性双生児といった典型的な人間の特徴の識別の難しさまで、様々な要因がアルゴリズムを歪める可能性があります。これは、好みの買い物客を特定しようとしている場合には大げさな懸念のように思えるかもしれませんが、顔認識技術に基づいて法執行上の判断を下すとなると、深刻な懸念事項となります。
匿名性の倫理
オンライン上の匿名性については、マーケティングに利用されるトラッキングCookieから、オンラインでの行動に関するデータがどのように、どこに保存されるかまで、あらゆる問題をめぐる激しい論争が繰り広げられています。こうした議論の多くは、あらゆる種類のオンライン行動を追跡できるからといって、それが倫理的または適切であるとは限らないという考え方に行き着きます。
同じ議論は顔認識技術にも当てはまります。顔認識技術は、オンライン上での行動の多くが追跡されているのと同様に、最終的には現実世界における私たちのあらゆる行動を追跡できる能力を提供する可能性があります。この議論が進展するにつれて、顔認識のような新興技術に関連する教訓が得られる可能性があります。
技術者は倫理的な懸念は「自分の仕事の範囲外」だと感じるかもしれません。しかし、顔認識のような技術は計り知れない力と倫理的なリスクを伴います。実装を急ぎ、倫理的な問題は後回しにするよりも、これらの懸念を理解し、議論する価値はあります。
