アルゴリズム説明責任法：テクノロジーリーダーが今知っておくべきこと、すべきこと - TechRepublic

アルゴリズム説明責任法とは何ですか?

「この法律は、AIを活用するすべての企業に対し、連邦取引委員会（FTC）が定める規制に従い、自社が使用・販売する自動化システムの重要な影響評価を実施することを義務付けます」と、TELUS InternationalのグローバルAIシステム担当マネージングディレクター、シボーン・ハンナ氏は述べています。「テクノロジー企業に自己監査と報告を義務付けることは第一歩ですが、より積極的に偏見を軽減するための戦略とプロセスの導入に向けて前進することも、AIバリューチェーンのより早い段階で差別に対処する上で鍵となるでしょう。」

アルゴリズム説明責任法が可決されれば、ベンダーレベルでの人工知能システムの監査が開始される可能性が高く、また意思決定に AI を使用する企業自体でも監査が行われるようになるでしょう。

参照: 人工知能倫理ポリシー (TechRepublic Premium)

アルゴリズム説明責任法案は修正を経て、2022年4月に下院と上院の両方で再提出されました。

「売りに出されているかどうかもわからない家、全く現れない仕事のチャンス、そして気づかない融資。これらはすべて、偏ったアルゴリズムのせいです」と、法案の提案者であるコリー・ブッカー上院議員は述べた。「この法案は、企業に対し、ツールの正確性、公平性、偏り、差別性について定期的に評価することを義務付けています。これは、人々の生活を変える可能性のある意思決定をソフトウェアを使って行う組織に、より高い説明責任を果たすための重要な一歩です。」

企業はこの挑戦の準備ができているでしょうか?

AIに影響を与える可能性のある人間のバイアスは、実に188種類も特定されています。これらのバイアスの多くは、私たちの文化やデータに深く根付いています。AIの学習モデルがこれらのデータに基づいている場合、バイアスが入り込む可能性があります。企業やAI開発者が意図的にアルゴリズムにバイアスを組み込むことは可能ですが、バイアスは、不完全、偏り、あるいは十分に多様なデータソースから抽出されていないデータから生じる可能性が高くなります。

「アルゴリズム説明責任法は、アルゴリズムの偏りを検知・軽減するためのシステムやプロセスをまだ構築していない企業にとって、最も重大な課題となるでしょう」とハンナ氏は述べた。「AIを開発、取得、活用する企業は、AIの利用によって偏った意思決定や結果が生じる可能性を認識しなければなりません。」

この法案が成立すれば、FTCは成立後2年以内にAIバイアスの影響評価を実施する権限を有することになります。医療、銀行、住宅、雇用、教育といった分野が、調査の対象となる可能性が高いでしょう。

「具体的には、連邦管轄権の対象であり、年間5,000万ドル以上の利益を上げ、100万人以上の人々またはデバイスの個人情報を保有または管理し、主に消費者データを売買するデータブローカーとして活動する個人、パートナーシップ、または法人が評価の対象となる」とハンナ氏は述べた。

企業が今できること

社会には偏見がつきもので、完全に偏見のない環境を実現することは不可能です。しかし、だからといって、企業がデータとそれに基づいて動作するAIアルゴリズムが可能な限り客観性を保つために最大限の努力を払う必要がないわけではありません。

これを促進するために企業が実行できる手順は次のとおりです。

• AI とデータに関するさまざまな見解や視点をもたらす多様な AI チームを活用します。
• AI の偏りを監査するための内部方法論を開発します。
• サービスを購入するサードパーティの AI システムおよびデータ ベンダーからのバイアス評価結果を要求します。
• 日々の AI 作業において、データの品質と準備を重視します。

こちらもご覧ください

• 機械学習エンジニアになる方法：チートシート
• 採用キット: 人工知能アーキテクト
• 採用キット: 機械学習エンジニア
• 人工知能：さらに読むべき記事