オーストラリアは、オンライン上の児童性的虐待コンテンツとテロ支援コンテンツを積極的に取り締まることを決定しました。そのため、すべてのテクノロジー企業に対し、コンテンツにそのようなコンテンツが含まれていないか積極的にスキャンすることを義務付ける予定です。
その結果、オーストラリアは、あらゆるテクノロジー企業のデータ取り扱い方法に世界的な抜本的な変化をもたらす可能性があります。
これらの新しい規制は、オーストラリアのeSafetyコミッショナーによって政策として採択されました。これにより、オーストラリア人と取引を行うすべてのテクノロジー企業は、メール、オンライン写真ライブラリ、クラウドストレージアカウント、出会い系サイトを積極的にスキャンし、違法コンテンツが含まれていないか確認することが義務付けられます。
参照:この義務は、オーストラリアが AI 規制を検討しているのと同時に発生します。
これには、Apple iCloud、Google Drive、Microsoft OneDriveなどのサービスが含まれます。また、オンラインゲームやインスタントメッセージで共有されるコンテンツも含まれます。
違反した場合の罰金は1日当たり70万ドルです。
ジャンプ先:
- eSafetyコミッショナーが厳しく取り締まっているのはなぜですか?
- 次のステップは何ですか?
- 国際社会はこの命令を受け入れるだろうか？
eSafetyコミッショナーが厳しく取り締まる理由
2021年、オーストラリアはオンライン安全法を可決しました。200ページに及ぶこの法律の目的はシンプルでした。
- オーストラリア人のオンライン安全性を向上します。
- オーストラリア人のオンライン安全性を促進します。
この法律の最初の成果は、eSafetyコミッショナーの設置でした。コミッショナーの役割の一部は、eSafetyコミッショナーの要請に応じて違法または有害なコンテンツを削除するための枠組みを構築し、施行することです。
これにより、政府はソーシャルメディア、電子機器、インターネットサービスにおける基本的なオンライン安全基準を定めることができるようになりました。また、テクノロジープロバイダーは、「忌まわしい暴力行為」を助長、扇動、指示、または描写するコンテンツへのアクセスをブロックすることが求められる可能性があります。
これを促進するため、eSafetyコミッショナーはオーストラリアのIT業界に対し、違法コンテンツ対策のための提案書の作成を指示しました。提案書は2月に提出されましたが、eSafetyコミッショナーはこれを却下しました。これは、ファイルおよび写真ストレージサービス、電子メール、暗号化メッセージサービスにおける「既知の児童虐待コンテンツ」の検知とフラグ付けに関するコミッショナーの最低限の期待を満たしていなかったためです。
eSafetyコミッショナーはまた、今年の第1四半期における児童の性的搾取および虐待コンテンツの報告が前年比285%増加したことも、この劇的な措置の原因であると指摘した。
次のステップは何ですか?
これらの規制は、オーストラリアのサービス提供者と、オーストラリア人にサービスを提供する海外のベンダーの両方に等しく適用されます。これらの規制は、正式に登録された日から6か月以内に施行されます。
それが実現すれば、オーストラリア国民はeSafety委員会に不遵守の苦情を申し立てることができるようになり、同委員会は調査を行い、差し止め命令、強制履行義務、金銭罰を課す権限を持つことになる。
当然のことながら、これらの要件の範囲と普遍性は、プライバシー擁護者にとって懸念材料となるでしょう。メール送信時にプライバシーが確保されるという基本的な期待は、すべてのメールをスキャンする必要があるとすれば、直ちに損なわれることになります。
これにより、新たなデータセキュリティ上の懸念が生じ、2022年に発生したオプタス、ラティテュード・ファイナンス、メディバンクのデータ侵害（合計でほぼすべてのオーストラリア人が少なくとも一度は影響を受けた）を受けて、オーストラリア人はデータのセキュリティをさらに低下させるものに対して敏感になっている。
こうしたコンテンツがどのようにスキャンされるかについても懸念があります。テクノロジー企業は、個々のコンテンツを手動でスキャンする必要はありません。むしろ、eSafetyコミッショナーは、自動化ツールを開発し、AIを活用して既知の違法コンテンツの例を「学習」させ、新たに作成・共有されるコンテンツとの類似性を検知することを期待しています。
しかし、この解決策は不完全です。いくつかの企業が試みましたが、まだ期待通りには機能していません。MetaやGoogleなどの企業は、違法コンテンツを自動検出して警告するツールを既に開発しています。Appleはこの分野の先駆者であり、2021年には自社のデバイス間で送受信される児童虐待コンテンツを自動的に検出する計画を発表していました。
紛れもなく崇高な目的であったにもかかわらず、実現不可能だったため、Apple は 1 年以内にそれを断念しました。
現実には、この自動化（業界用語で言うところの「ハッシング」）は不完全であり、騙されたり、偽のフラグを立てられたりする可能性がある。前者の問題は、これらのシステムの本来の目的を台無しにしてしまう。犯罪者はインターネットへの適応が得意であることは周知の事実であり、これらの技術は画像を共有している個人の特定には役立つかもしれないが、真の問題となっているようなシンジケートには影響しないだろう。
一方、児童虐待コンテンツの配信で告発されただけでも深刻な被害を受ける可能性があることを考えると、フラグが付けられたコンテンツを当局に渡すテクノロジー企業が、罪のない人々にどのような影響を与えるかについては深刻な懸念があります。すでに、ある病気の治療のために医師の依頼で息子の股間の写真を撮影した父親がGoogleに「摘発」された事例があります。
国際社会はこの命令を受け入れるだろうか？
eSafetyコミッショナーは、これらの新しい規制が世界の他の国々のコンプライアンス遵守を促すことを期待していると述べています。世界の他の国々がこれを受け入れるかどうかはまだ分かりません。
eSafetyコミッショナーはオーストラリア国民とテクノロジーの関わりを規制することしかできないが、これらの法律はグローバル企業にシステムレベルでのアプローチの変更を強いる可能性があり、これが世界的にデジタル権利をめぐる新たな議論の波を引き起こす可能性がある。
あるいは、プラットフォーム所有者やサービスプロバイダーがオーストラリアへのサービスを停止するという決定を下す可能性もあります。これは2021年に起こった出来事です。Facebookは、オーストラリア政府がニュースメディア組織へのロイヤルティ制度を導入しようとしたことに抗議しました。この決定が有効だった短期間の間、オーストラリアのあらゆる規模の企業と消費者は深刻な影響を受けました。
こうした懸念にもかかわらず、eSafetyコミッショナーはこのアプローチを非常に堅持しています。テクノロジー業界において、データの保管と共有に関わるすべての人は、データの取り扱いと共有方法に大きな変化が生じることに備える必要があります。
