もし仮想世界におけるハラスメントが、今人々が耐え忍んでいる状況と同じようなものであれば、誰もそのような空間に長く居続けたいと思うことはないだろう。スペクトラム・ラボの最高戦略・マーケティング責任者であるティファニー・シンユー・ワン氏は、米国のインターネットユーザーの41%がオンラインで経験したハラスメントや個人攻撃が、仮想世界ではさらに悪化すると予測している。これには、悪口や意図的な侮辱から、身体的脅迫やストーカー行為まで、あらゆるものが含まれる。
「メタバースは没入感と多感覚を刺激するため、その影響ははるかに大きくなります」と彼女は述べた。「毒性が現れるまでの時間ははるかに短くなります。」
参照: クイック用語集: Metaverse (TechRepublic Premium)
ワン氏は、従来のソーシャルメディアプラットフォームではオンラインハラスメントの問題を解決するには遅すぎるかもしれないと考えている。彼女は、仮想世界の増加は、テクノロジー業界が今こそ正しい方向へ進むチャンスだと見ている。安全で責任あるコミュニティを構築する企業は、メタバースにおいて競争優位に立つだろう。
「企業は設計段階から安全性を念頭に置き、それを差別化要因として活用することで、人々を惹きつけることができます」と彼女は述べた。「新しいプラットフォームは、こうした点を非常にうまく実現しているため、勝利を収めるでしょう。」
メタバースの居住者を盗難や金融詐欺から保護することに加えて、基本的な個人の安全保護も必要です。
Web 2.0の問題の再発を防ぐには、違反した場合の罰則を含む共通の行動規範を策定する必要があります。Spectrumは、ソーシャルメディア、出会い系、ゲーム、eコマース、エドテックなど、様々な分野のウェブサイトにおいて、企業が信頼と安全性を確立するためのAIインフラを構築できるよう支援しています。顧客は、同社のコンテンツモデレーションツールを利用して、ヘイトスピーチ、人種差別、児童性的虐待コンテンツ、その他の利用規約に違反するコンテンツを特定しています。
ワン氏は、コミュニティ政策は単なる保険や避けられないコストセンター以上のものだと述べた。
「信頼と安全は人々があなたのコミュニティに来る理由となり、顧客獲得コストを削減し、顧客維持率を向上させることができます」と彼女は述べた。「信頼と安全はビジネス上のメリットとなります。」
コミュニティポリシーの策定方法
ワン氏によると、オンライン上で没入型コミュニティを運営する企業、個人、組織は、確固としたポリシーを策定し、その行動規範を徹底させることを最優先に考える必要がある。重要なのは、この2つのタスクをうまく遂行することだ。
「スキャンダルを目にするとき、多くの場合、問題は企業が方針を持っているにもかかわらず、それを実施していないことです」と彼女は語った。
Trust & Safety Professional Association は、オンラインで許容される行動とコンテンツに関する原則とポリシーを策定し、施行する専門家のための非営利団体です。
ワン氏は、ゲーム会社やソーシャル企業がこの分野の先駆者ではあるが、パンデミックによって信頼と安全財団の活動への関心が高まったと述べた。
成功のもう一つの鍵は、プラットフォームを利用するグループに合わせた行動規範を作成することです。例えば、LGBTQ向けの出会い系サイト向けのポリシーは、9歳から13歳向けのゲームサイト向けのポリシーとは大きく異なります。
「これをうまく行っている企業は、ポリシーチームを雇い、マーケティングやコミュニケーションと連携して、ブランドアイデンティティを反映したポリシーを作成しています」と彼女は語った。
コミュニティのポリシーは、そのポリシーに違反した人々に対する適切な結果も規定しているとワン氏は述べた。
「基本的な行動規範を知らずに施行規則を構築することはできない」と彼女は語った。
参照：クアルコムとレノボが開発者エコシステムの拡大に向けて新たな拡張現実（AR）パートナーシップを開始
Spectrumは、人工知能によって強制・自動化されたモデレーションルールにルールを組み込みます。このアプローチにより、モデレーターが暴力的または不快なコンテンツに晒される機会が減少します。
安全なオンラインコミュニティを構築する上でもう一つ重要な要素は透明性だとワン氏は述べた。
「措置を講じる場合、つまりユーザーを一時停止にしたり、プラットフォームからユーザーを削除したりする場合には、それをポリシーに結び付ける必要があります」と彼女は述べた。
ワン氏は、コンテンツモデレーション戦略の策定方法の好例として、Grindrの新しいホワイトペーパーを推奨しました。Grindrの信頼と安全担当のリーダー3名が執筆した「ジェンダーインクルーシブなコンテンツモデレーションのベストプラクティス」というホワイトペーパーでは、コンテンツモデレーションに関する様々な意思決定と、ポリシー策定時に考慮すべき複数の要素が検証されています。
信頼と安全の専門家である Vanity Brown と Lily Galib、そして Grindr のカスタマー エクスペリエンス担当シニア ディレクターの Alice Hunsberger が、包括的なポリシーの設計方法、包括的なモデレーションのベスト プラクティスの確認方法、モデレーターとユーザー向けのリソースの提供方法について説明します。
仮想世界のルールを決めるのは誰でしょうか?
共通の行動規範の必要性は、セキュリティ問題と関連しています。「誰が責任者なのか？」Pactera Edgeの最高AI責任者であるAhmer Inam氏が説明するように、課題の一つは、メタバースのルールを明確に施行する主体が存在しないことです。
「仮想世界には完全に国境がないので、誰の法律が適用されるのでしょうか？」と彼は語った。
多くの政府の権威主義的な傾向を、マルチバース世界にも持ち込みたい人はいないでしょう。しかし、これらの仮想空間で盗難や詐欺、そして一般的な犯罪行為が蔓延すれば、より広範な普及は阻害されるでしょう。
イナム氏は、公的機関と民間団体のパートナーシップにより、あらゆるメタバースの世界に関する共通のルールを策定すべきだと考えています。
彼は、信頼性を中心的組織原則として技術を規制する国際条約の制定につながった原子力に対する懸念から学ぶことに可能性を見出している。
参照: メタバース チートシート: 知っておくべきことすべて (無料 PDF)
イナム氏は、規制対象産業がメタバース体験の構築を開始すると、規制の整備が加速すると予測しています。また、AI倫理憲章をメタバースにも拡大できる可能性もあると考えていますが、そのためには産業界と政府の連携が不可欠です。
「メタバースの成長は、テクノロジーだけでなく、そこに潜む潜在的な危害によって、個人の権利とプライバシーの確立を加速させる可能性があります」と彼は述べた。「技術者として、これから起こることに期待していますが、社会の一員として、少し懸念しています。」
パンデミックは、インターネット接続が電力と同じくらい重要であることを示し、高速インターネットアクセスのない地域へのアクセス拡大に向けた政府の投資を促しました。データベース・アズ・ア・サービス企業AivenのCISO、ジェームズ・アーレン氏は、デジタルIDでも同様のことが起こると考えています。
「アイデンティティはデジタルの営利企業の外で統合されるべきだ」と彼は語った。
