IBMとSalesforce、ホワイトハウスにAI安全保証8項目を誓約

米国で事業を展開する大手生成AI企業の一部は、自社コンテンツに透かしを入れる計画であることが、ホワイトハウスが7月21日（金）に発表したファクトシートで明らかになった。Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIは、透かしを含む生成AIの利用と監視に関する8つの自主的な取り組みに合意した。9月には、Adobe、Cohere、IBM、NVIDIA、Palantir、Salesforce、Scale AI、Stability AIの8社が自主的な標準規格に合意した。

これは、ホワイトハウスがAIの悪用に関する懸念を表明した3月の声明に続くものです。今回の合意は、ChatGPTが2022年11月にAIコンテンツを公衆の目に触れさせて以来、規制当局が生成型AIがテクノロジーと人々のインタラクション方法に及ぼした影響を管理するための手順を明確化している時期に行われました。

ジャンプ先:

• AI の安全性に関する 8 つのコミットメントとは何ですか?
• AIに対する政府の規制は悪意のある行為者を抑止する可能性がある

AI の安全性に関する 8 つのコミットメントとは何ですか?

AI の安全性に関する 8 つのコミットメントは次のとおりです。

• AI システムのリリース前の内部および外部のセキュリティ テスト。
• AI リスクの管理について、業界全体、政府、民間社会、学界と情報を共有します。
• サイバーセキュリティと内部脅威の保護策に投資し、特に AI モデルが関連付けるバイアスと概念に影響を与えるモデルの重みを保護します。
• AI システムの脆弱性を第三者が発見し報告することを奨励します。
• すべての AI システムの機能、制限、適切な使用と不適切な使用の領域を公開します。
• 偏見とプライバシーに関する研究を優先します。
• がん研究などの有益な目的に AI を活用できるよう支援します。
• 透かし入れのための堅牢な技術的メカニズムの開発。

透かしに関する取り組みには、生成 AI 企業がテキスト、音声、または視覚コンテンツを機械生成としてマークする方法の開発が含まれます。この取り組みは、透かしシステムがロックインされた後に作成された、公開されているすべての生成 AI コンテンツに適用されます。透かしシステムはまだ作成されていないため、コンテンツが AI で生成されたかどうかを判断する標準的な方法が公開されるまでには、しばらく時間がかかるでしょう。

参照：採用キット：Promptエンジニア（TechRepublic Premium）

AIに対する政府の規制は悪意のある行為者を抑止する可能性がある

元Microsoft Azureグローバルバイスプレジデントで、現在はCogniteの最高製品責任者を務めるモー・タナビア氏は、生成AIに対する政府による規制を支持しています。彼はTechRepublicとのインタビューの中で、現在の生成AIの時代をソーシャルメディアの台頭と比較し、ケンブリッジ・アナリティカのデータプライバシースキャンダルや2016年の選挙におけるその他の誤情報といった潜在的な悪影響についても言及しました。

「悪意のある者が（生成AIを）悪用し、悪用する機会は数多くあり、実際にそうしています。ですから、政府は何らかの透かし、つまり信頼の基盤となる要素を実装し、定義する必要があると思います」とタナビアン氏は述べた。

「例えば、悪意のある人物がAI生成の音声を使って不正な音声メッセージを残しているかどうかを携帯電話が検出できるはずだ」と彼は述べた。

「技術的に、私たちは不利な立場にはありません。AI生成コンテンツを検出する方法はわかっています」とタナビアン氏は述べた。「業界に義務付け、AI生成コンテンツを認証できる信頼の基盤を確立するための規制を整備することが鍵です。」

こちらもご覧ください

• GPT-4 チートシート: GPT-4 とは何ですか? 何ができますか?
• ジェネレーティブAIがクラウドセキュリティにもたらすゲームチェンジャー
• マイクロソフト初のGenerative AI認定資格が無料で利用可能に
• 人工知能：さらに読むべき記事