Rubrik の Agent Rewind で AI エージェントのミスを修正

AIエージェントはビジネスワークフローに浸透しつつあります。しかし、絶対確実というわけではありません。こうした自律システムが誤った行動をとると、瞬く間に被害が拡大し、回復は困難になる可能性があります。

データセキュリティ企業ルーブリックは、この問題への解決策を開発したと主張している。同社は、AIエージェントが意図した経路から逸脱した際にそれを検知し、永続的な被害が発生する前に行動をロールバックする新ツール「Agent Rewind」を発表した。このシステムは、ルーブリックが最近買収した微調整技術プロバイダーPredibaseのAIインフラストラクチャを基盤としている。

「非人的エラー」の問題

Rubrikの最高製品責任者であるアネカ・グプタ氏は、Computerworld誌に次のように語っています。「組織がAIに投資する際には、AIエージェントが犯す可能性のあるミスを見落としがちです。Agentic AIは『非人的エラー』という概念を導入し、ビジネスのダウンタイムにつながる可能性のある深刻なエラーに対処できるソリューションを組織が導入する必要性を強調しています。」

最近の研究では、AIエージェントが混乱したり、誤った近道をとったり、複数ステップのタスクを失敗したりする可能性があることが明らかになっています。実際には、これがワークフローの中断、データの誤った変更、さらには本番環境のデータベースの削除につながっています。

エージェントリワインドとは何ですか?

Agent Rewindは、AIの行動を可視化、監査、そして元に戻せるように構築されています。あらゆるアクションを記録し、元のプロンプトやプランにリンクさせ、有害な変更を元に戻すための明確な道筋を提供します。Rubrikによると、Agent Rewindは以下の機能を提供します。

• コンテキストが強化された可視性:エージェントの行動と使用されたツールをマッピングし、各アクションをその原因に結び付けます。
• 監査証跡:エージェントのアクティビティを追跡して、リスクの高いアクションを特定します。
• 安全なロールバック: Rubrik Security Cloud を使用して、ファイル、データベース、構成、またはリポジトリをクリーンな状態に復元します。

このツールは、Salesforce の Agentforce、Microsoft Copilot Studio、Amazon Bedrock Agents などの一般的な AI エージェント プラットフォームや、カスタム構築されたシステムと統合されます。

AIには手錠ではなくガードレールが必要だ

ルーブリックは、エージェント・リワインドは従来のサイバーレジリエンスから同社がAIレジリエンスと呼ぶものへの移行を表しており、制御を人間が維持しながらAIエージェントに高速作業の自由を与えると述べた。

「答えはAIエージェントをロックダウンすることではありません」とグプタ氏はルーブリックのブログ記事に記している。「制御権を放棄することなく、AIエージェントが高速に動作できるガードレールを構築することです。」

すでにいくつかの企業がこのツールに期待を寄せています。「真の可観測性と修復を求める市場において、Agent Rewindはまさに私が待ち望んでいた答えです」と、BioIVTのCISOであるChad Pallett氏はComputerworld誌に語っています。

エージェント リワインドはいつ利用可能になりますか?

Rubrikは、今後数か月以内にAgent Rewindの一般提供を開始する予定です。企業はRubrikのウェブサイトで早期アクセスにご登録いただけます。

AI エージェントが内部者のセキュリティ脅威の盲点を生み出していることを発見した調査に関する当社の記事を読んでください。