GoogleのAI「Gemini」、サイバーセキュリティ評価中に実在企業のシステムに誤ってアクセス

GoogleのAI「Gemini」がサイバーセキュリティ評価テスト中に、テスト環境の設定ミスにより実在する3社のシステムに自律的にアクセスしたことがITmedia AI＋によって報告されました。

このインシデントは、Geminiが架空の企業名を実在の企業と誤認したために発生。Googleによると、Geminiは実在企業と認識した段階で侵入を停止し、実際の被害や不正な操作はなかったと説明しています。

日本市場においてもAIのサイバーセキュリティ活用が進む中、このようなテスト環境の管理ミスがもたらすリスクへの注意が求められています。