AI開発企業Perplexityは、AIエージェントの危険な挙動を検知・防止するためのツールセット「Numbat」をオープンソースとして公開しました。対象となるAIには、Claude CodeやCodexなどが含まれています。

このツールセットは、AIが意図しない暴走行動を起こすのを防ぐことを目的としており、より安全なAI運用を支援するとされています。ITmedia AI＋によると、NumbatはこれらのAIエージェントの監視と制御に役立つと報じられています。

日本市場においても、AI技術の進展とともに安全性への関心が高まっており、こうした監視ツールの導入が今後のAI活用において重要な役割を果たす可能性があります。