OpenAIは7月に、AIエージェントを活用した研究の急速な進展とともに、安全性に関する新たな課題を明らかにしました。ITmedia AI+によると、同社は7月の出来事を受けてトレーニングの一時停止を実施し、Chain-of-Thought(CoT)監視の効果低下も報告しています。
これらの問題を踏まえ、OpenAIは自主的な開発ペースの抑制と国際的な規制枠組みの構築を提案しています。チーフサイエンティストもこれらの安全性課題に対応する重要性を強調しました。
日本市場においても、AI技術の急速な進化は金融やテクノロジー分野での影響が大きく、規制動向に注目が集まっています。