今週（編集部註： 1 月 19 日週）行われた世界経済フォーラム（WEF）の年次総会 ダボス会議で AI エージェントが話題として登場し、サイバー脅威に関するパネルディスカッションでは、AI エージェントをどのようにセキュアに保ち、それらが究極の内部脅威となることを防ぐかという問題が中心的な議題となった。
「人間にサイバー攻撃を防ぐための効果的な訓練をするだけでも十分困難なのに、今度は人間と AI エージェントの組み合わせに対してそれをしなければならない」と、Pearson 社の最高技術責任者（CTO）デイブ・トリート氏は述べた。
Pearson は世界的な教育・研修企業であり、トリート氏はパネリストとしてではなく、聴衆の一人として質疑応答セッションでも発言していた。多くの企業と同様に、Pearson も自社の環境に AI エージェントを導入しているとトリート氏は語った。
AI エージェントの企業環境への導入は、その効率性向上を見逃したくない組織にとって、まったく新しい課題を生み出している。すなわち企業は AI エージェントの恩恵を受けたいが、同時にこれらのエージェントがアクセスすべきでないデータやシステムにアクセスしたり、ビジネスや個人に害を及ぼす可能性のあるタスクを実行したりすることは避けたいのだ。
Pearson 社 CTO トリート氏は、AI エージェントについて「彼らは人を喜ばせようとする傾向がある。人間が騙されるのと同じ策略や戦術に騙されないよう、どのようにして容易には騙されないような疑ぐり深いエージェントを作成して、調整すればよいのか？」と問いかけた。
この質問に対する冴えた解答は誰も持っていない ーー 少なくともまだ今は。プロンプトインジェクションのような、AI とエージェントに関連する他のセキュリティ脅威についても、これは依然として課題のままだ。
