スキルアップ

AIエージェントのセキュリティ技術を学ぶハンズオントレーニングが提供開始

三井物産セキュアディレクションとChillStackは、大規模言語モデル（LLM）を基盤とするAIエージェントシステムを安全に設計、開発、運用するためのハンズオントレーニング「《実践》AIエージェントセキュリティハンズオン」の提供を開始しました。

近年、LLMの利用はチャットボットだけでなく、自律的に動くAIエージェントや複数のAIエージェントが連携するマルチAIエージェントシステムへと広がっています。これにより、これまで難しかった複雑な処理が自動でできるようになりました。

しかし、この新しい技術には、プロンプトインジェクション、メモリ汚染、外部ツールの悪用、悪意のあるAIエージェントの混入といった、AIエージェント特有の新たなセキュリティ上の問題も生まれています。これらの問題は、従来のセキュリティ技術だけでは対応が難しい場合が多く、新しい対策が求められています。

AIエージェントセキュリティハンズオン

「《実践》AIエージェントセキュリティハンズオン」の特長

このトレーニングは、AIエージェントシステムのセキュリティと運用を総合的に学べるよう、以下の3つのパートで構成されています。

Part1. AIエージェントセキュリティ入門

AIエージェントとマルチAIエージェントがどのように動くのか、どのような活用例があるのかを基礎から学びます。また、実際の事件や攻撃の例を交えながら、運用上およびセキュリティ上のリスクを多角的に理解します。

Part2. セキュリティ実践ハンズオン

AIエージェントシステムへの攻撃とその対策を実践的に学びます。トレーニング専用の環境を使い、OWASP Agentic AIで紹介されている脅威を確認します。これにより、攻撃者と防御者の両方の視点から脅威の仕組みを深く理解し、実際に攻撃を試してその動きを分析し、対策を学びます。主な脅威は以下の通りです。

  • AIエージェントにおける直接・間接プロンプトインジェクション

  • メモリ汚染（長期・短期記憶の書き換えによるAIエージェントの動作操作など）

  • 外部ツールの悪用（悪意あるMCPサーバーを利用した攻撃など）

  • 悪意あるAIエージェントの混入（A2Aを介した攻撃など）

Part3. 運用・ガバナンス実践ハンズオン

AIエージェントシステムを安全に運用するために必要な「可視化」「追跡」「制御」の3つの観点から、運用リスクとその管理方法を実践的に学びます。AIエージェント同士の連携や外部ツールとの連携をシステム全体で可視化し、複雑な依存関係やデータの流れを明確にします。また、AIエージェントの意思決定やツールの実行過程を詳しく追跡することで、予期せぬ動作や異常を早く見つけられるようになります。さらに、AIエージェントの動作制御（ポリシー違反の検知）、メモリ汚染の検知、悪意あるMCPサーバーの検知といった実践的な対策方法を学びます。これにより、異常な行動を早期に防ぎ、安全にタスクを実行する方法を身につけることができます。

トレーニング要項

  • 形式: ハンズオン（オンライン）

  • 期間: 2日間 / 10:00～18:00

  • 定員: 12名（最低開講人数：5名）

  • 価格: 600,000円（税別）/1名

※トレーニング要項は変更となる場合があります。

その他トレーニングについて

三井物産セキュアディレクションとChillStackは、これまでにも画像識別AIやLLMアプリケーションなどを題材としたトレーニングを提供しています。ご興味のある方は、以下のリンクをご覧ください。

その他のトレーニングについて

会社概要

三井物産セキュアディレクション株式会社

2001年にサイバーセキュリティの専門会社として設立されました。ペネトレーションテストや脆弱性診断、マルウェア解析、統合ログ監視などの高度なセキュリティ技術サービス、コンサルティングサービス、そしてAIセキュリティに関するサービスを提供しており、多くの高度セキュリティ技術者が在籍しています。詳細は、ウェブサイトをご覧ください。

三井物産セキュアディレクション株式会社 ウェブサイト

株式会社ChillStack

AIやDXの発展に伴うリスクを総合的に解決するため、世界トップレベルのAIセキュリティ技術によるソリューションを提供しています。企業向けには、不正・異常分析や安全なAI活用を支援するサービスを展開しています。官公庁とも協力し、複雑で高度な社会課題の解決に向けた研究開発や社会実装も進めています。

提供サービスの一部:

本件に関するお問い合わせ先

  • 三井物産セキュアディレクション株式会社: ai-sec@mbsd.jp

  • 株式会社ChillStack: pr@chillstack.com

Related Posts

You May Have Missed

×