CoWorkerが「LLM診断サービス」を開始、生成AI活用のセキュリティリスクに対応

CoWorker株式会社は、生成AIや大規模言語モデル（LLM）の利用に特化した「LLM診断サービス」の提供を開始しました。このサービスは、企業のDXサービスに組み込まれたAIや社内でのAI活用を対象とし、LLM統合アプリケーションに特有のセキュリティリスクを詳しく評価します。従来の脆弱性診断が主にWebアプリケーションやインフラ全体を見ていたのに対し、この新サービスは「生成AIの安全な活用」に焦点を当てています。

「LLM診断サービス」の詳細はこちら: https://www.coworker.co.jp/ai-llm-diagnosis

サービス提供の背景：生成AI活用の拡大と新たなリスク

ChatGPTやGeminiといった大規模言語モデル（LLM）の普及により、チャットボットやAIアシスタントが企業のDXサービスや日々の業務に急速に取り入れられています。しかし、この急速な活用は、プロンプトインジェクション（AIへの不正な指示）や情報漏えい、出力の悪用といったLLM特有のセキュリティ上の弱点も明らかにしています。これらの問題は、従来の脆弱性診断では見つけにくいことがあります。

CoWorker株式会社は、このような状況に対応するため、OWASPが定めている「LLM Top 10リスク」に基づいた新しい診断サービスを開発しました。

OWASP LLM Top 10リスクとは、Open Worldwide Application Security Project (OWASP) が、大規模言語モデル（LLM）を使ったアプリケーションに特に注意すべきセキュリティ上の脅威やリスクを10項目にまとめたリストです。生成AIやAIアプリケーションを開発・導入する際に、セキュリティ担当者や開発者が直面する新しい弱点に対応するため、2023年に作られました。

OWASP Gen AI Security Project

診断アプローチ：LLM特有のリスクを多角的に評価

LLM診断サービスでは、以下の3つの方法を組み合わせて、生成AIを使ったシステム全体の安全性を評価します。

ペンテスト診断: 実際に使われている環境に近い条件で、チャットボットやAIエージェントへの攻撃を試みます。これにより、プロンプトインジェクション、権限の不正な昇格、認証や承認の不備などを確認します。
MCPサーバ診断: LLMエージェントが利用するツール連携やAPI呼び出しの部分を検査し、認証や承認、入力の確認、機密情報の管理が適切かを確認します。
ソースコード診断: LLMが組み込まれている部分のコードやAPIの仕様書を静的に分析し、入力の検証やプロンプトの作り方が安全か評価します。

主な特長：生成AI安全活用のための専用診断

LLM診断サービスは、CoWorkerが独自開発したAI「Red Agent」と経験豊富なエンジニアによるハイブリッド診断を組み合わせることで、速度、精度、コストのバランスの取れたサービスを提供します。主な特長は以下の通りです。

スピード: AIエージェントが診断作業を自動化することで、通常数日かかるLLMの安全性検証を数時間に短縮します。
高精度: 「Red Agent」は脆弱性診断のテストで89.1％の検知率を達成しており、多くの脆弱性情報やWeb攻撃のシナリオを基にした多様なテストパターンをAIが分析します。さらに専門家が結果を確認することで、高い精度の診断結果を提供します。
低コスト: AIが繰り返しの作業を担当するため、従来の診断に比べて費用を大幅に抑えることができます。
実務に即した報告: 診断結果には、リスクのレベル、影響する範囲、再現方法、攻撃のシナリオ、改善策の提案が含まれ、生成AI導入プロジェクトの運用に役立つ具体的なアドバイスが提供されます。

「LLM診断サービス」提供の流れ

ヒアリング: 問い合わせ後、オンライン会議で診断対象の概要や要望を確認し、最適な診断プランを提案します。
診断実施: 提供されたソースコードやAPIエンドポイント情報に基づき、「Red Agent」を活用して診断を実施し、その結果を専門家が評価します。必要に応じて、内部情報なしでテストする「ブラックボックス形式」のテストも併用します。
人間によるレビュー: 経験豊かなセキュリティエンジニアがAIの結果を詳しく調べ、リスク評価、優先順位付け、改善策を含むレポートを作成します。
報告書納品: 診断開始から最短3営業日で、報告書をPDF形式で納品します。特に重要な問題が見つかった場合は、すぐに連絡します。
改善サポート: 脆弱性の修正に必要な技術的なアドバイスや再診断サービスを提供します。

こんな企業におすすめ

以下のような企業やニーズに適しています。

生成AIを活用したDXサービスや製品を開発・提供している企業
社内でチャットボットやAIアシスタントを利用している開発部門やビジネス部門
外部のLLM APIを使う際に、プロンプトインジェクションやデータ漏えいのリスクを減らしたい組織
生成AIを導入する初期段階で、セキュリティの条件を確認したいプロジェクト

詳細を見る: https://www.coworker.co.jp/ai-llm-diagnosis

専門チームのご紹介

CoWorkerの脆弱性診断サービスは、AIによる自動診断に加え、セキュリティに詳しい専門家チームによるレビューと支援が大きな特徴です。CoWorkerでは、以下のようなプロフェッショナルが協力し、お客様のシステムを守ります。

AI研究者・開発者: AIアルゴリズムや大規模言語モデルの研究開発を担当し、脆弱性診断の精度向上と高速化を実現します。AI、セキュリティ、研究開発の3分野を統合的に捉え、研究開発段階から社会での活用まで一貫した取り組みを行います。
ペネトレーションテスト専門家: 実際の攻撃方法に精通したレッドチームの経験者がAIの診断結果を検証し、リスクの高い脆弱性を見つけ出します。攻撃者の視点から診断を補うことで、AIエージェントだけでは見つけにくい複雑な問題にも対応します。
インダストリー出身のエンジニア: 保険、教育、医療、自動車、インフラなど、さまざまな産業での経験を持つエンジニアがプロジェクトに参加しています。業界特有のセキュリティ要件を理解した上で、実用的な改善策を提案します。
伴走型プロジェクトマネージャー: セキュリティ対策だけでなく、お客様のビジネス目標や開発工程を理解したプロジェクトマネージャーが全体をまとめます。CoWorkerは、専門性と対話を大切にしながら、経営、製品、技術を共に作り上げることを目指しています。

代表コメント

CoWorker株式会社代表取締役山里一輝氏は次のように述べています。

「生成AIの普及により、企業のDXサービスや社内業務にLLMが急速に組み込まれています。しかし、AIを活用したサービスには、従来のWebアプリケーションの脆弱性に加えて、プロンプトインジェクションや機密情報漏えいといった『AI固有のリスク』が存在します。これらは従来のセキュリティ対策や脆弱性診断だけでは十分に見つけられません。

CoWorkerはAI企業として、AIの内部構造や動きを理解した上で診断を行うことが重要だと考えています。今回提供を開始するLLM診断サービスでは、OWASP LLM Top 10に基づいた評価と、独自開発AI『Red Agent』による自動診断、さらに専門家のレビューを組み合わせることで、生成AIアプリケーションの安全性を多角的に検証します。

私たちはSecurity × AIの理念のもと、AIを活用する社会だからこそ『AIで守るセキュリティ』が必要だと考えています。本サービスを通じて、企業が安心して生成AIを活用できる環境を整え、社会全体の安全を次の段階へ引き上げていきます。」