AcompanyとNEC、生成AI「cotomi」を機密計算環境で動かす技術実証に成功

AcompanyとNEC、生成AI「cotomi」を機密計算環境で動かす技術実証に成功

株式会社Acompany(以下、Acompany)は、日本電気株式会社(以下、NEC)が開発する生成AI「cotomi」を、データを秘密に守りながら計算する「Confidential Computing(コンフィデンシャル・コンピューティング、以下CC)」を有効にした環境で動かす技術実証に成功しました。この実証では、CC機能を使った場合と使わない場合で、AIの性能(速さ)がどのくらい変わるかを測りました。

Acompany NECの生成AI「cotomi」を Confidential Computing環境で 動作させる技術実証に成功

Confidential Computing(CC)とは

CCとは、コンピューターの頭脳であるCPUや、画像を処理するGPUの特別な場所(TEE:信頼された実行環境)を使って、データや計算内容を他の人に見られないように守る技術です。オペレーティングシステム(OS)や、コンピューターを管理する人、クラウドサービスを提供している会社からも、データや処理の内容が見えないように暗号化して保護します。

技術実証の背景

NECの「cotomi」は、日本語の処理能力が高く、金融や製造、公共サービスといった、特に専門性が高く、かつ機密情報を多く扱う分野で役立っています。

これらの分野のお客様からは、「AIに指示する文章(プロンプト)や、会社の秘密のファイルをクラウドサービスの提供者にも見られたくない」「自分たちで調整したAIモデルを安全に使いたい」という強い要望がありました。そこで、CCと組み合わせて、AIを安全に使えるかどうかを確かめることが急務となっていました。

世界では、Appleが「Apple Intelligence」でCCを使ってプロンプトを保護する取り組みを進めています。また、Googleも「Google Distributed Cloud(GDC)」で、AIモデル自体を不正なアクセスや改ざんから守るなど、AIの処理とCCを組み合わせる動きが広がっています。

しかし、CCを使うことでAIの性能が落ちるのではないかという心配も根強くありました。そのため、実際に使われているAIモデルで、どれくらい性能が変わるかを具体的に調べる必要がありました。そこでAcompanyとNECは協力し、「cotomi」を使ってCC環境での動作確認と性能評価を行うことにしました。

実証の概要と結果

この実証では、AcompanyがCC技術と、その上でAIが動く環境を提供・検証し、NECが生成AIモデル「cotomi」を提供しました。

具体的には、CPUとGPUの両方でCC機能を有効にした仮想コンピューター(CVM)上で「cotomi」を動かし、CC機能を使わない場合と比べて、AIが答えを出す速さ(スループット・レイテンシ)を測りました。

その結果、CC機能を有効にしても「cotomi」が問題なく動くことを確認しました。また、CC機能の有無による速さへの影響は、最大でも約10%程度の速度低下にとどまることが分かりました。この結果は、NVIDIAが公表しているデータとも一致しており、特に異常な性能低下は見られませんでした。

本実証の意義と今後の展望

今回の結果は、生成AIを使う上でCCによる性能への影響が、実際に使う上で十分に問題ない範囲であることを、実際のAIモデルで具体的に示したものです。

これにより、医療、金融、製造業といった、普段から秘密のデータを扱う業務で生成AIを活用できるようになります。また、企業が独自に調整したAIモデルや、商用のAIモデルの著作権などを守ることにも役立ちます。さらに、AIモデルをお客様の会社内のコンピューター環境に安全に提供するといった使い方もできるようになるでしょう。

これまでセキュリティ上の理由で生成AIの導入が難しかった分野でも、CCを使うことで、安心してAIを活用することが現実的な選択肢となります。

また、日本語の能力が高い国産AI「cotomi」をCC環境で使うことは、データの処理や保管を日本国内に限定したまま、高度なAI活用を進めるという点で、日本の経済安全保障の観点からも非常に重要です。

Acompanyは、今回の成果を「秘密を守れるAI」の実現に向けた大切な一歩と考えています。NECをはじめとするパートナー企業と協力しながら、AIへの指示、データ、AIモデルのすべてを保護できる安全なAI活用基盤を社会に広げていく活動を続けていくとのことです。

関係者のコメント

日本電気株式会社 AIプラットフォームサービス統括部長 吉川 彰一氏

「NECは、公共、金融、製造といった、特に厳しいルールが求められる分野でのAI活用(AX)を進めています。今回、Acompany様との取り組みで、Confidential Computing環境でも実用できる性能が確認できたことは、これらの分野のお客様のAXを後押しする成果です。今後もNECは、国産AIの強みも活かしながら、安全性と便利さを両立するAI基盤の実現に取り組んでまいります。」

株式会社Acompany 取締役 CRDO 近藤 岳晴氏

「生成AIをConfidential Computing上で動かすと『どのくらい、速さや正確さに影響が出るのか』は、これまで現場で最も多くいただいてきた質問の一つでした。今回、NEC様の『cotomi』という実際のモデルを使い、CPU・GPU双方のCC機能を有効にした状態でも性能への影響が最大約10%程度にとどまることを具体的に示せたことは、大きな進歩だと考えています。この性能であれば、機密データや大切に育てたモデルを守りながら生成AIを使うという選択が十分に現実的になります。Acompanyが目指す『秘密を守れるAI』の実現に向け、引き続きパートナーの皆さまと安全なAI活用基盤づくりを進めてまいります。」

Acompanyについて

  • 社名:株式会社Acompany

  • 代表者:代表取締役CEO 高橋亮祐

  • 所在地:愛知県名古屋市中区栄二丁目1番1号 日土地名古屋ビル7階

  • 設立:2018年6月

  • URL:https://www.acompany.tech/

  • 事業内容:秘密計算に関する製品・技術と、機密データ活用に関するコンサルティングサービスの提供

本件に関するお問い合わせ

本件に関するご質問、ご相談などはお気軽に下記からお問い合わせください。
https://www.acompany.tech/contact/

×