DX

Athena Technologies、機密データを守る「完全オンプレミスLLM」構築支援を開始 – NVIDIA「DGX Spark」活用で最短2週間導入

松尾研発スタートアップの株式会社Athena Technologiesは、機密データを安全に扱うための「完全オンプレミスLLM構築アドバイザリーサービス」の提供を始めました。

オンプレミスLLMで機密データを守る

このサービスでは、NVIDIAの最新パーソナルAIスーパーコンピューター「DGX Spark」を自社で導入・運用した経験を活かし、企業がオンプレミスAI基盤をスムーズに導入できるよう、ハードウェアの選定から環境の構築、そしてLLM（大規模言語モデル）の導入までを支援します。

サービス提供の背景

近年、企業の重要なデータをクラウドに出さずにAIを使いたいというニーズが高まっています。これは「オンプレミスLLM」と呼ばれ、特に機密性の高い情報を扱う企業にとって重要です。NVIDIAの「DGX Spark」のような高性能なAIスパコンが登場したことで、ハードウェアの導入は以前より簡単になりました。

しかし、実際にオンプレミス環境でLLMを動かすには、高度な専門知識が必要で、次のような課題がありました。

  • 構築の難しさ: オンプレミス環境でのLLM構築には、専門知識を持つエンジニアがいないと難しい。

  • 人材不足: AIインフラを扱えるエンジニアが社内にいない、または外部に依頼できる専門家が見つからない。

  • 運用の課題: 実際に業務でAIを使うための調整（RAGなど）が難しい。

これらの課題を解決するため、Athena Technologiesは、自社の「DGX Spark」運用実績と松尾研で培った技術力を結集し、企業の代わりにセキュアなAI環境を構築する専門サービスを開始しました。

サービスの特徴

Athena Technologiesのサービスは、単なるアドバイスに留まらず、実際の環境構築から運用が定着するまでをサポートします。

  • NVIDIA「DGX Spark」の知識を提供: 「DGX Spark」を導入済みの経験から、その性能を最大限に引き出す設定やトラブル解決のノウハウを企業に提供します。

  • インターネットから切り離された環境を実現: インターネットに接続しないローカルネットワーク内でLLMが動作する環境を作るため、社内の極秘データが外部に漏れる心配なく、AIを活用できます。

  • 業務に合わせたAIに調整: 膨大な社内規定を検索するRAGシステムや、特定の専門用語を学習させたAIモデルの調整など、現場で役立つAIにカスタマイズして提供します。

想定される活用例

「DGX Spark」とAthena Technologiesの構築支援を組み合わせることで、これまでクラウド利用が難しかった分野でもAIを活用できるようになります。

オンプレミスLLMの想定活用事例

  • 電力・インフラ: 発電や送電に関する重要なデータをクラウドに出さず、施設内で安全に分析できます。例えば、保守マニュアルをAIで検索してトラブル対応を早めたり、設備データから故障の予兆を見つけたりすることが可能になります。

  • 金融・保険: 顧客の資産データや契約書を外部に出さず、社内ネットワークだけで動く「稟議書作成・リスク審査支援AI」を構築できます。

  • 防衛・公共: 機密性の高い情報である作戦記録や監視データを、インターネットから完全に切り離された環境で安全に分析・シミュレーションできます。

  • 医療・創薬: 患者の個人情報や創薬データを社内で高速に処理し、研究開発にかかる時間を短縮できます。

  • 製造業（工場）: 通信が不安定な工場内でも、AIによる不良品の検知や故障の予兆保全などをオンプレミスで完結できます。

サービス提供の流れ

このサービスは、最短2週間で、課題の整理から実際の環境構築までを進めます。

  1. 課題の整理と計画: 業務の流れを分析し、「DGX Spark」を使った場合の費用と効果を計算します。
  2. 設計: ハードウェアの構成や、RAG・MLOpsなどの技術的な要件を決めます。
  3. 検証と環境構築: 「DGX Spark」の実機を使ってテストを行い、実際に使う環境を整えます。
  4. 社内での利用支援: 社内のエンジニアへの技術移転や、AIを安全に使うためのルール作りをサポートします。

代表取締役CEO 阿部 武氏のコメント

代表取締役CEOの阿部 武氏は、「『DGX Sparkのような素晴らしいハードウェアを導入したいが、使いこなせる人がいない』という悩みを多く聞いてきました。AIを社会で広く使うためには、『人』と『技術のつなぎこみ』がとても重要です。当社は松尾研発スタートアップとして、自らDGX Sparkを導入し、その経験をお客様に提供することで、特にセキュリティが厳しく求められる業界のDXを、技術面から強力に支援してまいります」と述べています。

会社概要と問い合わせ先

  • 社名: 株式会社Athena Technologies

  • 設立: 2023年12月

  • 代表取締役: 阿部 武

  • 所在地: 東京都文京区本郷6丁目25番14号 HONGOEGG (東京オフィス)、大阪府大阪市都島区東野田町4丁目15番82号 NTT WEST i-CAMPUS QUINTBRIDGE 3F (大阪オフィス)、京都府京都市左京区田中門前町 百万遍ビル3F（京都オフィス）

  • URL: https://athenatech.jp/

本件に関するお問い合わせは、株式会社Athena Technologies 広報担当までご連絡ください。

Related Posts

You May Have Missed

×