GPU不要！ノートPCでWikipedia300万件を高速検索できるAI「CompreSeed AI」が登場

株式会社アイテック（愛知県）が、GPUをまったく使わない一般的なノートPCで、Wikipediaの300万件もの情報を0.2〜0.8秒という速さで検索・推論できる新しい技術「圧縮検索推論AI」（CompreSeed AI）を公開しました。

この技術は、データを圧縮した状態のまま検索や推論を行う、これまでになかったAIの仕組みです。詳しい技術内容を説明したホワイトペーパーも同時に公開されており、誰でもその技術を試すことができるようになっています。

従来のAIが抱えていた課題

これまでのAIの多くは、GPUという特別な計算装置を使ってたくさんの情報を処理する必要がありました。そのため、次のような問題が起きていました。

• GPUを用意するための費用が高い

• 大量の情報を展開するために多くのメモリが必要になる

• 中小企業や地方自治体では導入が難しい

今回公開されたCompreSeed AIは、これらの問題を根本から解決する新しい「圧縮推論方式」のAIです。

データを圧縮したまま推論できるAIの仕組み

CompreSeed AIには、次のような特徴があります。

• データを圧縮したまま検索や推論ができる

• 情報を展開する必要がない

• CPUだけで、とても大きな知識を検索できる

• 質問に対する応答が0.2〜0.8秒と速い

CompreSeed AIは、意味的な圧縮構造（semantic_index）を使うことで、データを展開せずに直接意味を検索し、推論します。これにより、AIの計算にかかる費用をこれまでの50分の1から70分の1にまで減らすことができるとされています。

ノートPCでの実証実験

実際に、一般的なNEC製ノートPC（GPUなし、RAM8〜16GB、Windows 11）を使って検証が行われました。Wikipediaの300万件の知識データ（圧縮後は1.8GB）を使い、PythonとFlask UIの環境で実行したところ、次のような結果が出ました。

• 応答速度：0.2〜0.8秒

• メモリ使用量：2〜3GB

• 長時間使っても安定して動く

高速で軽い3層の仕組み

CompreSeed AIは、3つの層からなる仕組みで、高速かつ軽い動作を実現しています。

1. 圧縮知識層：文書を意味のまとまりごとに圧縮し、「semantic_index.json」というファイルに保存します。
2. 検索・推論層：GPUなしで、情報同士の意味の似ている度合いを推定します。
3. 応答生成層：圧縮された要約をまとめて、自然な文章で回答を作り出します。（ChatGPTのような外部のAIと連携することも可能です。）

従来の技術との比較

従来のベクトル検索（FAISSなど）とCompreSeed AIを比較すると、CompreSeed AIの大きな利点が分かります。

CompreSeed AIの一番の特徴は、GPUが不要である点です。

さまざまな分野での活用

CompreSeed AIは、すぐにでもさまざまな場所で役立てることができます。

• 自治体での問い合わせ対応AI

• 教育現場での学習参考書のようなAI

• 医療現場での症例知識の検索

• 法律関係での条文や判例の検索

• 企業内の知識をまとめる

• インターネットに接続できない場所でのAIシステム

外部に情報が出せない場所でも、自分たちだけで使える大規模なAIシステムを実現できます。

技術の詳細を公開（ホワイトペーパー）

今回、CompreSeed AIの詳しい技術内容や、その技術を再現するための手順をまとめた15ページのホワイトペーパーが公開されました。このホワイトペーパーには、圧縮推論のアルゴリズムや、似ている度合いを計算するモデル、再現手順などが含まれています。

開発者は「AIをもっと軽く、もっと使いやすい技術にしたいと考え、GPUを使わずに大規模な推論ができる新しいAIの仕組みを作りました。このホワイトペーパーを公開することで、研究者や企業の皆様に自由に検証していただきたいです」と述べています。

今後の予定

株式会社アイテックは、この技術についてすでに国内で特許を出願しており、海外への出願も準備中です。また、企業や自治体向けのPoC（概念実証）を開始し、API版のCompreSeedの公開も準備を進めています。

会社概要

株式会社アイテックは、愛知県に拠点を置き、次世代AIの研究・開発を行っています。

本件に関するお問い合わせは、メール（info@xinse.jp）で可能です。