BIG DATA『KEYLM』インテリジェント秘書ソリューション、NVIDIAのハードウェア・ソフトウェア統合アーキテクチャを採用

台湾のデータテクノロジーを牽引するリーディングブランド、BIG DATA（大數據股份有限公司）、政府機関の意思決定支援や国会・議会答弁準備といった用途に照準を定めた新ソリューション『KEYLM』インテリジェント秘書ソリューションの提供開始を発表しました。本ソリューションは、同社が10年以上にわたり蓄積してきた65億件を超える中国語コーパスを学習させた独自のドメイン特化型言語モデル「BIG10」とAIエージェントプラットフォームを組み合わせ、NVIDIA DGX Sparkをオンプレミスの計算基盤として採用しています。さらに、NVIDIA NeMo FrameworkやNVIDIA NeMo Agent ToolkitといったNVIDIAのソフトウェア技術を組み合わせることで、１台で完結するオンプレミス導入を実現しました。モデルのファインチューニングとエージェントのガバナンス能力を強化し、回答の追跡可能性とプロセスの監査を担保しながら、全体のパフォーマンスを同時に向上させています。

BIG DATA最高執行責任者（COO）兼スポークスパーソンの蔣 志薇は、「世界的にソブリンAI市場が急速に拡大するなか、公共部門ではデータのローカル保持とセキュリティガバナンスへの需要が高まり続けるなか、『KEYLM』はNVIDIAのハードウェア・ソフトウェア統合アーキテクチャを採用することで、繁体字中国語が国際的なAI学習データの中で長らく手薄であった領域を補うと同時に、政府機関が台湾のローカルな文脈を真に理解するAIモデルを活用し、知識の分散、人手による情報整理の負担、データをクラウドに上げられないという三つの課題を解決できるよう支援します」とコメントしました。

市場調査会社Fortune Business Insightsの予測によると、世界のソブリンクラウド市場規模は2026年の1,953億5,000万米ドルから2034年には1兆3,185億7,000万米ドルまで拡大し、年平均成長率（CAGR）は27%に達すると予測しています。同社は、政府や公共部門がデータのローカル保持とセキュリティガバナンスを重視していることが、この市場成長の主要な原動力の一つだと指摘しています。これは、オンプレミス導入やデータを域外に出さない運用が、もはや一部の政府に限られた特殊なニーズではなく、世界の公共部門が共通して直面するAI導入の課題になりつつあるということです。

台湾の政府機関では、各部門の知識が公文書・会議録・報告書・答弁資料の間に分散し、急な答弁準備や政策説明のたびに膨大な人員を投入した調査を強いられてきました。加えて、人手による情報整理は品質にばらつきがあり、そのスピードにも限界があります。とりわけ重要なのは、政府の機密データを外部やクラウドに送信することができず、あくまでオンプレミスで運用し、データを組織の外に出さないこと、そして回答の出所を追跡でき、プロセスを監査できることが求められる点です。台湾のローカルな文脈を真に理解するAIモデルが必要とされる背景には、繁体字中国語が世界のAI学習データの中で長らく手薄に扱われてきたという現実があります。代表的なオープンな多言語大規模言語モデルであるBLOOMを例に取ると、学習コーパスに占める英語の割合は3割を超え、簡体字中国語も約16%を占める一方、繁体字中国語に関するコーパスは独立した項目として集計すらされてきませんでした。国際的な主流AI学習データにおいて繁体字中国語への関心が長年不足していた実態を映し出しています。

BIG DATAが10年以上にわたり蓄積してきた65億件を超える中国語コーパスを厳選し、ファインチューニングを重ねて開発したのが「BIG10」であり、まさにこのギャップを埋めるために構築された領域特化型言語モデルです。インテリジェント秘書ソリューションは、こうしたセキュリティ要件を満たしたうえで、機関内部の文書、業務データ、外部の世論情報を統合し、即時応答、即時レポート作成、世論分析、ナレッジガバナンスという四つの機能を提供します。これにより、政府における知識活用を、人手による検索からAIによる即時応答型の意思決定支援へと引き上げます。

『KEYLM』は、プラットフォーム、モデル、ハードウェアの三層からなるハードウェア・ソフトウェア統合ソリューションです。プラットフォーム層にあたる「KEYLM Agent Platform」は、企業や政府内部のAIデータ中台（データ統合基盤）として機能し、四層構造のシステムアーキテクチャ、ナレッジベース管理、出所を追跡できるRAG型の質疑応答、エージェントワークフロー、長期記憶、そして権限ガバナンスや利用量管理といった機能を備えています。エージェントのガバナンスにはNVIDIA NeMo Agent Toolkitを採用し、AIエージェントのワークフローの構築、運用、最適化をに活用。パフォーマンス分析、可観測性、評価機能を提供することで、エージェントの挙動を追跡、評価、監査できるようにするとともに、ワークフロー層では、大規模言語モデルの呼び出し回数、トークン使用量、全体の遅延を削減しています。

BIG DATAが10年にわたり蓄積してきた65億件を超える繁体字中国語コーパスをファインチューニングして開発したドメイン特化型言語モデル「BIG10」は、台湾のローカルな文脈や官公庁特有の用語を理解できるモデルであり、タスクの機密性に応じてクラウド上の大規模モデルと柔軟に切り替えて使用することも可能です。モデルのファインチューニングにはNVIDIA NeMo Frameworkを採用し、データ整備、匿名化（非識別化）、ドメイン特化のファインチューニング、評価といった機能を通じて、繁体字中国語のドメイン知識をモデルに注入しています。なかでも匿名化機能は、政府機関というユースケースにおいて特に重要な役割を果たします。ハードウェアである「KEYLM Box」は、NVIDIA GB10 Grace Blackwellスーパーチップと128GBのユニファイドメモリを搭載したNVIDIA DGX Sparkを1台搭載しており、この1台だけでAIエージェントプラットフォーム、BIG10モデル、ナレッジ検索を同時に稼働させることができます。これにより、インテリジェント秘書ソリューション全体をオンプレミスで実装し、データを組織の外に出さない運用を実現しています。BIG DATAがDGX Spark上で推論の最適化を行った結果、最適化前の同クラスのオープンソースモデルと比較して、メモリ使用量は約半分に抑えられ、応答速度は約2倍に向上しました。

一般的な多くの企業向けAIソリューションは、相応の規模のサーバーやサーバールームへの投資を必要としますが、『KEYLM』はAIエージェント型のインテリジェント秘書に求められる機能一式を、デスクサイドに置ける大きさのDGX Spark1台に凝縮しており、1台で1つの機関のインテリジェント秘書業務を担うことができます。BIG DATAは今後も、既存のデータ資産と技術開発力を土台に、NVIDIAをはじめとする業界標準の技術アーキテクチャを採用しながら、AIソリューションの実装スピードを加速させ、より多くの政府機関や企業が、台湾のローカルな文脈に真に寄り添った、信頼できるAIアプリケーションを構築できるよう支援してまいります。