AI INFRASTRUCTURE

世界最速を目指す、AI基盤。

FPGAからASICまで。ハードウェアアクセラレーションで、AIアプリケーションの速度と効率を根底から変える。スパイスエンジンは、AIアクセラレータ「RASNA」、Diffusion LLM実装「SILRA」、AI音声通話アプリ「PuwaPuwaVoice」の3事業を展開しています。

RASNA

1ms未満

ResNet50推論レイテンシ目標
(DRAM-to-DRAM)

SILRA

39.70

Perplexity(スパース率0.3776
の圧縮検証を通過)

PUWAPUWAVOICE

約1秒

音声応答レイテンシ目標
(自然な会話テンポの実現へ)

AIコンピューティングの新たな地平を切り開く。

データフローアーキテクチャと専用ハードウェア設計を組み合わせ、CPU/GPUのオーバーヘッドを抑制。帯域とメモリを用途ごとに最適化し、性能と電力効率の両立を目指します。

スパイスエンジンは、研究成果を実世界で使える計算基盤へと育てる会社です。代表の神宮司明良は理化学研究所 計算科学研究センター(RIKEN R-CCS)の研究員として機械学習アクセラレータの研究に携わり、その知見を産業応用へつなげています。モデルの圧縮(スパース化・量子化)からハードウェア実装、そしてアプリケーションまでを一貫して手がけられることが、当社の強みです。

FPGAHLS(高位合成)コンパイラスパース化・量子化CNNアクセラレータLLMアクセラレータCGRAデータフローアーキテクチャ

RASNAラズナ

95%スパースなResNet50を、1ms未満で推論するAIアクセラレータ。

RASNAは、CNN推論のための専用ハードウェア(FPGAアクセラレータ)です。モデルの重みの95%がゼロである「スパース(疎)なResNet50」を対象に、ゼロの重みに対する演算を丸ごとスキップし、重みと命令をチップ上に常駐させることで、外部メモリ(DRAM)へのアクセスを入力画像と推論結果だけに絞り込みます。これにより、画像がDRAMにある状態から結果をDRAMへ書き戻すまで(DRAM-to-DRAM)のレイテンシ1.0ms未満を目指しています。

検証基盤はXilinx Kria KV260。エッジデバイスの限られた電力とメモリ帯域の中で、画像認識をリアルタイムに実行するための設計を、実機で測定しながら磨き上げています。

DRAM 入力画像 Xilinx Kria KV260 — RASNA 重み・命令はチップ上に常駐 スパース演算アレイ(ゼロを計算しない) DRAM 推論結果 DRAMへのアクセスは入力と出力のみ。だから、1msが見えてきます。
RASNAの仕組み。通常の推論では、計算のたびに外部メモリから重みを読み出す時間が支配的になります。RASNAは重みと命令をチップの中に置きっぱなしにし、DRAMとのやり取りを最初と最後だけにすることで、この待ち時間を消しにいきます。
通常のモデル(密) 95%スパース(RASNAの対象) 全ての重みを計算する 残る5%だけを計算する
95%スパースとは。学習済みモデルの重みのうち95%をゼロにした状態です。ゼロとの掛け算は結果に影響しないため、RASNAはその演算自体を行いません。計算量とメモリ転送量が大きく減り、精度は公開モデルでTop-1 73.14%を維持します。
RASNA — 目標と仕様
対象モデルResNet50(ImageNet)— 公式AC/DCの95%スパースモデルを採用
認識精度Top-1 73.14%(採用モデルの公表値)
スパース率95%(重みの95%がゼロ)
レイテンシ目標1.0ms未満(DRAM-to-DRAM:画像がDRAMにある状態から、結果をDRAMへ書き戻すまで)
実行基盤Xilinx Kria KV260(FPGA)
設計方針重みと命令をチップ上に常駐させ、DRAMアクセスを入出力のみに限定。スパース化・量子化とデータフロー最適化を組み合わせる

■ ゼロを計算しない

95%がゼロの重みは、演算そのものをスキップ。計算量とメモリ転送を同時に削減します。

■ DRAMに行かない

重み・命令はオンチップに常駐。推論中のDRAMアクセスは入力画像と結果だけです。

■ 実機で磨く

KV260実機で測定しながら反復改善。FPGAからIPコア化、ASIC展開まで見据えた設計です。

SILRAシルラ

Diffusion LLMを、エッジハードウェアで動かす。

SILRAは、次世代の言語モデル「Diffusion LLM(拡散型言語モデル)」をFPGAに実装する研究開発です。現在の主流である自己回帰型LLMが1トークンずつ順番に文章を生成するのに対し、Diffusion LLMは文章全体を並列に更新しながら生成します。この並列性は専用ハードウェアと相性が良く、うまく実装できれば大幅な高速化が見込めます。

一方で、言語モデルはそのままではエッジデバイスに載りません。SILRAでは、モデルをスパース化・量子化して軽量化し、Xilinx Kria KV260への実装を進めています。モデル圧縮の検証フェーズでは、スパース率0.3776の圧縮でPerplexity 39.70(合格基準51.78以下)を記録し、検証を通過しました。現在はハードウェア実装フェーズに進んでいます。

拡散型LLM フル精度モデル スパース化 不要な重みを除去 再学習・蒸留 精度を回復する 量子化 INT8 / INT4 KV260へ実装 ハードウェア化 圧縮の順序が重要です。まずスパース化して精度を回復し、量子化は最後に行います。
SILRAの圧縮パイプライン。RASNAで培ったスパース化・量子化の技術を、CNNから言語モデルへ。モデルを軽くする順序と再学習の設計が、精度を守る鍵になります。
自己回帰型LLMとDiffusion LLMの違い
項目自己回帰型LLM(現在の主流)Diffusion LLM(SILRAの対象)
生成方法1トークンずつ順番に生成する文章全体を並列に更新しながら生成する
計算の特徴生成が逐次的で、並列化の余地が限られる並列計算が多く、専用ハードウェアで高速化しやすい
SILRAのアプローチ—スパース化・量子化で軽量化し、KV260に実装する
SILRA — モデル圧縮の検証結果
対象小型のDiffusion LLM(拡散型言語モデル)
スパース率0.3776
Perplexity39.70(合格基準 51.78以下)
検証方法圧縮後に250ステップの再学習を行い、精度の回復を確認
判定検証通過 — ハードウェア実装フェーズへ移行
実行基盤Xilinx Kria KV260(FPGA)

※ Perplexityは言語モデルの予測精度を表す指標で、小さいほど良好です。数値はモデル圧縮検証フェーズにおける社内検証の結果です。

■ 次世代モデルを先取り

研究段階のDiffusion LLMを、いち早く実機実装の対象に。モデルの進化と実装技術を同時に追います。

■ 圧縮技術の横展開

RASNAのスパース化・量子化の知見を言語モデルへ。CNNとLLM、両方のアクセラレーションを手がけます。

■ エッジでLLMを

クラウドに頼らず手元のデバイスで言語モデルを動かす。低遅延・低コストなAIの形を追求します。

PuwaPuwaVoiceプワプワボイス

好きなキャラクターと、電話のように話せるAI音声通話アプリ。

PuwaPuwaVoiceは、VOICEVOXのキャラクターたちと音声で会話できるiPhone向けAI通話アプリです。ずんだもん、春日部つむぎ、四国めたん、小夜/SAYOといったキャラクターを選び、まるで電話で話すように話しかけるだけ。キャラクターごとに会話の記憶を持ち、前回の続きから自然に話せます。

会話の自然さは「応答の速さ」で決まります。当社はハードウェアアクセラレーションで培った低遅延化の知見をここにも注ぎ、話し終わってから約1秒で返事が返る会話テンポを目標に、音声認識・応答生成・音声合成のすべてを最適化しています。2026年12月24日の正式リリースに向け、現在TestFlightでベータテストを実施中です。

目標:話し終わってから約1秒で返事 あなたの声 マイク入力 音声認識 音声をテキストへ AI応答生成 記憶と性格で応答 音声合成 キャラクターの声を作る キャラクターの声 スピーカー再生 速さの勝負は、全ての段階の合計。だから全段を最適化します。
会話の仕組み。声を聞き取り、応答を考え、声を作って返す。この一往復の合計時間が会話の心地よさを決めます。PuwaPuwaVoiceは約1秒を目標に、各段階の高速化を進めています。

■ キャラクターと話せる

ずんだもん、春日部つむぎ、四国めたん、小夜/SAYO。好きなキャラクターを選んで通話できます。

■ 会話を覚えている

キャラクターごとに会話の記憶を保持。昨日の続きを、今日また話せます。

■ 応答約1秒へ

話し終わってから約1秒の応答を目標に、認識・生成・合成の全段を最適化しています。

PuwaPuwaVoice — 料金プラン(予定)
プラン月額1日の利用時間
無料プラン¥010分まで
ライト¥50030分
プラス¥3,0003時間
プロ¥10,000無制限

※ 利用時間はローリング24時間あたりの上限です。料金・内容は正式リリース時点の予定であり、変更される場合があります。

PuwaPuwaVoice公式サイトを見る ↗

From FPGA to ASIC.

実証から社会実装まで、一貫した設計思想で。

FPGAによる迅速な検証、IPコア化、そしてASICへの展開を段階的に進めます。モデル圧縮(スパース化・量子化)とデータフロー最適化を組み合わせ、ワークロードの特性に合わせた専用ハードウェアを設計します。RASNAとSILRAは同じ検証基盤(Kria KV260)と圧縮技術を共有し、知見を互いに還流させています。

STEP 01

FPGA Validation

高速な実証と反復。実機で性能と電力効率を測りながら、アーキテクチャを磨き上げます。

STEP 02

IP Core

再利用可能な知的資産へ。検証済みの設計をIPコアとして切り出し、製品へ組み込みます。

STEP 03

ASIC Deployment

性能と電力効率を最大化。量産と社会実装を見据えた展開を進めます。

代表者

代表取締役 神宮司明良

FOUNDER / CEO神宮司 明良

「研究成果を、社会を動かす力へ。」

理化学研究所 計算科学研究センターの研究員として、機械学習アクセラレータとEUVリソグラフィシミュレーションを研究。ソフトウェアスタックとハードウェア実装の両面から、AIを支えるアクセラレータ基盤の産業応用を推進しています。

2024—
理化学研究所 計算科学研究センター 研究員
2022—
株式会社スパイスエンジン 代表取締役
2022—24
東京工業大学 工学院 助教

会社概要

会社名
株式会社スパイスエンジン(Spice Engine Co., Ltd.)
代表者
神宮司 明良
設立
2022年5月26日
所在地
〒113-0033 東京都文京区本郷6丁目25番14号
資本金
100万円(資本準備金を含む)
事業内容
人工知能を活用するシステムの研究および開発
主要事業
AIアクセラレータ「RASNA」の研究開発/Diffusion LLM実装「SILRA」の研究開発/AI音声通話アプリ「PuwaPuwaVoice」の開発・運営

AIの次の可能性を、一緒に。

技術相談・協業のご相談は、お問い合わせフォームからお気軽にご連絡ください。

技術相談・協業について ↗