活用シナリオ
オンデバイスLLM
完全閉域ローカルLLM・ミリ秒級応答
クラウド遅延やネットワーク切断を排除。エッジゲートウェイ上で自然対話、非公開マニュアルRAG検索、複雑な設備制御コマンド変換を完全ローカル実行。
物理閉域オフライン運用
言語モデルを完全オフラインコンテナで稼働。出荷時の無線カード物理抜去と2系統LAN分離に対応
協調量子化とミリ秒級応答
TensorRT-LLMとRKLLMによる最適化で、Orin NX 16GBやRM1828により7Bモデルで22〜60 tok/sを達成
音声・機器制御全階層自律
単一ホストでオフラインWhisper音声認識とLLMを同時稼働し、現場の対話を秒単位でModbus/CAN制御へ変換
適用シーンとすぐに導入できるソリューション
活用シナリオ
活用シナリオ
活用シナリオAI音声倉庫管理
Watcherが音声指示を理解して作業者を識別し、結果を内蔵の倉庫管理システムまたは既存のERP / WMSに書き込みます。クラウド、ローカルホスト、完全オフラインから導入方式を選べます。
すぐに導入できるソリューション割り込み可能な対話型音声AI
デバイス上で応答し、応答中でも割り込める音声端末。聞き取りと発話はローカルで完結し、対話モデルは自前のクラウドエンドポイントかオンデバイスのどちらか。reComputer RK、reComputer J30 / J40（Orin）、reComputer R2000 シリーズで動作し、対話言語はデプロイ時に固定される。
すぐに導入できるソリューション
すぐに導入できるソリューション録音バッジ ローカル文字起こし・話者分離
録音バッジの音声を自社の reComputer（Jetson Orin NX または RK3576）に同期して文字起こしし、話者を分けます。録音はクラウドにアップロードされません。
すぐに導入できるソリューション音声操作 倉庫管理システム
エッジハードウェア上の音声操作倉庫管理。話すだけで在庫に記帳し、MCP が直接書き込みます。クラウド試用から完全オフラインの Jetson 構成まで 5 つのプリセット。
すぐに導入できるソリューション小売音声
店舗、会議、接客の会話をバックオフィスのテキストに変換。マイクアレイと現場書き起こし機、または reSpeaker Clip とスマートフォンを利用。氏名と番号は保存前にマスクし、要求に応じて削除可能。
エッジ演算プラットフォーム・モデル選定ガイド
モデル規模、同時実行と初回応答遅延、物理セキュリティの3点に答えると、コンフィギュレータが具体的な型番を提示します。アーキテクチャ、ホストと推論アクセラレーション、ネットワーク分離の比較は下のカードをご覧ください。
選び方に迷ったら 選定・セキュア導入ガイド全文を見る →
モデル規模
現場でモデルに何をさせますか？ホストプラットフォームが決まります。
ソリューションを構成
モデル規模・同時実行・セキュリティレベルを選択——システムが機器を自動推奨
エントリーパッケージ (RK3576 単体)
1.5B 以下の指示解析。内蔵 NPU で数ワット動作
硬件/物料名称 数量 型号/SKU 说明 reComputer RK3576-30 (RK3576, 8GB) 1 100052518 - reSpeaker XVF3800 マイクアレイ 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - RTL8822CE Wi-Fi 5 / BT 5.0 無線モジュール 1 114993556 - エンタープライズパッケージ (Jetson Orin NX 16GB)
7B/8B の対話と知識検索。音声認識とベクトル検索を同居
硬件/物料名称 数量 型号/SKU 说明 reComputer Super J4012 (Orin NX 16GB Super) 1 114110314 - reSpeaker XVF3800 マイクアレイ 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - 電源アダプター (19V 4.74A / 90W) 1 313080684 - RTL8822CE Wi-Fi 5 / BT 5.0 無線モジュール 1 114993556 - アクセラレータパッケージ (RK3588 + RM1828)
7B で 50〜61 tok/s。同時実行と長文脈 RAG 向け。アクセラレータカードは営業へお問い合わせください
硬件/物料名称 数量 型号/SKU 说明 reComputer RK3588-40 (RK3588, 16GB) 1 100086238 - RM1828 PCIe アクセラレータカード (RK1828、営業へお問い合わせ) 1 - - reSpeaker XVF3800 マイクアレイ 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - RTL8822CE Wi-Fi 5 / BT 5.0 無線モジュール 1 114993556 - フラッグシップパッケージ (Jetson AGX Orin 64GB)
14B〜27B の多段推論とマルチエージェント。7B/8B は8ストリーム同時
硬件/物料名称 数量 型号/SKU 说明 reComputer J5012 (AGX Orin 64GB) 1 100032662 - reSpeaker XVF3800 マイクアレイ 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - RTL8822CE Wi-Fi 5 / BT 5.0 無線モジュール 1 114993556 -
オンデバイスLLMシステム構造
拾音から制御バスまでの閉域ループ
図の4層：マイクアレイが音声を取得、reComputer ホスト（Jetson か RK のいずれか）、ホスト上の TensorRT-LLM・RKLLM と任意の RM1828 カードが量子化推論を実行、結果は Modbus・CAN・RS485 で現場機器を駆動し、分離したポートから業務ネットワークへ接続します。
主なメリット
- 完全オフライン：集音・文字起こし・推論・制御を本体内で完結
- 2系統から選択：Jetson は TensorRT-LLM、RK は RKLLM
- バス直結：推論結果を Modbus・CAN フレームで出力
| 製品画像 | 製品 | コアポジショニング | 推奨モデルと量子化 | デコード速度 (tok/s) | 同時実行能力 | コスト |
|---|---|---|---|---|---|---|
 | J5012 | AGX Orin 64G | Qwen2.5-14B、Qwen3.5-27B、INT4-AWQ | 7B 45.5；14B 24.5；27B 14.5 | 7B/8B は8ストリーム合計約175〜185 tok/s、14B は4、27B は2 | ~$2800–4800 |
 | J4012 | Orin NX 16G | Qwen2.5-7B、Llama-3.1-8B、INT4-AWQ。14B もロード可 | 7B 22.5；8B 23.5；14B 11.0 | 7B/8B は2、14B は1ストリーム。余剰メモリで Whisper とベクトル検索を同居 | ~$900–1800 |
 | J3011 | Orin Nano 8G | Qwen2.5-1.5B、Qwen2.5-3B、INT4-AWQ。7B は単一タスクのみ | 1.5B 38.5；3B 22.5；7B 12.5 | 1.5B は2、3B は1〜2ストリーム | ~$600–1000 |
 | RK3588-40 | RK3588 + RM1828 アクセラレータ | カード搭載：Qwen2.5-7B、Qwen3-4B、W4A16。単体：Qwen2.5-1.5B、W8A8 | カード搭載 7B デコード 50〜61、Prefill 800超。単体 1.5B 16.5、7B 約4 | カード1枚につき常駐モデル1つ。音声認識・合成はホスト側で実行 | ホスト ~$280–360。RM1828 カードは別途お問い合わせ |
 | RK3576-30 | RK3576 単体 | Qwen2.5-0.5B、Qwen2.5-1.5B、W4A16 | 0.5B 35.2；1.5B 19.6；4B 8.3 | 単一ストリームの指示解析。4B 対話モデルは音声と同居させない | ~$160–210 |
処理性能とモデル選定
統合メモリと専用加速の選定
Jetson Orin の統合メモリ構成と Rockchip NPU / RM1828 3D 積層アクセラレータに基づき、モデル規模と同時実行性能から最適選定。
主なメリット
- 全域対応：0.5B から 27B まで規模に応じた選定
- J4012 主力：16GB で 7B モデルと音声認識を同時実行
- カードで 7B：RM1828 で 7B デコード 50〜61 tok/s
| 画像 | アクセサリ | 仕様・主な用途 | 対応機種 | セキュリティ選定基準 |
|---|---|---|---|---|
 | Wi-Fi 5 / BT 5.0 無線カードセット | M.2 Key-E 規格、2.4G/5GHz デュアルバンド Wi-Fi ＆ BT 5.0、外付けアンテナ付属 | 全機種対応 | 一般オフィスや調整用。【機密・物理隔離構成】出荷時未搭載または現場でモジュールを抜去し電波を完全遮断（エアギャップ） |
 | 1TB NVMe M.2 2280 SSD | PCIe Gen3x4、シーケンシャル読込 2000 MB/s 超の高速大容量ストレージ | 全機種対応 | ローカルLLM必須。7B/14B 量子化モデル重み（4〜8GB）とベクトルDB（Milvus/Chroma）インデックスを格納、SDカードのボトルネックを解消 |
 | 19V 4.74A (90W) 産業用電源アダプター | 5.5×2.5mm DCプラグ、定格90W出力、耐サージ・瞬断保護回路搭載 | Jetson Orin / RK3588 | フル性能動作に必須。Prefill や並行推論時の 20W/25W MAXN ピーク電力供給を保証し、電圧降下による再起動を防止 |
 | reComputer 金属製ラックマウントホルダー | 冷間圧延鋼板製ブラケット、35mm 標準 DIN レール固定および壁掛けに対応 | reComputer 全機種 | 制御盤・配電盤での標準固定具。耐震固定とエアフロー向上を実現 |
| — | 2系統物理分離GbE＆産業用バス | 独立デュアル GbE ポート ＋ 絶縁型 RS485 / CAN / DO 端子搭載 | Industrial シリーズ | 構内物理隔離。LAN1 は生産現場 PLC 直結、LAN2 は運用管理網へ接続し、カーネル転送を無効化して侵入を防止 |
周辺機器とセキュリティ
主要アクセサリと物理分離の選定
ローカルLLM導入に不可欠な高速ストレージ、安定化電源、DINレール取付金具、通信モジュールを網羅。機密・高コンプライアンス環境向けには、M.2 Key-E 無線カードの未搭載または現場撤去に対応し、電波発信源を物理的に完全遮断（エアギャップ）。2系統GbE物理分離と産業用バスによる閉域制御を実現します。
主なメリット
- 無線撤去対応：機密現場では無線カードを未搭載または現場抜去
- 高速SSD必須：モデル重みとベクトルDBをNVMeに高速格納
- 2系統ポート分離：業務網と管理網を物理分離しIP転送無効化
よくある質問
LLMの自己回帰デコード段階では、1トークン生成するごとに数十億パラメータの重みをメモリから全量読み出す必要があり、メモリ帯域が性能の上限を決定づけます。生成速度（tokens/s）はメモリバス帯域（GB/s）に直結します。そのため、広帯域を持つOrin NX（102.4 GB/s）や、3D積層1 TB/sメモリを搭載したRM1828アクセラレータカードが、標準的なオンボードLPDDR構成を圧倒する速度を実現します。
完全に可能です。INT4-AWQ量子化時のQwen2.5-7BやLlama-3.1-8Bのメモリフットプリントはわずか5.2GB〜5.8GBです。reComputer J4012は16GBの統合メモリを備えており、残る約10GBの容量でオフラインWhisper-base音声認識エンジン（約1GB）やローカルベクトルDBを同時に余裕をもって並行処理できます。
INT4量子化時でも27B〜32Bモデルは重み単体で17GB以上のメモリを要します。さらに動的KVキャッシュやOS基本負荷を含めると20GB〜24GBを超過し、8GB/16GBのエッジ機器ではメモリ不足（OOM）や激しいスワップ停止を引き起こします。この規模のモデルは構内LAN経由で社内オンプレミスx86サーバーへ集約連携する構成を推奨します。
reComputer 産業用エッジシリーズのWi-Fi/Bluetooth通信はすべて標準M.2 Key Eスロットカード経由で接続されており、基板上にオンボード直付けの無線チップは一切搭載されていません。高セキュリティ環境では筐体を開けてM.2カードを物理的に抜き取るだけで、電波発信源を物理的に遮断し完全なエアギャップ（物理隔離）を確立できます。
可能です。本ソリューションの Seeed エッジ計算機器は、ロゴ・筐体・パッケージ・プリインストールファームウェアのカスタマイズに対応し、既存モデルへのインターフェース変更、加速カード（RM1828等）の増減、各種フィールドバス拡張も可能です。。対応範囲と流れはハードウェアカスタマイズサービスをご覧ください。
お探しの答えが見つかりませんか？
お問い合わせ
ハードウェアパートナーとしてうれしいです！