自作アプリケーション向けのローカル音声サービスです——音声を送ればテキストが、テキストを送れば音声が返ります。reComputer J40 / J30、reComputer RK3588 / RK3576、または Pi 5 上で動作し、初回デプロイ後はオフラインで利用できます。
聞き取りと発話が必要で、音声をクラウドの音声 API に送れない製品向けです。
適さないケース：そのまま使える完成品の音声アシスタント。本サービスが担うのは聞き取りと発話だけで、対話ロジックやモデルは自前で接続します。
3 つだけです。音声の入力元、認識と合成を行う 1 台のエッジホスト、LAN 経由でそれを呼び出すあなたのアプリケーション。音声とテキストはそのホスト内に留まります。インターネットが必要なのは初回デプロイ時、イメージとモデルのダウンロードのみです。
サービスは自前のマイクからではなく、あなたのプログラムから音声を受け取ります。
再生もあなたのプログラムの役目です。サービスは音声ストリームまたは WAV ファイルを返します。ユーザーが応答を割り込めるようにする必要がある場合は、ハードウェアエコーキャンセル付きのマイクを使ってください。この構成は Conversational Voice AI リファレンスデザインで扱っています。
1 台のホストが認識と合成を行います。ホストが速度と対応言語の範囲を決めます。
| ホスト | 音声プロファイル | メモリ | ディスク |
|---|---|---|---|
| reComputer J40 シリーズ（Orin NX 16GB） | 中国語＋英語、または Qwen3 で 52 言語と声のクローン | 2 GB | 7.5 GB |
| reComputer J30 シリーズ（Orin Nano） | J40 と同じプロファイル | 8 GB ボード以上 | 7.5 GB |
| reComputer RK3588 | 中国語＋英語、または Qwen3 で 52 言語 | 6 GB | 4.4 GB |
| reComputer RK3576 | 中国語＋英語、または Qwen3 で 52 言語 | 4 GB | 4.4 GB |
| Pi 5（8GB） | CPU で中国語＋英語 | 2 GB | 2.8 GB |
音声プロファイルはデプロイ時に選択し、後からデバイス設定で変更できます。
あなたのプログラムは、ホスト自身または他のデバイスから LAN 経由で直接音声ホストを呼び出します。
完全なアシスタントを組むには、認識、あなたの対話モデルまたはルール、合成の 3 回の呼び出しをつなげます。データインターフェースは下の「何が取り出せるか」を参照してください。
クライアントが発話終了を通知した時点から、合成音声の最初のフレームまでを実測しています。対話モデルと無音待ちは経路に含みません。
| 利用者が得られるもの | 代表値 | 機器 |
|---|---|---|
| 音声認識から合成音声の先頭まで（中国語＋英語プロファイル、VAD と LLM を除く） | 58 ms p50 | reComputer J40 シリーズ（Orin NX 16GB） |
| 認識誤り率（同プロファイル） | 10.5% CER p50 | reComputer J40 シリーズ（Orin NX 16GB） |
| 音声認識から合成音声の先頭まで（Qwen3 多言語、VAD と LLM を除く） | 162 ms p50 | reComputer J40 シリーズ（Orin NX 16GB） |
同じ測定で reComputer RK3588 は 528 ms、reComputer RK3576 は 1020 ms です。J40 では Qwen3 認識により誤り率が 5.3% CER まで下がります。
実際の製品では、ターン検出が待つ無音時間と対話モデルの応答時間が加わります。2 セッション同時実行は J30・J40・RK3588・RK3576 で動作しますが、Jetson では 2 セッション時に合成がリアルタイムに追いつきません。
すべてのインターフェースは音声ホストのポート 8621 で提供されます。
| インターフェース | 入力 | 出力 |
|---|---|---|
ws://<host>:8621/asr/stream | 16 bit PCM の音声 | 逐次届く認識テキストと確定フラグ |
POST http://<host>:8621/asr | WAV ファイル | 認識テキスト |
POST http://<host>:8621/tts/stream | JSON のテキスト | 再生可能な raw PCM ストリーム |
POST http://<host>:8621/tts | JSON のテキスト | WAV ファイル 1 件 |
GET http://<host>:8621/health | — | 認識と合成が準備できているか |
統合点は自社アプリケーションです。 認識結果と合成リクエストの間に、対話モデル・ルールエンジン・ロボットのコマンド層を挟みます。
再利用できる単位は「安定した HTTP / WebSocket インターフェースの背後にあるローカル認識とローカル合成」です。その間に何を置くかは自由です。
| レイヤー | 移植時に必要な作業 |
|---|---|
| 4 種類のアクセラレータ上の認識と合成 | そのまま再利用 |
| ポート 8621 のインターフェース | そのまま再利用 |
| 音声プロファイル、話者、速度 | デバイス設定で選択 |
| 対話モデル、ルール、ロボットのコマンド | ここが自社製品の中身になります |
| マイク集音、再生、バージイン | 自社アプリで実装するか、Conversational Voice AI から始めます |
構成と製品リストを確認し、デプロイガイドの手順に進みます。
導入前の条件：ホストへの SSH 接続、初回起動時のインターネット接続、選んだプロファイル分の空きディスク。
SSH 経由でストリーミング ASR + TTS サービスをエッジデバイスにデプロイ
2 ステップ · 約 15min
初回デプロイ後は使えます。初回起動時にイメージとモデルをダウンロードし、それ以降の認識と合成はすべてホスト上で完結します。
出ません。音声とテキストはどちらも音声ホスト上で処理され、LAN 経由であなたのプログラムに返されます。クラウドの音声インターフェースは経由しません。
reComputer J40 シリーズ上、中国語・英語構成では発話終了から音声の最初のフレームまで 58 ms、認識誤り率 CER 10.5% です。同じ機体で Qwen3 に切り替えると 162 ms、CER 5.3% になります。これらの数値には無音判定の待ち時間や対話モデルは含まれていません。
reComputer J30、J40、RK3588、RK3576 はいずれも 2 セッションの同時会話に対応します。Jetson 上で 2 セッション同時に音声合成を行うとリアルタイムに追いつかなくなるため、両方をスムーズに保つには J40、または Qwen3 認識＋Matcha 合成の構成を選んでください。
サービス自体にはマイクが含まれておらず、音声はあなたのプログラムから送られます。距離や耐ノイズ性は選んだマイクに依存します。ユーザーが応答を割り込む必要がある場合は、reSpeaker XVF3800 のようにハードウェアエコーキャンセルを備えたマイクを選んでください。
音声ストリームを書き起こし用の WebSocket に送り、得られたテキストをあなたの対話モデルやコマンドロジックに渡し、応答テキストを合成用インターフェースに送ります。LAN 上で HTTP や WebSocket を送受信できるプログラムであれば、どれでもこの形で接続できます。
変更できます。音声構成はデプロイ時に選択し、その後もデバイス設定で変更できます。話者と話速も設定項目です。Jetson 上の Qwen3 構成は 52 言語と声のクローンに対応しています。
サービスコードは MIT ライセンスで公開されています。各音声モデルはそれぞれ独自のライセンス条項を保持しているため、出荷前に使用する構成に含まれるモデルの条項を個別に確認してください。