reComputer RK3576/RK3588 上で主要な AI モデルをまとめて試用——物体検出、対話、画像理解をすべてローカルで実行。
何を作るか決める前に、手元の Rockchip ボードで主要なモデルを試したいチーム向けです。
適さないケース：完成したアプリ画面が必要な案件。本デザインが提供するのは API です。チャットと画像チャットは reComputer RK3576 Series でのみ動作します。
Rockchip ボード 1 台で足ります。モデルは内蔵 NPU 上で動作します。ライブ映像検出が必要な場合のみ USB カメラを追加してください。アプリケーションは LAN 経由でボード上の API を呼び出します。
ライブ映像検出のみカメラが必要で、ボードに USB カメラを 1 台接続すれば足ります。
3 つのプリセットは互いに独立しており、1 台の RK3576 ボード上でポート 8000、8001、8002 に同時起動できます。
| プリセット | モデルの選択肢 | reComputer RK3576 Series | reComputer RK3588 Series | メモリ |
|---|---|---|---|---|
| 物体検出 | YOLO 11 Nano / Small / Medium | 対応 | 対応 | — |
| LLM チャット | DeepSeek-R1 1.5B / 7B、5 種の量子化 | 対応 | — | 1.5B は 4GB、7B は 8GB 以上 |
| ビジョンチャット | Qwen2.5-VL 3B | 対応 | — | 8GB 以上 |
各プリセットは選んだモデルに応じてディスクを 3〜10GB 消費します。
アプリケーションは LAN 上で Rockchip ボードに直接 HTTP でアクセスし、画像と会話はいずれのクラウドにも送信されません。チャットとビジョンチャットは OpenAI 互換のため、既存の SDK はベース URL を変更するだけで使えます。データインターフェースは下記の「何が得られるか」をご覧ください。
3 つのプリセットが reComputer RK3576 Series で提供する内容と、その制約は次のとおりです。
| プリセット | できること | 制約 |
|---|---|---|
| 物体検出 | 画像やライブ映像から一般的な 80 クラスを検出 | この 80 クラスのみ。追加には別のモデルが必要です |
| LLM チャット | ローカルのテキストチャット、OpenAI 互換 | 7B は 8GB 以上の RAM が必要。1.5B のほうが応答は速い |
| 画像チャット | 画像の説明と、画像に関する質問への回答 | 8GB 以上の RAM が必要。初回ロードに 1〜2 分 |
速度はモデルサイズに従います。検出器は Nano が最速、Medium が最も高精度です。初回起動時に 1〜4GB のイメージを取得し、モデルを読み込みます。
導入後は、これらがインターフェースです。
| インターフェース | 出力 | 備考 |
|---|---|---|
| HTTP 8000 | 画像検出：クラス、確信度、枠の座標 | 確信度のしきい値は変更可 |
| HTTP 8000 | 検出枠を描画した MJPEG 映像 | USB カメラが必要 |
| HTTP 8001 | OpenAI 互換の chat completions | ストリーミング対応 |
| HTTP 8002 | OpenAI 互換の画像 API | テキストと画像の入力、対話型 API ドキュメント付き |
リクエストはすべて LAN 内で完結し、画像も会話もクラウドには送信されません。
構成と製品リストを確認し、デプロイガイドの手順に進みます。
導入前の条件：SSH で接続でき、Docker が入っていること。初回導入ではイメージ取得のためインターネット接続が必要です。
RK3576 または RK3588 上で YOLO 11 を実行し、80 種類の一般物体を検出。デプロイ時にモデルサイズ（Nano / Small / Medium）を選択可能。
2 ステップ · 約 15min
reComputer RK3576 シリーズまたは RK3588 シリーズのホストが 1 台あれば動きます。1.5B の対話は 4GB メモリで動作し、7B の対話とビジョン対話には 8GB 以上が必要です。プリセットごとにディスクを 3〜10GB 確保してください。
現時点ではできません。reComputer RK3588 シリーズでは物体検出プリセットのみを提供しており、LLM チャットとビジョンチャットは reComputer RK3576 シリーズのみの対応です。
デプロイ完了後は断網で使用できます。初回デプロイ時のみ 1〜4GB のイメージを取得するためにネット接続が必要です。推論はすべてホストの NPU 上で行われ、画像や対話内容はどのクラウドにも送信されません。
選んだモデルサイズによります。検出では Nano が最速、Medium が最も高精度です。対話では 1.5B が最も応答が速く、7B の方が推論能力が高くなります。初回起動時はモデルの読み込みが発生し、ビジョンチャットは準備完了まで 1〜2 分かかります。
検出は REST インターフェースで、画像をアップロードするとクラス、確信度、ボックス座標が返ります。対話とビジョン対話は OpenAI 互換インターフェースなので、既存の OpenAI SDK はベース URL をこの機器の IP に変えるだけで使えます。ビジョン対話のインターフェースにはインタラクティブなドキュメントが付属しており、ブラウザ上でそのまま試せます。
プリセットは用意されたサイズの間で切り替えるだけです。検出モデルは 80 種類の一般物体に固定されており、独自のカテゴリを認識させるには自分でモデルを学習し、Rockchip の NPU 形式に変換して差し替える必要があります。
できます。3 つのプリセットは互いに独立しており、それぞれ 8000、8001、8002 番ポートを使うため、1 台の RK3576 ホストに同時にデプロイできます。
モデルの重みはそれぞれ元のライセンスを保持しています。YOLO 11 の重みは Ultralytics により AGPL-3.0 で公開されており、DeepSeek-R1 と Qwen2.5-VL にはそれぞれ独自のライセンス条件があります。クローズドな商用製品として出す前に、使用するモデルのライセンスを確認するか、ライセンス互換のモデルに差し替えてください。