スマートフォンNPU×小型LLMによるクラウド不要オフラインAI基盤

🔍 抽出済み ｜ 技術 ｜ 優先度：🟠 高

シリーズ: AI・IT実践シリーズ

---

目的（ゴール）

スマートフォン・タブレット・小型エッジデバイスのNPUを活用し、クラウドAPIへの接続なしに実用的なAI推論を完結させる基盤を設計・検証する。複合災害時のインフラ断絶下でもAI支援作業を継続できる「最後の砦」構成と、日常的なプライバシー保護推論の両立を実証する。

アクター

• 著者（Manabazu）
• Node1（Surface Pro 11 / Snapdragon X Plus NPU）——先行検証デバイス
• スマートフォン（Snapdragon / Apple Neural Engine / Google Tensor 搭載機）
• 小型LLM（1B〜7Bクラス：Phi-3-mini / Qwen2.5-1.5B / Llama-3.2-3B等）
• 推論ランタイム（llama.cpp / MLC LLM / Core ML / NNAPI）

開始条件（起動トリガー）

以下のいずれかが発生したとき：

• クラウドAPIが利用不可（停電・通信断・コスト上限）
• プライバシー上クラウドに送れないデータを処理する必要がある
• 外出先・オフライン環境でAI支援が必要

事前条件

• Node1（Snapdragon X Plus）にllama.cppまたはMLC LLMが導入済み
• 1B〜7Bクラスの量子化モデル（GGUF形式）が端末に保存済み
• Node1のNPUドライバが最新状態

事後条件

• 外部API接続なしにLLM推論が完結する
• レスポンスタイムが実用水準（7Bモデルで10トークン/秒以上）であることを確認
• バッテリー消費・発熱が実用範囲内であることを確認

メインフロー

1. Node1でllama.cppをSnapdragon NPUバックエンド（GGML_HEXAGON等）で起動する
2. 量子化モデル（Q4_K_M等）をロードし、推論ベンチマークを実行する
3. 実際の出版作業タスク（原稿校閲・アイデア展開・要約）をオフラインで処理する
4. クラウドAPI使用時との品質・速度・コストを比較記録する
5. 複合災害シミュレーション（Wi-Fi無効・モバイルデータ無効）で動作確認する

シナリオリスト

シナリオ	概要
S1	Node1 NPU基準測定 — Snapdragon X PlusのNPUで各モデルサイズの推論速度・品質を測定
S2	スマホ推論検証 — Android/iOSスマホでの同等測定（MLC LLM / Core ML活用）
S3	オフライン出版タスク — 通信断環境で実際の原稿作業を完結させる実証
S4	複合災害シミュレーション — 停電・通信断想定でバッテリー駆動×オフライン推論の継続時間を測定

S1: Node1 NPU基準測定

デバイス: Surface Pro 11（Snapdragon X Plus NPU）
目的: CBFラボで最も入手しやすいNPUデバイスで基準値を取得する
フロー:

1. llama.cppをHexagon NPUバックエンドで起動
2. Phi-3-mini（3.8B Q4）・Qwen2.5-1.5B・Llama-3.2-3B（Q4）を順に測定
3. トークン/秒・初回レイテンシ・メモリ消費を記録
4. CPU推論との比較（NPUオフ/オン）

S2: スマホ推論検証

デバイス: Snapdragon/Apple Neural Engine搭載スマートフォン
目的: 常時携帯可能なデバイスでの実用性を検証する
フロー:

1. Android: MLC LLM アプリ or llama.cpp Android bindingsで推論
2. iOS: Core ML変換モデル or llama.cpp iOSポートで推論
3. バックグラウンド制限・サーマルスロットリングの影響を記録

S3: オフライン出版タスク

目的: 「実際に役立つか」を出版作業で検証する
タスク例:

• Lab Logの要約・メモ化
• 文章の校閲・リファクタリング提案
• アイデアのブレインストーミング 評価指標: Claude Code（クラウド）との品質差・速度差・コスト差

S4: 複合災害シミュレーション

目的: R260506-001（複合災害リスク）への対処として有効かを実証する
手順:

1. Wi-Fi・モバイルデータを無効化
2. 電源は内蔵バッテリーのみ（ACアダプタ非接続）
3. オフライン推論で出版作業を何時間継続できるか計測
4. 充電10%時の最小動作モデルサイズを確認

UC260413-008との差別化

	UC260413-008（エッジ×クラウドハイブリッド）	本UC（スマホ/エッジオフライン）
焦点	アーキテクチャ設計パターン	実機での実用性検証
対象デバイス	設計論として広く扱う	スマホ・Node1に特化
ネットワーク前提	ハイブリッド（接続あり）	完全オフライン
主な検証軸	コスト・スループット	災害耐性・プライバシー

対応リスク

• R260506-001 — 複合災害時の通信断でもAI推論を継続できる
• R260413-002 — プロプライエタリAI依存の根本的解消
• R260413-009 — データ主権：推論がデバイス外に出ない

← ユースケース一覧に戻る