Apple Foundation Models の無償開放で、Rork アプリの AI コスト設計を三層に組み直す

// ai-cost-simulation.ts — 三層化の効果を月額で見積もる
// 実行: npx tsx ai-cost-simulation.ts
 
type Layer = "on-device" | "pcc" | "third-party";
 
interface TaskProfile {
  name: string;
  monthlyCalls: number;    // 月間呼び出し回数
  avgInputTokens: number;  // 1回あたりの入力トークン
  avgOutputTokens: number; // 1回あたりの出力トークン
  layer: Layer;            // 三層設計での配置
}
 
// 単価は仮置きです。実際に使うモデルの現行単価に差し替えてください
const THIRD_PARTY_PRICE = {
  inputPerMTok: 3.0,   // USD / 100万入力トークン
  outputPerMTok: 15.0, // USD / 100万出力トークン
};
 
const tasks: TaskProfile[] = [
  { name: "画像タグ候補の生成",   monthlyCalls: 120_000, avgInputTokens: 200,   avgOutputTokens: 20,  layer: "on-device" },
  { name: "レビュー返信の下書き", monthlyCalls: 90_000,  avgInputTokens: 1_200, avgOutputTokens: 200, layer: "pcc" },
  { name: "長文ドキュメント解析", monthlyCalls: 6_000,   avgInputTokens: 6_000, avgOutputTokens: 800, layer: "third-party" },
];
 
function thirdPartyCost(t: TaskProfile): number {
  const input  = (t.monthlyCalls * t.avgInputTokens)  / 1_000_000 * THIRD_PARTY_PRICE.inputPerMTok;
  const output = (t.monthlyCalls * t.avgOutputTokens) / 1_000_000 * THIRD_PARTY_PRICE.outputPerMTok;
  return input + output;
}
 
// 全タスクをサードパーティ API に置いた場合
const allThirdParty = tasks.reduce((sum, t) => sum + thirdPartyCost(t), 0);
 
// 三層設計: on-device と pcc は原価ゼロ（無償枠の範囲内とする）
const threeLayer = tasks
  .filter((t) => t.layer === "third-party")
  .reduce((sum, t) => sum + thirdPartyCost(t), 0);
 
console.log(`全部サードパーティ: $${allThirdParty.toFixed(2)} / 月`);
console.log(`三層設計:           $${threeLayer.toFixed(2)} / 月`);
console.log(`削減率:             ${((1 - threeLayer / allThirdParty) * 100).toFixed(1)}%`);
 
// 期待される出力:
// 全部サードパーティ: $882.00 / 月
// 三層設計:           $180.00 / 月
// 削減率:             79.6%

// AIRouter.swift — 層の選択を 1 箇所に集約する
import FoundationModels
 
enum AILayer {
    case onDevice      // 第1層: 端末内・無料・オフライン可
    case privateCloud  // 第2層: PCC 上の Foundation Models（無償枠）
    case thirdParty    // 第3層: Claude / Gemini など従量課金 API
}
 
struct AITask {
    let prompt: String
    let needsOffline: Bool
    let estimatedTokens: Int
    let qualityCritical: Bool
}
 
enum AIRouter {
    static func layer(for task: AITask) -> AILayer {
        // オフライン要件があるものはオンデバイス一択
        if task.needsOffline { return .onDevice }
        // 品質が売上に直結するタスクだけ従量課金の第3層へ
        if task.qualityCritical { return .thirdParty }
        // 約4Kトークンを超えるならオンデバイスには収まらない
        if task.estimatedTokens > 3_500 { return .privateCloud }
        return .onDevice
    }
 
    static func respond(to task: AITask) async throws -> String {
        switch layer(for: task) {
        case .onDevice:
            // 対応端末判定を必ず通す（非対応端末は PCC に退避）
            guard case .available = SystemLanguageModel.default.availability else {
                return try await respondViaPrivateCloud(task)
            }
            let session = LanguageModelSession(
                instructions: "落ち着いた日本語で簡潔に答えてください。"
            )
            let response = try await session.respond(to: task.prompt)
            return response.content
        case .privateCloud:
            return try await respondViaPrivateCloud(task)
        case .thirdParty:
            return try await respondViaBackend(task) // 自前バックエンド経由
        }
    }
 
    private static func respondViaPrivateCloud(_ task: AITask) async throws -> String {
        // PCC 指定の確定 API は正式リリースのドキュメントで確認のうえ、
        // この関数の中身だけを差し替える（呼び出し側は変更不要）
        let session = LanguageModelSession(
            instructions: "箇条書きを使わず、短い段落で答えてください。"
        )
        let response = try await session.respond(to: task.prompt)
        return response.content
    }
 
    private static func respondViaBackend(_ task: AITask) async throws -> String {
        var request = URLRequest(url: URL(string: "https://api.example.com/ai/heavy")!)
        request.httpMethod = "POST"
        request.setValue("application/json", forHTTPHeaderField: "Content-Type")
        request.httpBody = try JSONEncoder().encode(["prompt": task.prompt])
        let (data, _) = try await URLSession.shared.data(for: request)
        struct Reply: Decodable { let text: String }
        return try JSONDecoder().decode(Reply.self, from: data).text
    }
}

// expo-module.config.json — モジュールの宣言
{
  "platforms": ["apple"],
  "apple": {
    "modules": ["FoundationModelsBridgeModule"]
  }
}

// ios/FoundationModelsBridgeModule.swift — Swift 側の橋
import ExpoModulesCore
import FoundationModels
 
public class FoundationModelsBridgeModule: Module {
  public func definition() -> ModuleDefinition {
    Name("FoundationModelsBridge")
 
    AsyncFunction("isAvailable") { () -> Bool in
      if case .available = SystemLanguageModel.default.availability {
        return true
      }
      return false
    }
 
    AsyncFunction("respond") { (prompt: String) -> String in
      let session = LanguageModelSession(
        instructions: "短く丁寧に答えてください。"
      )
      let response = try await session.respond(to: prompt)
      return response.content
    }
  }
}

// lib/foundation-models.ts — JS 側の呼び出し口
import { requireNativeModule } from "expo-modules-core";
 
const FoundationModelsBridge = requireNativeModule("FoundationModelsBridge");
 
export async function localSummarize(text: string): Promise<string | null> {
  const available: boolean = await FoundationModelsBridge.isAvailable();
  if (!available) return null; // 呼び出し側で第2層・第3層に切り替える
  return FoundationModelsBridge.respond(`次のテキストを3行で要約してください: ${text}`);
}

// server/ai-router.ts — 第3層への入口に月次予算の天井を付ける
import { Hono } from "hono";
 
type Bindings = {
  ANTHROPIC_API_KEY: string; // 環境変数で注入する（コードに直書きしない）
  AI_SPEND: KVNamespace;     // 月間使用額の積算を保存する KV
};
 
const MONTHLY_BUDGET_USD = 50;
 
const app = new Hono<{ Bindings: Bindings }>();
 
app.post("/ai/heavy", async (c) => {
  const { prompt, estimatedCostUsd } = await c.req.json<{
    prompt: string;
    estimatedCostUsd: number;
  }>();
 
  const monthKey = `spend:${new Date().toISOString().slice(0, 7)}`;
  const spent = Number((await c.env.AI_SPEND.get(monthKey)) ?? "0");
 
  if (spent + estimatedCostUsd > MONTHLY_BUDGET_USD) {
    // 予算超過時は 429 を返し、クライアント側で第2層・第1層へ退避させる
    return c.json({ fallback: true, reason: "budget_exceeded" }, 429);
  }
 
  const res = await fetch("https://api.anthropic.com/v1/messages", {
    method: "POST",
    headers: {
      "content-type": "application/json",
      "x-api-key": c.env.ANTHROPIC_API_KEY,
      "anthropic-version": "2023-06-01",
    },
    body: JSON.stringify({
      model: "claude-haiku-4-5-20251001",
      max_tokens: 1024,
      messages: [{ role: "user", content: prompt }],
    }),
  });
  const data = (await res.json()) as { content: { text: string }[] };
 
  await c.env.AI_SPEND.put(monthKey, String(spent + estimatedCostUsd));
  return c.json({ text: data.content[0].text });
});
 
export default app;