iOS 27のLanguageModelプロトコルでClaudeもGeminiも差し替える

自社プロダクト RoundaChat に組み込んだモデル比較機能を使い、Kimi K3 と Fable5 を JTruthfulQA の日本語124問で評価。結果として Fable5 の方が日本語回答の安定性・精度が高く、Kimi K3 は古語や法律知識で劣るものの、コスト効率とクリエイティブタスク向けの可能性を確認。

タロット・おみくじ・手相の3つのClaude API連携アプリを通じて、個人開発で一貫して守ってきた設計パターンを整理。決定的ロジックとAI解釈の分離、プロンプトの役割・文章量・形式の明示、APIキーのセキュアストレージ管理といった共通アーキテクチャから、テキスト入力から画像入力への拡張まで、段階的な型の応用方法を事例で解説。

AI開発のコスト削減は単価の安いモデル選択よりも、無駄なトークン送信の削減が効果的。著者が自作プロキシで1年間の開発を測定した結果、モデルと成果は変えずに54.7%のトークンを削減。curl・ログ・プロセス一覧など「高ノイズ出力」を圧縮してから渡すことで、誤差レベルではなく桁違いのコスト改善が可能。

LanceDB をサーバーレスな Amazon S3 バックエンドで運用し、Amazon Bedrock の埋め込みモデルと組み合わせてベクトル検索と簡易 RAG を実装した検証結果を報告。DB サーバーレス構成の実用性と課題を明確化。