Claude に月単位の大きな予算を任せることについて

単価表だけでLLM APIモデルを選ぶと、プロンプトキャッシュの効きが大きいワークロードでは実際のコスト順位が入れ替わる可能性がある。DeepSeek V4 Proはキャッシュヒット時の単価が他ベンダー（OpenAI・Anthropic・Google）の1/10以下であり、システムプロンプトが長いチャットボットではより高性能モデルがより低コストになる逆転現象が起きる。最適化はmax_tokensの調整→キャッシュ構造→バッチ処理の順で進めるべき。

フリーランスが契約書の読解に困る課題に対し、Claude Haiku API を活用した契約書要約 Webツールを個人開発。非弁行為回避を念頭にした UI 設計・プロンプト工夫により「読解サポート」として実装し、PHP・Vanilla JS で実現。現在サービス譲渡も検討中。

米国の大麻由来製品 (Delta 8、Delta 9、THCa など) の販売では、州ごとに製品の合法性が異なり頻繁に変わるため、標準的なストア単位の配送制限では対応できない。製品ごとにメタデータとして制限州リストを保持し、商品ページと決済時に二段階で検証するアプローチを、QuinteCBD での実装を例に解説。

自社プロダクト RoundaChat に組み込んだモデル比較機能を使い、Kimi K3 と Fable5 を JTruthfulQA の日本語124問で評価。結果として Fable5 の方が日本語回答の安定性・精度が高く、Kimi K3 は古語や法律知識で劣るものの、コスト効率とクリエイティブタスク向けの可能性を確認。