LLM APIの「安いモデル」は、プロンプトキャッシュを考慮すると順位が逆転する

Reddit ユーザーが Claude に月単位の重要な予算管理を任せている実例を紹介。API の能力と信頼性についての議論が展開される。ビジネスや財務判断を AI に委譲する実運用事例が注目を集めている。

フリーランスが契約書の読解に困る課題に対し、Claude Haiku API を活用した契約書要約 Webツールを個人開発。非弁行為回避を念頭にした UI 設計・プロンプト工夫により「読解サポート」として実装し、PHP・Vanilla JS で実現。現在サービス譲渡も検討中。

米国の大麻由来製品 (Delta 8、Delta 9、THCa など) の販売では、州ごとに製品の合法性が異なり頻繁に変わるため、標準的なストア単位の配送制限では対応できない。製品ごとにメタデータとして制限州リストを保持し、商品ページと決済時に二段階で検証するアプローチを、QuinteCBD での実装を例に解説。

自社プロダクト RoundaChat に組み込んだモデル比較機能を使い、Kimi K3 と Fable5 を JTruthfulQA の日本語124問で評価。結果として Fable5 の方が日本語回答の安定性・精度が高く、Kimi K3 は古語や法律知識で劣るものの、コスト効率とクリエイティブタスク向けの可能性を確認。