MLflow のマルチモーダルトレーシングを Databricks で試す

開発者がツール関数の消失に 1 ヶ月気づかなかった事例。モデルが欠落機能を自力で補い流暢に動作し続けたため、エラーが出ず違和感を見落とした。思考過程ログ確認・複数文脈での再現・コスト増・出力形式の非決定性などから検知可能だが、根本は「モデルの流暢さを健全性の指標にしない」という認識転換にある。

単一のAIプロバイダへの依存は予告なく機能停止されるリスクを持つため、OpenAI / Claude / Gemini を共通インターフェースで抽象化し、障害時に自動で次のプロバイダへ切り替えるフェイルオーバー機構をPythonで実装する方法を紹介。設定の外出しにより優先順位やモデル名を環境変数で変更でき、プロバイダ停止時もコード変更なしに対応可能。

Claude や GPT-4 をローカル LLM に完全移行する現実性を検証する記事。コーディングタスク別の適合性マトリクスと代表的なローカルモデル (DeepSeek-Coder-V3、Qwen2.5-Coder など) の比較を提示し、Ollama + Continue.dev による統合と、ローカル優先・クラウドフォールバックの実装パターンを紹介。単一ファイル補完やテスト生成はローカルで十分だが、複雑な推論やアーキテクチャ設計はクラウド推奨と結論付け。

Anthropic が 6 月 9 日に公開した最上位モデル Fable 5 と Mythos 5 が、米政府の輸出規制指令を受けて 3 日後に全ユーザー向けに停止された。指令は「外国籍者によるアクセス禁止」だが、国籍判定が技術的に困難なため Anthropic は全顧客向けに無効化を余儀なくされた。Anthropic は問題の抜け道は限定的で他社モデルでも可能だと反論し、早期復旧を目指して政府と協議中。