FreeToken とは何か─8GB ノート PC で 35B を動かす判断基準
出典: Qiita (Claude tag)
Hiroba による自動要約
arXiv に投稿された FreeToken 論文は、個人マシン向けの MoE 推論エンジンで、8GB ノート PC で 35B クラス、32GB ゲーミング PC で 284B クラスのモデルを実用速度で動かせる。GPU の強さではなく GPU・CPU・ホストメモリ間の転送帯域比が推論速度を決めるため、チューニング対象は設定ファイルから自マシンの実測値に変わる。プリフィル・再計算・デコード・リソース変動の 4 つの詰まりに対し、二重バッファリングやセマンティックアンカーなどの具体的な対策が提示されている。
出典・元記事
Qiita (Claude tag) の記事を Hiroba が自動要約しました。元記事を読む
読んで良かったら、シェアしてみてください。
同じタグの記事が他に 4364 件あります。
関連する記事
同じタグの記事
Claude Cowork をターミナルと Finder から一発起動する設定方法
DevIOClaude Desktop が claude:// URL スキームに対応していることを利用し、macOS のターミナルと Finder から Cowork をカレントディレクトリで起動する方法を紹介。zsh 関数と Automator クイックアクション経由でフォルダパスを URL エンコードして open コマンドに渡すだけで実装可能。
.claude/設定で黙って無視される5つのパターン — エラーが出ない構成ミス
Zenn.claude/ディレクトリの設定ファイルには、JSON 構文は正しいが意図どおりに動作しない無視される状態が複数ある。matcher が対応していないイベント、if フィールドが評価されないイベント、非推奨キー、ハンドラの型ごとの必須フィールド、MCP ツール名のプラグイン経由での変更など、起動時エラーが出ずに黙って失効する 5 つのケースと検査ツール ccheck の紹介。
