GGUF ファイルとは？

GGUF は、llama.cpp など GGML ベースの推論ソフトウェア向けに作られたバイナリモデル形式です。GGUF ファイルは、型付きテンソルと、モデルを記述するために必要な構造化メタデータをまとめて保存します。高速読み込みとメモリマッピングを目的とします。効率的なローカル推論のため多くの GGUF ファイルが量子化されていますが、形式自体は量子化と同義ではありません。

GGUF ファイルの中身は？

現在の GGUF 仕様は、ヘッダー、キー・値メタデータ部、テンソル情報、整列済みテンソルデータを定義しています。メタデータは、モデルアーキテクチャ、コンテキストパラメーター、トークナイザー情報、その他の実装詳細を識別できます。テンソルレコードは、名前、次元、型、データ領域へのオフセットを記述します。

この組合せにより、単一の GGUF は「ウェイト＋複数の JSON ファイル」より自己完結しているように感じられます。実行環境が必要な情報を見つけるための標準的な場所が提供されます。ただし「多くの場合」が重要です。特定のアプリケーションが、拡張子だけでは保証されない外部テンプレート、生成設定、付随アセットを必要とする場合があります。

ローカルランタイムが GGUF を好む理由

GGUF は推論上の要件を中心に構築されています。テンソルデータは整列され、形式には明示的なバージョンがあり、ファイルをメモリマップできます。そのため互換性のある実行環境は、モデル全体を別のメモリ内表現へ先に変換せずデータへアクセスできます。仕様には拡張性もあり、古いリーダーに中核構成を誤解させず、新しいメタデータを追加できます。

実際には、同じアーキテクチャと GGUF の慣例を実装するツール間で移植可能な成果物になります。すべての AI アプリケーションで普遍的に移植可能なわけではありません。SafeTensors チェックポイントを求める Stable Diffusion UI は、どちらのファイルもテンソルを含むというだけで GGUF ランタイムにはなりません。

GGUF はモデルの量子化を意味する？

いいえ。GGUF はフル精度型と量子化型を含む複数のテンソル型を保存できます。配布ページでは、特定の変換を示すために Q4_K_M、Q5_K_M、F16 などのラベルがよく使われます。これらのラベルはファイル内のテンソル表現の選択を表し、.gguf はコンテナを表します。

量子化はストレージとメモリ要件を削減できますが、通常はモデル、量子化手法、作業に応じた品質または能力のトレードオフを伴います。高精度ソースを量子化 GGUF へ変換するとテンソル値が変わります。優れた推論成果物になり得ますが、後でソースチェックポイントを復元するなら、そのバイト単位で完全な代替ではありません。

GGUF のファイル名を過信せず読む方法

ファイル名にはモデル名、パラメーター規模、ファインチューニングラベル、コンテキストのヒント、量子化接尾辞が含まれる場合があります。これらは公開上の慣例であり、セキュリティ境界ではありません。信頼できる確認ツールまたはランタイム自体でメタデータを確認し、来歴とライセンスを評価できるソースからファイルを取得してください。

ファイル形式はパーサーの曖昧さを減らしますが、ウェイトの作成者、モデルカードの正確性、コンテンツがお客様の利用に適するかを証明しません。チェックサムは、既知の値と比べてバイトが変わっていないことを証明するものであり、そのバイトが無害または正しくライセンスされていることは証明しません。

GGUF と SafeTensors の違いを一文で

GGUF は、GGML 実行環境で広く使われる、定義済みメタデータ語彙を備えた推論用モデルコンテナです。SafeTensors は安全で高速なテンソルシリアライズ形式で、通常は別の設定ファイルやトークナイザーファイルとともに配布されます。どちらも普遍的な「よりよい形式」ではありません。正しい選択は、ランタイムと保存する必要のある成果物によって決まります。詳しい比較はGGUF と SafeTensors の比較にあります。

何を保持すべき？

信頼できるソースと変換レシピから GGUF を再現できるなら、すべての派生バリアントではなく、レシピとソースを保持できます。帯域幅が限られる、ソースが消える可能性がある、または特定の変換が運用上重要なら、GGUF 自体を保持するのも合理的です。拡張子単位ではなく、ファミリーごとに判断してください。

Tensor Archive は選択したローカルテンソルを保存し、完全な復元を検証します。GGUF を元の高精度モデルへ戻したり、欠けた来歴を推測したり、量子化のトレードオフが許容可能かを判断したりはしません。

より明確な形式マップを作成

SafeTensors と GGUF の比較へ進み、次にSafeTensors のストレージと量子化ガイドを使って、完全な保持と変換済み推論コピーを区別します。