Co je soubor SafeTensors?

Soubor končící na .safetensors ukládá tenzory a jejich metadata v jednoduchém formátu serializace modelu navrženém tak, aby se vyhnul riziku spuštění libovolného kódu spojenému se soubory vah založenými na pickle. Jde o artefakt modelu, nikoli o záruku, že je model důvěryhodný, kompaktní nebo navždy obnovitelný.

Co formát obsahuje

Formát SafeTensors ukládá hlavičku popisující tenzory, jejich typy, tvary a bajtové posuny a za ní samotná tenzorová data. Knihovny pro konkrétní framework mohou načíst váhy, aniž by při deserializaci požádaly načítač Python pickle o spuštění serializovaného kódu.

Soubor SafeTensors může být základní model, adaptér LoRA, komponenta většího modelu nebo jeden shard vícesouborového modelu. Samotná přípona neříká, které běhové prostředí jej očekává, jaký základ LoRA potřebuje ani zda je soubor úplnou sadou artefaktů projektu.

Co „bezpečný“ znamená a neznamená

Bezpečnost formátu není totéž jako důvěryhodnost zdroje. SafeTensors oproti serializaci založené na pickle snižuje jednu třídu rizik načítání; nedokládá, že jsou váhy modelu vhodné pro vaši úlohu, pocházejí od spolehlivého vydavatele, splňují licenci tvůrce nebo se v aplikaci chovají bezpečně.

SafeTensors není archiv ani kvantování

SafeTensors je reprezentace vah modelu. Archiv je pracovní postup uchování a obnovy souborů, které již máte. Kvantování je záměrná změna číselné reprezentace modelu pro cílové běhové prostředí nebo prostředky. Mohou se vyskytovat ve stejném projektu, řeší však různé problémy.

Potřebujete-li obnovit původní bajty, nepovažujte převod za jedinou kopii. Potřebujete-li menší pozměněnou běhovou reprezentaci, vyhodnoťte kvantování podle jeho vlastních parametrů. Praktické rozlišení vysvětluje článek úložiště SafeTensors oproti kvantování.

Jak zachovat srozumitelnost v knihovně modelů

• Udržujte základ, adaptér a kontext projektu propojené v názvu nebo inventáři, který spravujete.
• Nepředpokládejte, že je jediný soubor .safetensors samostatným modelem.
• Podle dokumentace cílového běhového prostředí určete, jak artefakt načíst.
• Pokud je dokončená související rodina důležitá, udržujte případně nezávislou zálohu a před vyčištěním prokažte samostatnou obnovu.

Další užitečná otázka

Pokud vybíráte místní inferenční kontejner, porovnejte SafeTensors a GGUF podle běhového prostředí a cíle obnovy. Pokud řešíte plný disk, další otázkou obvykle není „dokážu tento soubor otevřít?“, ale „co mám zachovat společně?“ Začněte článkem jeden základ a několik adaptérů nebo použijte kontrolní seznam uchování knihovny modelů.