Wat is een SafeTensors-bestand?

Een bestand dat eindigt op .safetensors slaat tensors en hun metagegevens op in een eenvoudige modelserialisatie-indeling die is ontworpen om het risico op uitvoering van willekeurige code bij op pickle gebaseerde gewichtenbestanden te vermijden. Het is een modelartefact, geen garantie dat een model betrouwbaar, compact of voor altijd herstelbaar is.

Wat de indeling bevat

De SafeTensors-indeling slaat een header op die tensors, hun typen, vormen en byte-offsets beschrijft, gevolgd door de tensorgegevens zelf. Frameworkspecifieke bibliotheken kunnen de gewichten laden zonder een Python-pickle-loader te vragen tijdens deserialisatie geserialiseerde code uit te voeren.

Een SafeTensors-bestand kan een basismodel, een LoRA-adapter, een onderdeel van een groter model of één shard van een model met meerdere bestanden zijn. Alleen de extensie vertelt niet welke runtime het verwacht, welke basis een LoRA nodig heeft of dat het bestand de volledige verzameling artefacten voor een project vormt.

Wat ‘veilig’ wel en niet betekent

Veiligheid van de indeling is niet hetzelfde als vertrouwen in de bron. SafeTensors vermindert één categorie laadrisico ten opzichte van serialisatie op basis van pickle; het stelt niet vast dat de modelgewichten geschikt zijn voor jouw taak, van een betrouwbare uitgever komen, aan de licentie van een maker voldoen of zich veilig gedragen in een toepassing.

SafeTensors is geen archief of kwantisering

SafeTensors is een representatie voor modelgewichten. Een archief is een workflow voor retentie en herstel van bestanden die je al hebt. Kwantisering is een bewuste wijziging van de numerieke representatie van een model voor een runtime- of resourcedoel. Deze kunnen in hetzelfde project voorkomen, maar lossen verschillende problemen op.

Wil je de oorspronkelijke bytes kunnen herstellen, behandel een conversie dan niet als enige kopie. Heb je een kleinere, gewijzigde runtimerepresentatie nodig, beoordeel kwantisering dan op haar eigen voorwaarden. Lees voor het praktische onderscheid SafeTensors-opslag tegenover kwantisering.

Zo houd je het begrijpelijk in een modelbibliotheek

• Houd basis, adapter en projectcontext gekoppeld in de naam of inventaris die je beheert.
• Ga er niet van uit dat één .safetensors-bestand een zelfstandig model is.
• Gebruik de documentatie van de doelruntime om te bepalen hoe je het artefact laadt.
• Wanneer een voltooide, samenhangende familie ertoe doet, bewaar dan waar passend een onafhankelijke back-up en bewijs een afzonderlijk herstel voordat je opruimt.

De volgende nuttige vraag

Kies je een lokale inferentiecontainer, vergelijk dan SafeTensors met GGUF op basis van runtime en hersteldoel. Kijk je naar een volledige schijf, dan is de volgende vraag doorgaans niet ‘kan ik dit bestand openen?’, maar ‘wat moet ik samen bewaren?’ Begin met één basis en meerdere adapters of gebruik de controlelijst voor retentie van modelbibliotheken.