Sprachmodelle können in zahlreichen Formaten vorliegen. Wer sie lokal einsetzen will, muss aber nur über Safetensors und das GGUF-Format Bescheid wissen.
Verschiedene Formate von Sprachmodellen im Überblick
Sprachmodelle können in zahlreichen Formaten vorliegen. Wer sie lokal einsetzen will, muss aber nur über Safetensors und das GGUF-Format Bescheid wissen.