Originalarbeiterreichbar
DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter
Sanh und Mitautoren führen am 02.10.2019 vor, was Distillation an einem echten Sprachmodell leistet, und beziffern alle drei Seiten: Größe, erhaltenes Können und Tempo. Es ist die einzige Wirkungsangabe des Themas, die aus einer offengelegten Messung stammt. Die Anbieter beziffern allein ihre Preise.
geprüft 24.09.2026Archivfassung (externe Seite, web.archive.org)
Worauf sich diese Seite beruft, wörtlich, abgerufen am 06.08.2026:
reduce the size of a BERT model by 40%
bestätigt 24.09.2026retaining 97% of its language understanding capabilities
bestätigt 24.09.2026being 60% faster
bestätigt 24.09.2026
Distillation im Glossar02 Ein Modell auf eigene Daten abstimmen