SchlüsselarbeitOriginalarbeiterreichbar
Distilling the Knowledge in a Neural Network
Hinton, Vinyals und Dean beschreiben am 09.03.2015 den Gedanken, das Können mehrerer großer Modelle in ein einzelnes kleines zu übertragen. Der Begriff Distillation stammt von hier. Was Anbieter heute als Verfahren verkaufen, ist die Anwendung dieser Arbeit auf Sprachmodelle.
geprüft 24.09.2026Archivfassung (externe Seite, web.archive.org)
Worauf sich diese Seite beruft, wörtlich, abgerufen am 06.08.2026:
it is possible to compress the knowledge in an ensemble into a single model which is much easier to deploy
bestätigt 24.09.2026
Distillation im Glossar02 Ein Modell auf eigene Daten abstimmen