Uitleg
Fine-tuning is een belangrijke techniek in machine learning waarbij een model dat al op grote datasets is getraind (een "pre-trained model"), verder wordt getraind op een kleinere, meer specifieke dataset.
In plaats van een model vanaf nul te trainen (wat veel computerkracht en data vereist), begin je met een model dat al basiskennis heeft. Door het vervolgens op je specifieke data te trainen, aanvaardt het model zich aan je usecase.
Bijvoorbeeld, OpenAI's GPT kan fine-tuned worden op bedrijfsdocumenten om een AI-assistent te creëren die in jouw bedrijfsstijl antwoord geeft. Dit is veel efficiënter dan een nieuw model helemaal zelf trainen.
⚡ Voorbeelden
- •Een bedrijf fine-tuned BERT op 10.000 technische emails om een AI-classifier voor ondersteuningstickets te maken
- •OpenAI biedt fine-tuning van GPT-3.5 aan zodat gebruikers het model kunnen aanpassen aan hun stijl
- •Artsen trainen een medisch taalmodel door fine-tuning met aantekeningen uit hun patiëntendossiers
Trefwoorden
transfer-learningtrainingaanpassingsmechanismemachine-learning