Uitleg
Na training is een model klaar voor inferentie. Dit is wanneer je het model werkelijk gebruikt om nuttig werk te doen: voorspellingen maken, tekst genereren, afbeeldingen classificeren, enzovoort.
Inferentie is de "productie"-fase. Tijdens training leer je het model; tijdens inferentie zet je het model in om echte waarde te creëren. Een spam-filter gebruikt interferentie elke keer wanneer je een nieuwe e-mail ontvangt.
Inferentie moet vaak snel en efficiënt zijn, vooral in real-time applicaties. Een zelfrijdende auto kan zich niet veroorloven om minuten te wachten op een voertuigdetectiemodel; het moet milliseconden snelle voorspellingen doen.
⚡ Voorbeelden
- •Wanneer je een foto naar Google Lens stuurt, voert het beeldherkenningsmodel inferentie uit
- •ChatGPT voert inferentie uit wanneer het je vraag leest en een antwoord genereert
- •Een weerbericht-app voert inferentie uit op sensordata om de volgende dag's weer te voorspellen
Trefwoorden
voorspellinggebruikproductieinvoeroutput