Waarom is dit belangrijk?
Veel gegevenssets bevatten overbodige metingen, en door die weg te laten traint een model sneller en wordt het makkelijker te volgen. In marketing en economie komt kenmerkselectie voor wanneer onderzoekers een uitkomst willen schatten uit veel verschillende metingen. Op school en op het werk kunnen mensen de gekozen metingen nagaan, maar bij een te smalle keuze mist het model een nuttig signaal of leert het toevallige patronen uit de trainingsgegevens.
Zo werkt het in de praktijk
Onderzoekers passen kenmerkselectie toe bij genexpressie op microarrays, bij het herkennen van spam en bij beeldherkenning. Die taken hebben veel kenmerken en relatief weinig voorbeelden. Bij spam beoordeelt een beslissingsboom deelverzamelingen aan de hand van een gewogen kost.
Onderzoek in machine learning vergelijkt filters, wrappers en ingebedde methoden. Een filter scoort kenmerken met een snelle statistische maat en traint het model niet opnieuw. Een wrapper traint voor elke deelverzameling een model en meet de fout op een testset.
In de documentatie van scikit-learn staat kenmerkselectie als voorbereiding op een model. Daar horen SelectKBest, recursieve kenmerkverwijdering en Lasso bij. Bij Lasso worden veel coëfficiënten nul, en blijven alleen de andere kenmerken gekozen.




