Les machines à noyaux et leur mise en œuvre

Les machines à noyaux et leur mise en œuvre
le9novembre2007
GroupedetravailECAIS
StéphaneCanu
stephane.canu@litislab.euL’apprentissagestatistique Lesoutils Interpolation noyauetparcimonie miseenœuvre Conclusion
Plan
1 L’apprentissage statistique
2 Les outils
3 Les méthodes à noyau non parcimonieuses
4 Les méthodes à noyau parcimonieuses
5 Aspects pratiques liés à la mise en œuvre des machines à
noyaux
6 ConclusionL’apprentissagestatistique Lesoutils Interpolation noyauetparcimonie miseenœuvre Conclusion
OCR : Base de données MNIST
Example (Base de données MNIST)
1I La base de donnée MNIST , données = couples
« imagette-étiquette »
I n = 60:000;d = 700;nbclasses = 10
I noyaux : taux d’erreur = 0,56 %,
I meilleur résultat = 0,4 % d’erreur).
7 8 7 9
1http://yann.lecun.com/exdb/mnist/index.html
Figure: Exemple d’imagettes pour la reconnaissance automatique de chiffres.L’apprentissagestatistique Lesoutils Interpolation noyauetparcimonie miseenœuvre Conclusion
deux autres exemples
Example (Base de données RCV 1)
2La base de données catégorisation, disponible en ligne , contient un
ensemble de textes chacun associé à plusieurs catégories. Cette base
contient 800.000 textes associés à plus d’un millier de catégories. Sur
cette base on peut, soit essayer de retrouver les catégories d’un document
(discrimination multiclasses), soit proposer une nouvelle hiérarchie de
classement des documents (classification automatique)
Example (Base de donnéescensus-house)
Cette base de données ...