{"id":5978,"date":"2019-10-28T15:00:27","date_gmt":"2019-10-28T14:00:27","guid":{"rendered":"https:\/\/perruchenautomne.eu\/wordpress\/?p=5978"},"modified":"2019-10-28T15:02:40","modified_gmt":"2019-10-28T14:02:40","slug":"de-lintelligence-artificielle-et-de-ses-erreurs","status":"publish","type":"post","link":"https:\/\/perruchenautomne.eu\/wordpress\/2019\/10\/28\/de-lintelligence-artificielle-et-de-ses-erreurs\/","title":{"rendered":"De \u00ab\u00a0l’intelligence artificielle\u00a0\u00bb et de ses erreurs"},"content":{"rendered":"\n

Actuellement, vous n\u2019\u00e9chapperez pas au sujet IA. Je ne sais pas combien d’\u00e9ditoriaux, d’articles, de discussions sont en cours sur le sujet. Il faut choisir son camp, pro ou anti, alors que ce n’est qu’un outil, pour l’instant. L’avenir est dans l’utilisation des machines pour am\u00e9liorer pas mal de choses dans notre vie quotidienne, si elles sont fiables. Comme n\u00e9phrologue, j’ai l’habitude des machines et des r\u00e9sultats bizarres. Je remets toujours en doute valeurs hors normes dans une histoire de la maladie. J’ai ainsi une certaine m\u00e9fiance vis \u00e0 vis des machines, mais je suis fascin\u00e9 comme tout amoureux de SF. L’IA sera un outil avec lequel nous devrons vivre. Interroger son efficience et ses limites est indispensable pour l’utiliser au mieux. Je ne connais rien qui ne soit que b\u00e9n\u00e9fice sans risque. L’IA n’\u00e9chappe pas \u00e0 cette \u00e9ternelle balance b\u00e9n\u00e9fice-risque. Depuis quelques temps, il nous est promis le remplacement du radiologue, de l’anatomopathologiste, du dermatologue, de l’ophtalmologue par l’IA. Peut \u00eatre que ceci arrivera, je suis quasiment sur que \u00e7a arrivera et les machines remplaceront aussi le n\u00e9phrologue. <\/p>\n\n\n\n

J’en profite pour signaler un lien d’int\u00e9r\u00eat. Je travaille dans un groupe sur IA et m\u00e9decine au sein de mon universit\u00e9. <\/p>\n\n\n\n

J’ai tendance \u00e0 me m\u00e9fier. Je reconnais que j’adore contredire le discours dominant, surtout quand il est catastrophique ou dans la dithyrambe. Nous devons absolument garder la t\u00eate froide et nous poser des questions. J’ai lu avec d\u00e9lectation un article <\/a>dont je conseille la lecture \u00e0 tous. Les radiologues, les anatpaths, les opthalmo vont \u00eatre rassur\u00e9s pour leur avenir. Le titre \u00ab\u00a0Pourquoi l’IA est elle si facile \u00e0 tromper?\u00a0\u00bb. L’auteur reprend la litt\u00e9rature des \u00e9checs de la reconnaissance visuelle par l’IA en l’illustrant joliment. Pour faire court, il est tr\u00e8s facile, juste en enlevant des pixels qu’une IA, performante au demeurant, prenne un lion pour une biblioth\u00e8que, un panneau stop pour une limitation \u00e0 50 km\/h, etc. <\/p>\n\n\n\n

\"\"\/
Petits exemples sortis de l’article ou comment faire qu’une IA prenne un stop pour un panneau limitation de vitesse \u00e0 45 juste en collant des adh\u00e9sifs blancs et noirs ou comment des images abstraites peuvent \u00eatre vu comme un pingouin ou une \u00e9toile de mer.<\/figcaption><\/figure>\n\n\n\n

Ceci peut para\u00eetre amusant, en pratique ceci est moins dr\u00f4le quand on sait que changer quelques pixels sur une radio pourrait modifier le diagnostic final fait par l’IA<\/a>. Il interroge de nombreux sp\u00e9cialistes qui expliquent comment ceci est possible. Le plus inqui\u00e9tant est de lire qu’il n’y pas de solution r\u00e9elle pour r\u00e9soudre ces faiblesses, sauf \u00e0 donner encore plus d’autonomie aux machines. Si j’ai bien compris, il faut qu’elles \u00e9crivent elles m\u00eame du code pour lutter contre leurs limites. Sans parano\u00efa aucune, est ce bien raisonnable? Le hacking de ces r\u00e9seaux de neurones qu’on pense robuste est tr\u00e8s facile en fait. De nombreux exemples sont donn\u00e9s. L’ajout de bruit invisible ou inaudible pour l’homme change compl\u00e8tement ce que la machine voit ou entend. Ceci est tr\u00e8s inqui\u00e9tant quand on imagine une soci\u00e9t\u00e9 de surveillance o\u00f9 l’IA sera un op\u00e9rateur indispensable. Nous devrons absolument garder \u00e0 l’esprit qu’il ne s’agit que de machines qui peuvent faire des erreurs mais de mani\u00e8re impr\u00e9dictible car nous ne savons pas vraiment comment elles apprennent avec les jeux de donn\u00e9es que nous leur fournissons. Les limites sont inh\u00e9rentes \u00e0 la mani\u00e8re d’apprendre, \u00ab\u00a0data-driven\u00a0\u00bb sans \u00e0 priori et supervision.<\/p>\n\n\n\n

Vous nourrissez votre machine de grandes quantit\u00e9s de donn\u00e9es et elle apprend \u00e0 reconna\u00eetre. La limite est que les images sont en 2D. Juste changer l’orientation spatiale modifie la reconnaissance. Par exemple, un panneau stop devient une halt\u00e8re ou une raquette. Imaginez une voiture autonome qui ne sait pas reconna\u00eetre le panneau stop qui a tourn\u00e9 de 45 degr\u00e9…<\/p>\n\n\n\n

\"\"\/<\/figure>\n\n\n\n

Nous avons parlez de reconnaissance et vous voyez que sorti de son contexte d’apprentissage l’IA ne sait pas s’adapter. Elle ne conceptualise pas mais recherche uniquement des homologies. Pour avancer, il faut que la machine th\u00e9orise et se confronte \u00e0 la r\u00e9alit\u00e9. Cette revanche des approches th\u00e9oriques et de la confrontation \u00e0 la r\u00e9alit\u00e9 et pas uniquement \u00e0 de la simulation est capitale. Depuis que j’ai commenc\u00e9 \u00e0 essayer d’enseigner, on me serine avec l’importance de la simulation qui va faire que plus jamais i n’y aura d’erreur. Pour moi, aucune simulation ne rendra compte de la complexit\u00e9 du monde et des situations. Rien ne remplacera l’exp\u00e9rience. Les \u00e9checs des IA nous disent: \u00ab\u00a0Ne nous coupons pas du monde sensible\u00a0\u00bb. Pour une m\u00e9taphore sportive, l\u2019entra\u00eenement si il est indispensable ne remplacera jamais le temps de matchs ou pour les amateurs de jazz, lisez comment \u00e0 une \u00e9poque Miles Davis travaillait. L’IA nous montre la limite de la simulation. L’exemple donn\u00e9 est amusant. R\u00e9cemment une IA est capable de battre tous les joueurs de jeu vid\u00e9o, en apprenant \u00e0 jouer. Sa force, comme les IA joueuses de go ou d’\u00e9checs, jouer des millions de parties et apprendre. Ce qui est amusant c’est quand dans des jeux moins formels que le go ou les<\/p>\n\n\n\n

\"A<\/figure>\n\n\n\n

\u00e9checs on voit l’IA se faire avoir. On peut apprendre \u00e0 une IA footballeuse \u00e0 anticiper toutes les positions du goal et marquer des buts. Sauf que si le goal reste au sol en permanence l’IA est perdu et n’arrive plus \u00e0 savoir quoi faire. Cette strat\u00e9gie absurde du goal n’a jamais \u00e9t\u00e9 rencontr\u00e9e par l’IA durant sa formation. Elle est perdue. C’est impressionnant, non? Il s’agit du top de l’apprentissage IA… <\/p>\n\n\n\n

Les exemples pullulent et les solutions aussi, en pratique on arrive toujours \u00e0 la m\u00eame r\u00e9ponse, il faut apprendre \u00e0 apprendre. A la lecture de cet article, une chose m’est apparue \u00e9vidente, nous devons apprendre de ce qui ne marche pas dans l’apprentissage par les machines, pour ne pas partir sur des pistes d’\u00e9ducations qui seront dramatiques, r\u00e9sumer le monde \u00e0 2D, l’absence de confrontation \u00e0 la r\u00e9alit\u00e9, l’absence de mentor qui explique et fait gagner du temps (l’interaction avec un sachant), la vie en simulation avec des r\u00e8gles rigides, etc. Les chercheurs en IA tentent d’enseigner comment apprendre de ses erreurs et de ses autres apprentissages (transversalit\u00e9), tente de nourrir les IA avec de la 3D et de l’interaction avec le monde. Nous sommes aux d\u00e9buts d’une nouvelle IA. La lecture de cet article m’a r\u00e9joui. Les g\u00e9nies qui pensent que l’enseignement se r\u00e9sume \u00e0 de l\u2019ingurgitation de donn\u00e9es accessibles sans m\u00e9diateur et sans confrontation \u00e0 la r\u00e9alit\u00e9 se fourre le doigt dans l\u2019\u0153il mais jusqu’\u00e0 l’\u00e9paule. Cet article doit \u00eatre absolument lu par tous les penseurs de l’\u00e9ducation qui veulent r\u00e9sumer l’enseignement \u00e0 de la simulation et de la vie derri\u00e8re un \u00e9cran. Est ce que nous voulons que nos enfants ne sachent reconna\u00eetre une bouteille qu’en 2D? L’outil informatique n’est qu’un outil, un support, il ne doit pas tout remplacer, la tentation est forte pour des questions de co\u00fbts et par le fait qu’on ne m\u00e9diatise pas les \u00e9checs de l’IA et de ces formes d’apprentissages. Cet article m’a fait beaucoup r\u00e9fl\u00e9chir sur l’importance de prot\u00e9ger nos enfants d’une \u00e9ducation qui ne se ferait plus que face \u00e0 des \u00e9crans. Je pense que les sp\u00e9cialistes de l’IA ne feront pas l’\u00e9conomie d’une discussion avec les sp\u00e9cialistes du d\u00e9veloppement cognitif et des sciences de l’\u00e9ducation et inversement. La capacit\u00e9 \u00e0 simuler des machines peut nous donner des pistes passionnantes pour savoir comment l’homme peut mieux apprendre.<\/p>\n\n\n\n

Petit conseil musical, l’excellent nouvel album du souljazz orchestra, plein d\u2019\u00e9nergie, de r\u00e9volte et d’envie.<\/p>\n\n\n\n

\n