Full transcript
0:01[musique]
0:07Bonjour à toutes et à tous. Bienvenue
0:09dans notre formation découverte de l'IA
0:11et toujours sur l'histoire, les bases et
0:13les concepts. Ben, on va s'intéresser
0:16maintenant dans cette courte vidéo. On
0:18va découvrir comment s'entraîne un,
0:19comment on entraîne un, comment se fait
0:22l'apprentissage de de nos IA. Alors euh
0:25on a vu qu'il y avait euh des petites et
0:27des grands dias qui avaient dans le
0:29vivant euh des animaux qui avaient peu
0:31de neurones et puis d'autres qui en
0:32avait beaucoup. Euh et ben
0:34l'apprentissage va pas se faire tout à
0:35fait pareil que l'on soit petit ou que
0:37l'on soit grand. Alors si on prend des
0:39petites intelligences artificielles
0:41alors qui vont nous servir à faire des
0:42tas de choses super utiles hein, il y a
0:45pas que les très grosses I comme chat
0:46GPT ou GMini. Euh si on prend une petite
0:49tiade donc qui va nous faire de la
0:50petite classification euh de de données
0:52ou des choses comme ça, on est sur des
0:54petites quantités de neurones, des
0:55petites quantité de paramètres, on est
0:57sur des choses qui sont euh qui peuvent
0:59tourner comme ça dans un ordinateur
1:01portable sans problème, hein. On a
1:02quelques millions de paramètres,
1:03quelques quelques milliers, quelques
1:05dizaines, centaines de milliers de
1:06paramètres. On est sur des petits ordres
1:07de grandeur par opposition aux grandes
1:09I, donc par exemple les LLM où on est on
1:13est on est à peu près aujourd'hui dans
1:15les 1000 milliards de paramètres. Donc
1:17on a un facteur 100000 au moins entre
1:19les petites et les grandes et
1:21l'apprentissage bah va pas se faire
1:22pareil. Les missions que l'on attend de
1:24CIA ne seront pas les mêmes. Voilà. Et
1:26dans le vivant ben c'est pareil hein, on
1:27a des choses toutes petites enfin avec
1:30très peu de neurones. On prend un
1:31escargot encore une fois c'est 10000
1:32neurones à peu près par rapport à un
1:34éléphant. On est à 250 milliards de
1:35neurones. Donc des très grands écarts en
1:37ordre de grandeur. Alors, si on
1:39s'intéresse à une petite IA et on va par
1:41exemple prendre le problème de
1:42classification d'image. Alors, on va
1:45vouloir casser par exemple des chats et
1:47des lapins. Voilà, donc ça c'est là, on
1:49a un chat à gauche et puis on a un lapin
1:51à droite. Et nous, humains, bah on est
1:53capable d'un coup d'œil comme ça de dire
1:54"Bah oui, à gauche un chat, à droite
1:55c'est un lapin." Et pourtant, il y a
1:57quand même beaucoup de points communs.
1:58Les deux ont des oreilles pointu, des
2:00yeux à peu près la même quantité, le
2:02même nombre de pattes et cetera et
2:04cetera. Voilà. Alors après, il y a des
2:05formes, il y a des choses différentes.
2:07Et donc bah quand nous quand on est
2:08enfant, à partir de quelques exemples,
2:11on aura vu un chat, on aura vu un lapin
2:13et on sera capable après assez
2:14facilement de faire la différence entre
2:16un chat et un lapin. Voilà, c'est par
2:19apprentissage à partir de données. Et
2:21ben ça va être la même chose qui va se
2:22passer. Alors on va prendre un grand
2:24nombre de un grand corpus de données euh
2:26alors des données, ce qu'on appelle
2:28supervisé. Donc ce sont des données des
2:30images, des images de chat et des images
2:32de lapin. Et pour chaque image, on va
2:34savoir ce que c'est. Est-ce que c'est un
2:35chat ? Est-ce que c'est un lapin ? Donc
2:36sur chaque image, on va avoir une
2:38annotation. Ceci est un chat, ceci est
2:40un lapin, ceci est un lapin, ceci est un
2:42chat. Voilà. Et donc on va prendre comme
2:44ça nos données et on va les partager en
2:46deux grands corpus. On va avoir des
2:48données que l'on va utiliser pour
2:49l'apprentissage. Donc ces données-là ne
2:51serviront que pour l'apprentissage. Euh
2:54donc par exemple, si je suis prof et que
2:56j'ai des élèves, je vais avoir, je sais
2:58pas, 20 exercices de math et ben je vais
3:01garder 15 exercices de math pour
3:02utiliser en cours, pour apprendre. Et
3:04puis je en gardé cinq pour l'évaluation
3:07que je garderai bien précieusement de
3:09côté et qui ces exercices là ne
3:11serviront que pour l'évaluation en
3:13interro à la fin pour voir si
3:15l'apprentissage é est bien passé. OK, on
3:17a séparé nos données. En général, on
3:19fait du 8020, on peut faire du 70 30
3:21hein, ça des point un petit peu
3:22contextuel. Alors et ensuite on va
3:24rentrer dans une ce qu'on appelle une
3:25boucle d'apprentissage.
3:27Et ça va être à peu près pareil que ce
3:29que l'on fait en classe. On va prendre
3:32un certain nombre. Donc on va prendre la
3:33pile d'images d'apprentissage, hein. On
3:35va prendre les images d'apprentissage.
3:36Donc 80 % par exemple de nos images du
3:41au total. Et on va piocher un ensemble
3:44d'images. On va piocher une poignée
3:45d'imaginer
3:48à notre IA qui est en apprentissage et
3:50on va lui demander de nous faire une
3:51prédiction. On lui pose question. Voilà,
3:53est-ce que c'est un chat ? Est-ce que
3:54c'est un lapin ? Est-ce que ce sont des
3:55chats ? Est-ce que ce sont des lapins ?
3:57Et on va récupérer comme ça une
3:58prédiction.
3:59Cette prédiction, bah c'est un ensemble
4:01d'images avec une prédiction. Ceci est
4:03un chat, ceci est un lapin, mais il va y
4:04avoir des erreurs. Et donc on va
4:05comparer cette prédiction par rapport au
4:08résultat attendu, hein. On a comme ça
4:10notre résultat attendu qui est ici. On a
4:12notre prédiction ici. Et à partir des
4:15deux, on va avoir comme ça identifier un
4:18certain nombre d'erreurs. Et ces erreurs
4:20vont permettre de euh faire une
4:21correction de notre modèle ici. Et de
4:24cette manière-là, on va itérer. Donc on
4:27a fait une première boucle, on corrige
4:28notre modèle. On replioche un ensemble
4:30d'images, on a une nouvelle prédiction,
4:32on recompare cette prédiction par
4:33rapport aux résultats attendus, on a un
4:35certain nombre d'erreurs et à partir de
4:37ces erreurs, on va refaire une
4:38correction de notre modèle. Et c'est
4:40quelque chose qui ressemble étrangement
4:42euh à notre processus d'apprentissage.
4:44C'est-à-dire qu'on fait un exercice, euh
4:46on recorrige, à partir de la corruption,
4:48on se dit "Ben, on essaie de comprendre
4:49ce qui s'est passé, on met à jour notre
4:51cerveau et puis on continue comme ça, on
4:53va itérer comme ça." Voilà. Alors
4:56dans le processus d'apprentissage donc
4:58on prend à chaque fois à chaque boucle à
5:00chaque itération on prend une pile
5:02d'imag et puis quand on a fini notre
5:04pile d'image on dit qu'on a fait une
5:06époque c'est le terme métier on a fait
5:08une époque dans notre processus
5:09d'apprentissage et puis on recommence on
5:11va refaire une deuxième époque. Donc on
5:13reprend la pile et puis on repasse la
5:14pile, on refait des prédictions, on
5:16regarde les corrections et cetera et
5:17cetera et puis on va réitérer comme ça.
5:19qu'on fait 2 3 4 5 10 20 50 100000
5:22époques parfois dans dans ce processus
5:24d'apprentissage. Alors on va comme ça
5:27apprendre progressivement mais pour
5:28apprendre progressivement ça n'a de sens
5:30que si on évalue aussi la qualité de
5:32notre apprentissage. Et ça c'est quelque
5:34chose qui est fondamental.
5:36On va avoir, je rappelle que l'on avait
5:39comme ça 80 % de nos images ici qui
5:42servent à l'apprentissage et puis 20 % à
5:44notre évaluation ici. Bah nos 80 %
5:47d'imagle que l'on a vu précédemment, à
5:50chaque fois que l'on va faire une
5:51prédiction et qu'on va avoir des
5:52erreurs, on va mesurer comme ça le taux
5:54d'erreur. On va mesurer comme ça la
5:56qualité de notre apprentissage. Et c'est
5:58ce que l'on a ici sur cette courbe. On
5:59va avoir une courbe qui va progresser,
6:02qui va progresser tout le temps puisque
6:04bah au pire on apprend les exercices par
6:07cœur, on les connaît, on les apprend
6:09progressivement et donc on va
6:11progresser, progresser, progresser,
6:13progresser, progresser, progresser. Mais
6:15c'est pas très significatif. C'est pour
6:17ça qu'on a nos données d'évaluation qui
6:19sont ici et on va prendre bah
6:22régulièrement donc
6:25chaque époque par exemple, on va donner
6:27ces exercices, donc ces photos que
6:29notrea n'a jamais vu et puis on va
6:32regarder la progression de
6:33l'apprentissage au fil des époques et on
6:35va voir que l'on va avoir une on va
6:36avoir une progression comme ça qui va se
6:38faire jusqu'à un certain point et puis
6:39ensuite ça va régresser. Bah, c'est
6:42comme chez nous les humains.
6:43C'est-à-dire que comme je disais tout à
6:44l'heure, si on bâchote, on bâchotte, on
6:47bâchote, on finit par apprendre nos
6:49exercices par cœur. Et en apprenant les
6:51exercices par cœur, bah finalement,
6:52c'est très bien. Mais quand on a quelque
6:54chose de nouveau qui se présente comme
6:55avec nos données d'évaluation, bah ça se
6:57passe pas bien. Et là, ça va se
6:58dégrader. On va au bout d'un moment ne
7:00plus être capable de faire les choses
7:01correctement et la qualité de notre
7:03apprentissage va se dégrader. Donc, on
7:05va avoir une progression qui va se faire
7:07jusqu'à un maximum et puis ensuite ça va
7:09régresser. C'est ce qu'on appelle la
7:11phase de surapprentissage et tout l'art
7:13de l'apprentissage ben c'est de
7:15s'arrêter au bon moment, c'est d'être
7:17capable de s'arrêter au moment où
7:19l'apprentissage est le meilleur quoi.
7:21Avant de rentrer dans cette phase
7:22surapprentissage. Voilà, c'est comme
7:24chez les humains, bah c'est comme chez
7:25les I et comme chez les IAS, c'est comme
7:27chez les humains. Il y a pas de problème
7:28d'apprentissage
7:29on a une progression et puis après on
7:31risque de rentrer dans cette zone de
7:32surapprentissage.
7:34Voilà. Et alors ça se fait relativement
7:36bien. On a des des des solutions
7:38logicielles, on a de l'informatique, on
7:39a des outils pour piloter toutes ces
7:41choses-là de manière très très efficace
7:43quoi. Mais voilà le principe de
7:45l'apprentissage qui est finalement très
7:46universel. C'est intéressant de voir que
7:48ce côté universel est vraiment
7:50troublant. C'est ça se procède. On
7:52procède exactement de de cette façon-là.
7:55Alors dans le cas des grandes I, bah ça
7:57va être encore pareil. ça va être un peu
7:58comme chez nous les humains. Alors une
8:00autre échelle puisque l'échelle de base,
8:03l'échelle élémentaire bah ça va se
8:04passer juste comme on vient de le voir
8:06précédemment mais voilà se situer à un
8:09niveau un petit peu plus complexe
8:11puisque là on va on attendre des tâches
8:13on va attendre de saisill des tâches
8:14beaucoup plus complexes. Alors comment
8:16ça va se passer ? Ça va se passer de
8:17manière assez troublante, de manière
8:19assez proche de ce qui se passe chez les
8:20humains en cinq étapes que que l'on a
8:23que l'on décrit ici. Alors, la première
8:25étape, ça va être de récupérer des
8:27données. On a besoin d'information. On a
8:29besoin d'information. Alors, comme un
8:30nouveau nez, un nouveau nez même inutero
8:33récupère tout un tas d'informations, des
8:35sons, des odeurs, des bruits, du
8:37toucher. Il regarde, il observe, il
8:39entend.
8:41Un nouveau nez est une éponge, il
8:43récupère toutes les informations qu'il
8:44peut récupérer. Et ben, on va faire
8:46pareil pour entraîner notre IA. On va
8:47récupérer un maximum d'information.
8:50Maximum d'information. Aujourd'hui, les
8:52dataset qui sont utilisés pour entraîner
8:53des grandes IA, c'est quasiment toutes
8:55les données de l'internet que l'on
8:56récupère.
8:58Alors, à partir de ces données, ben on
8:59va faire un première phase
9:00d'apprentissage pour faire ce que l'on
9:02appelle un modèle de fondation. Un
9:04modèle de fondation, c'est un modèle qui
9:06apprend à parler, qui maîtrise le
9:09langage. Alors, il va maîtriser plein de
9:10langues, mais il apprend juste à parler,
9:12à aligner des mots. Comme comme un
9:13enfant quand il apprend à parler, il
9:15apprend à aligner des mots. Et le
9:16processus va être assez rigolo, c'est de
9:18manière troublante, assez similaire. On
9:20apprend à faire des phrases. On sait pas
9:22ce que veulent dire les phrases à la
9:23limite, mais on apprend à faire des
9:25phrases. Donc, on donne un une phrase et
9:27on lui demande de compléter le mot qui
9:29manque à la fin, par exemple, pour notre
9:30tri où on lui donne une phrase avec des
9:32trous et on lui demande de trouver de de
9:34de trouver les trous, enfin les mots
9:36qu'il y a euh à la place des trous.
9:38Voilà. Donc, c'est apprendre à faire des
9:39phrases, apprendre à maîtriser la langue
9:41euh voilà, sans savoir, sans présager de
9:44ce que ça veut dire. Voilà, on apprend à
9:46parler comme un enfant. Alors cette
9:47phase, elle est extraordinairement
9:49coûteuse, c'est extrêmement long, c'est
9:51quelque chose de très très complexe.
9:53L'apprentissage d'une langue,
9:54l'apprentissage des langue,
9:56l'apprentissage de parler, de d'être
9:57capable de construire des phrases et
10:00quelque chose extrêmement coûteux.
10:01Voilà. Donc fabriquer un modèle,
10:03entraîner un modèle de fondation. Donc
10:05on parle de préraining,
10:07entraîner un modèle de fondation est
10:09quelque chose de super coûteux qui
10:10nécessite vraiment des quantités de
10:12calcul monstrueuses quoi. Et de la même
10:14façon que l'apprentissage du langage
10:16chez un enfant, c'est quelque chose qui
10:18prend du temps. Et qui prend du temps
10:19alors qu'ils ont des cerveaux qui sont
10:21ultra performants en en basage. Ce sont
10:23des éponges. Ils sont capables
10:24d'apprendre de manière
10:25extraordinairement efficace, bien plus
10:27efficace que ce que l'on est capable
10:28nous de faire quand on essaie
10:29d'apprendre une langue quand on est
10:31adulte.
10:32Voilà, ça c'est la première phase, enfin
10:34la deuxième phase, la première phase
10:36d'apprentissage extrêmement importante.
10:38La phase suivante d'apprentissage et
10:39c'est ce qu'on appelle le fine tuning.
10:41Alors, on va prendre un modèle de
10:42fondation, donc on a un enfant qui a
10:45appris à parler, à faire des phrases,
10:46bah il va à l'école et on va lui
10:49apprendre à répondre à des questions,
10:50des questions de math, des questions
10:51d'histoire, des questions de géographie.
10:54Et ben notre modèle de fondation va lui
10:56apprendre à répondre à des questions. On
10:57lui donne des questions et on attend une
10:59réponse et on va faire en sorte que il
11:01sache répondre à ces questions.
11:02Processus similaire à ce que l'on a vu
11:03précédemment. Mais là on lui pose des
11:05questions. On lui demande pas de
11:06reconnaître un chat et un lapin. La
11:08question qu'on lui pose B on lui pose
11:09une question un exercice de math et on
11:10attend lui la réponse. On lui pose une
11:12question d'histoire et on attend lui la
11:13réponse. Voilà. Et ça bah c'est ce qu'on
11:16appelle du fine tuning et ça va conduire
11:18à ce qu'on appelle un modèle un instruct
11:21model. Donc on peut traduire ça en
11:23modèle instruit, modèle éduqué. On peut
11:25retenir la traduction modèle éduqué.
11:26Donc un modèle qui a appris un qui a
11:28appris un métier, hein, qui a appris une
11:30compétence, qui a pris un ensemble de
11:31compétences. de la même façon que notre
11:33enfant notre jeune qui maintenant il est
11:35grand euh qui est allé à l'école, bah il
11:36a appris il a appris un métier, il a
11:38appris devenir prof, il a appris à à
11:40faire de la médecine, il a pris voilà,
11:42il a pris il a pris des compétences
11:45et il est pas prêt à aller travailler.
11:46Ça va pas se passer encore tout à fait
11:47comme ça. On a notre jeune, il est fort,
11:50il sort de l'université, euh il est
11:52compétent, il sait faire un métier. On
11:54est sorti de l'école, on sait faire des
11:56choses. Et avant d'aller travailler, il
11:58va y avoir une petite phase, une phase
12:00super importante. Et du côté de de l'IA,
12:03on va appeler ça l'alignement. Et ça
12:04c'est strict, ça c'est hyper
12:06stratégique. C'est quel est à quoi
12:07consiste l'alignement ? Bah l'alignement
12:09c'est apprendre à respecter un certain
12:12nombre de règles. Alors des règles
12:13éthiques, des règles professionnelles.
12:15On va pas faire n'importe quoi, on va
12:16pas dire n'importe quoi. OK, on a
12:19appris, on est prof, on a appris des on
12:22a appris des compétences, on est
12:23médecin, on a appris tout un tas de
12:24compétences. Mais avant d'aller en
12:25clientèle, avant d'aller devant une
12:27classe, euh avant de recevoir des
12:29patients, euh et ben on va avoir comme
12:30ça un certain nombre de choses qu'il va
12:32falloir savoir, c'est un savoir-être qui
12:34va falloir apprendre. Et ben, c'est ça
12:35l'alignement. C'est un ensemble de
12:37règles éthiques. Et des règles éthiques
12:38qui sont données comme ça. Tu ne dois
12:39pas parler de ceci, tu dois pas te
12:40comporter comme ça, tu dois répondre
12:42avec bienveillance et cetera et cetera.
12:44Voilà. Et ça, bah c'est super important
12:46et ça ça a été la force par exemple
12:47d'open EI avec Chad GPT de réussir à
12:50faire un alignement qui tienne la route
12:51et qui soit pas battu en brèche.
12:53C'est-à-dire que l'IA va se retrouver
12:56devant une multitude de personnes qui
12:58vont lui poser une multitude de
12:59questions qui vont essayer de la pousser
13:01à l'erreur, de la pousser à la faute et
13:03l'alignement doit résister. C'est-à-dire
13:05que l'IA doit réussir à respecter ses
13:08règles éthiques pour pas se mettre à
13:09tenir des propos xénophobes, homophobes,
13:12racistes et cetera.
13:14Voilà. Et donc bah cet alignement est
13:16quelque chose de fondamental. Une fois
13:17que cet alignement est réalisé, et ben
13:20cette fois là, on peut aller travailler.
13:21C'est-à-dire que
13:23notre nouveau collaborateur qui vient
13:26d'arriver, on lui a donné un certain
13:27nombre de règles. Bah, tu dois te
13:28comporter comme ça, tu dois t'habiller
13:30comme ça, tu dois vendre plutôt tel type
13:32de produit, tu dois plutôt
13:34avoir telle posture. OK, d'accord, pas
13:36de problème, machin, machin, machin, la
13:38personne est formée. Et ben cette fois
13:39on peut aller travailler, on peut aller
13:40en première ligne, on peut aller devant
13:42nos élèves, on peut aller devant nos
13:44patients et devant notre comptoir et
13:46cetera. Et là notre IA, bah c'est
13:48pareil, là l'IA est prête, donc elle
13:50peut partir ce qu'on appelle en
13:51inférence, partir en production, être
13:54capable de recevoir des requêtes,
13:56recevoir des des questions et être
13:57capable de répondre correctement avec
14:00les compétences et avec les règles
14:02éthiques qu'on lui a fixé pendant
14:03l'alignement. Voilà, donc c'est assez
14:05troublant mais l'apprentissage d'une
14:07grande IA, enfin des des I qui parlent
14:10par exemple suit vraiment cet ensemble
14:12d'étapes qui de manière troublante
14:14ressemble vraiment aux étapes de
14:15l'apprentissage humain. Voilà, donc
14:17l'apprentissage est quelque chose
14:18finalement très universel.
14:20Il y a des mécanismes qu'on retrouve
14:22finalement partout de manière assez
14:23troublante. Voilà, merci beaucoup
14:25d'avoir suivi cette vidéo et puis bah
14:28rendez-vous pour la suite de notre
14:29aventure autour de l'histoire des bases
14:31et des concepts. Co?