Full transcript
0:06Bonjour et de retour dans ce parcours
0:08découverte de l'IA dans notre chapitre
0:11histoire, base et concept. On va se
0:13poser la question quel pour demain ? Or
0:16revenons dans un premier temps en 2012
0:18lorsque les réseaux neurones sont
0:21devenus les champions incontestés de
0:23l'intelligence artificiel et parcourons
0:25ensemble les quelques moments clés qui
0:28nous mènent directement à l'intelligence
0:30artificielle d'aujourd'hui et de demain.
0:32Avant 2012, le deep learning existait
0:35déjà. Mais ce qui a permis à Alex Net de
0:38prouver que la solution des réseaux
0:41neurones était la meilleure pour
0:42l'intelligence artificielle, c'est deux
0:44choses. Premièrement, le fait qu'on ait
0:46en fait une tâche et un dataset
0:49d'apprentissage assez compliqué, soit
0:52donc la classification d'images
0:54provenant d'Internet parmi 1000 classes.
0:56Donc dire qu'une image est un chien, un
0:58chat, un bateau, un facteur, un ours, un
1:01koala, tout ce que vous voulez. avec euh
1:03bah des exemples d'images euh très
1:06nombreuses, donc 1 million d'images
1:09récupérées et labellisées. Telle image
1:11est un chien, telle image est un chat et
1:13cetera. Et deuxième chose, la
1:15possibilité d'utiliser des euh GPU, des
1:17cartes graphiques qui permettent de
1:19faire du calcul parallélisable. Ce qui
1:22nous permet effectivement d'avoir des
1:23temps d'apprentissage qui restent dans
1:26des temps acceptables à l'époque
1:28plusieurs jours quand même. Deuxème
1:30marqueur, ça va être RNET 2 ans plus
1:33tard en 2015, 3 ans plus tard pardon en
1:352015. Sur la même problématique image
1:38nette, classification de d'images
1:44type Resnet d'augmenter la profondeur du
1:47modèle, c'est-à-dire le nombre de
1:48couches de neurones. Avant Resnet, on on
1:52était un peu bloqué vers les 20 couches
1:54euh de neurones. Au-delà, on pouvait pas
1:57réaliser l'apprentissage grâce à Resnet.
1:59on peut aller plus loin 50 centaines de
2:02couches voire des milliers de couches.
2:04Euh donc cette profondeur nous permet
2:06effectivement de gagner en performance
2:08et de pouvoir traiter des tâches plus
2:11complexes dans la suite effectivement
2:12après 2015 à noter que tous les réseaux
2:15de neurones utilisent cette technique de
2:18type resnet. 3è marqueur clé et là c'est
2:21vraiment le plus important, c'est euh
2:22les Transformers. Avant les
2:24Transformers, on était clairement dans
2:26l'air du traitement de l'image avec les
2:28réseaux de neurones et notamment avec
2:29notre dataset comme on a décrit image
2:31net qui a conduit toute l'évolution du
2:34deep learning pendant ces années-là.
2:37Après 2017, à partir des Transformers,
2:40on rentre plutôt dans l'aire du
2:41traitement du langage. Donc langage,
2:44séquence de mots plus ou moins longue et
2:47potentiellement très longue. Ce qui nous
2:49permet de traiter des larges contextes
2:53et donc ce qui nous permet de traiter
2:55des informations de plus en plus
2:56complexes. Penser à un long texte, à une
2:59longue vidéo qui ont des dépendances
3:01très complexes entre ces entités
3:03sémantiques. Dans la foulée, bah il y a
3:06tout ce qui arrive en générative, donc
3:08génération de tex, génération de vidéos,
3:10génération d'images de de musique qui
3:13découle clairement de des Transformers.
3:17Le Transformer marque aussi le moment où
3:19ben les supercalculateurs,
3:22donc la communauté du super calcul, des
3:25super ordinateurs rentre ben dans le
3:28dans le domaine de l'intelligence
3:29artificielle et on voit cette évolution
3:31de la taille des modèles complètement
3:34exponentiel. Donc en si on prend GPT2,
3:37GPT3, GPT4, GPT2 en 2019 faisait 1,5
3:41milliards de paramètres. GPT3 en 2020
3:44faisait 175 milliards de paramètres.
3:46GPT4 en 2023 faisait on ne sait pas trop
3:49mais des au moins un millier de
3:52milliards de paramètres.
3:53Si on regarde au niveau du temps
3:56d'apprentissage réel avant Transformer
3:59donc en 2017 sur une sur image net avec
4:04un resnet 50 ce qui fait 25 millions de
4:06paramètres petit modèle notre dataset
4:10d'apprentissage 1 million d'images et là
4:14donc un apprentissage complet nous
4:15prenait 14 jours sur un GPU Nvidia de
4:18l'époque. Plus tard donc avec les super
4:20calculateurs en 2022
4:23le modèle d'apprentissage Bloom qui a
4:25été entraîné sur le super calculateur du
4:27CNRS Jeanzet. Donc gros modèle de
4:29langage avec 176 milliards de paramètres
4:32avec un corpus de texte pour
4:34l'apprentissage de 366 milliards de
4:37tokens. Donc un peu près 36 milliards de
4:40mots ce qui représente environ 3
4:42millions de livres. Et ça, ça a pris 117
4:45jours sur 384 GPU à 100, donc des GPU de
4:50la génération de 2022, soit l'équivalent
4:52de 123 ans si on entraînait sur un seul
4:57GPU. Ce qui montre ce qui prouve que on
4:59a absolument besoin de ressources de
5:01calcul comme des super calculateurs. 2
5:03ans plus tard, LAAM MA 3 donc modèle de
5:07langage encore plus gros, 405 milliards
5:10de paramètres avec un corpus
5:11d'apprentissage beaucoup plus gros,
5:1315000
5:15milliards euh de tokens, soit environ
5:18150 millions de livres. Et euh le temps
5:20réel c'était 54 jours sur 16384
5:24GPU H. et la génération de 2024 soit
5:282400 ans sur un seul GPU, ce qui est
5:30complètement énorme. Donc à penser en
5:32terme de ressources énergétique ce que
5:35ça implique aussi. Allons en 2022 avec
5:38donc fin 2022 avec la sortie de chat GPT
5:41pour le grand public et là on rentre
5:43effectivement dans la hype de
5:46l'intelligence artificielle donc une
5:48explosion des utilisations de
5:49l'intelligence artificielle. On rentre
5:51dans l'utilisation dans au grand public.
5:55Donc ça se mesure effectivement avec
5:56toute la médiatisation autour, ça se
5:58mesure avec les impacts sur bah les
6:01marchés financiers. Comme toute nouvelle
6:04technologie, on va passer par un pic de
6:08surpopularité
6:10suivi très souvent par une désillusion
6:12et puis ça s'équilibre à un moment entre
6:13les deux. Euh en tout cas, on est
6:15d'accord pour dire que l'intelligence
6:17artificielle donc aujourd'hui est
6:19largement utilisée et sera largement
6:23utilisé dans les dans le futur avec tous
6:25les problèmes que ça implique. On se
6:27positionne en 2024 avec GPT 4 soit OMNI
6:31et donc c'est on est sur les modèles
6:34multimodo. Donc c'est pas le seul he
6:35bien sûr il y a tous les autres les
6:37Gimini, les Grocs tout ce que vous
6:38voulez aujourd'hui. Et donc les modèles
6:40multimodo, l'idée c'est c'est des I, des
6:42modèles d'IA qui sont grosso modo
6:44capables de quasiment tout faire,
6:46générer ou comprendre des paroles de
6:50l'audio, du texte bien sûr, des images,
6:52des vidéos, tout ce que vous voulez. ce
6:54qui nous amène effectivement à l'AGI
6:57futur. Donc on peut définir l'AGI par
7:01l'intelligence
7:03artificielle au même niveau que les
7:05humains, c'est-à-dire une intelligence
7:06artificielle qui sait qui sait quasiment
7:09tout faire ce que sait faire un humain
7:11et au même niveau. Autre possibilité
7:13donc au-dessus voir en parallèle ce
7:16qu'on a ce qu'on ce qu'on désigne par
7:18super intelligence. La super
7:20l'intelligence, c'est lorsqu'une
7:22intelligence artificielle fait mieux ou
7:24beaucoup mieux que les humains.
7:26Aujourd'hui, on peut dire que dans
7:27certains cas très particuliers, on est
7:29déjà sur de la super intelligence. Par
7:32contre, on n pas de super intelligence à
7:34un niveau global, bien sûr. Et il y a
7:35des et bien sûr, il y a des il y a des
7:38tâches que les intelligences
7:39artificielles ne savent pas faire. Donc,
7:41on ne peut pas dire qu'on est déjà dans
7:43la GI ni dans la SI. Maintenant, voyons
7:45euh quelques directions possibles pour
7:47euh l'intelligence artificielle de
7:48demain. Tout ce qui est euh déjà
7:50découverte et analyse scientifique
7:52assisté par l'intelligence artificielle
7:54en collaboration euh avec l'intelligence
7:56artificielle. Donc penser à tout ce qui
7:59est euh création de nouveaux
8:00médicaments, euh ce qui est bah
8:03meilleure répartition des richesses ou
8:06euh ce qui est optimisation des
8:07processus industriels.
8:10Il y a peu de risques, c'est plutôt
8:11bénéfique. Le seul risque finalement,
8:13c'est l'explicabilité. C'est-à-dire que
8:15si dans notre boucle de collaboration
8:18entre chercheurs humain et chercheur
8:20intelligence artificielle, ça devient
8:22tellement compliqué que les chercheurs
8:24humains sont exclus de la boucle. il là
8:26il y a plus il y a plus de science il y
8:28a plus de transfert de connaissance donc
8:30euh ça perd de ça perd son intérêt.
8:33Ensuite euh on peut avoir effectivement
8:36tout ce qui est humain augmenté par
8:38l'intelligence artificielle donc avec
8:40des coachs I ou euh des agents IA qui
8:43font euh bah tout à notre place.
8:47Pensons à ce qui est par exemple UNIA
8:49qui organiserait nos voyages, qui
8:52organiserait nos rencontres, qui
8:54organiserait notre hygiène de vie.
8:58Le risque là, c'est que finalement on se
9:00retrouve en vase clos avec bah seulement
9:04notre personnel et que finalement
9:06l'autre n'ait plus beaucoup
9:07d'importance, que finalement on se
9:09suffit à nous-même entre nous et
9:10l'intelligence artificielle. Ce dont on
9:13parle aussi beaucoup, c'est la super
9:14intelligence numérique. Donc dans le
9:16monde numérique. Donc imaginons queon
9:18est des intelligences artificielles, des
9:20chat GPT, GPT10
9:22super intelligent. Euh du coup le
9:25l'humain se trouverait exclu du monde
9:27numérique ou il ne serait plus acteur du
9:29monde numérique mais seulement
9:30spectateur. C'est-à-dire qu'il
9:31l'intérêt, c'est qu'il aurait toutes les
9:34informations et toute la super
9:36connaissance dans le monde numérique
9:38généré par des intelligences
9:39artificielles. Cependant effectivement
9:42euh ben il y aurait une perte de
9:44contrôle de tout ce qui est géré par le
9:46monde numérique, le remplacement des
9:48humains dans le monde numérique, ce qui
9:50impliquerait bah un chômage de masse
9:52incalculable. et une perte de
9:54compétences humaine dans avec tout ce
9:56qui se passe dans le monde numérique.
9:57Mais comme on vit dans un monde très
9:59numérique, ça poserait un gros problème.
10:02À l'opposé, on pourrait considérer que
10:03l'intelligence artificielle en fait
10:04cohabite dans le monde réel avec nous ou
10:07que nous nous cohabitons avec
10:08l'intelligence artificielle à travers
10:10des humanoïdes intelligents, des robots
10:12humanoïdes. L'intérêt c'est que dans une
10:15société humainement vieillissante avec
10:19des problèmes de démographie, on
10:21pourrait avoir grâce à ça une assistance
10:23physique du service à la personne, une
10:25gain de productivité dans le monde réel.
10:29Bien sûr là, les risques sont énormes.
10:32Pensez à tous les films type Blade
10:34Runner et cetera. révolution euh donc on
10:36aurait une révolution sociétale avec des
10:39relations conflictuelles entre IA et euh
10:41et humain et des problèmes euh énormes
10:44de gouvernance. Il faut faire plein de
10:46nouvelles lois et définir la
10:48cohabitation. Et maintenant, parlons des
10:50problèmes qui sont devant nous, juste
10:52devant nous là, devant notre nez. Euh
10:55les données d'abord les données ou
10:57acquérir de nouvelles données.
10:58Aujourd'hui, effectivement les grands
11:00modèles de typiquement de langage
11:02d'aujourd'hui, on a gratté déjà tout
11:06internet, tout ce qui était possible
11:08d'avoir donc et puis aussi tout ce qui
11:11était donné publique euh problème de
11:16copyright mais justement on essaie de
11:19dépasser sur dans le domaine dans le
11:22domaine privé mais où trouver de
11:24nouvelles données. Première chose, c'est
11:26qu'on peut encourager la communauté
11:27scientifique à numériser ce qui n'a pas
11:29été encore numérisé, donc des anciennes
11:33données ou des nouvelles données à
11:35explorer, par exemple dans les océans,
11:37dans l'infiniment grand, dans
11:39l'infiniment petit, tout. Si ça suffit
11:42pas, il y a la possibilité aussi d'avoir
11:44de faire des données synthétiques, donc
11:46de générer des datasets d'apprentissage,
11:49des corpus d'apprentissage avec des IA
11:51existantes ou pourquoi pas directement
11:55euh superviser l'apprentissage,
11:57l'entraînement avec des IA existantes.
12:00Par exemple, tout ce qui est RL, AIF,
12:03soit le reinforcement learning avec
12:05feedback IA, ce qui se fait aujourd'hui.
12:09Le deuxième gros problème et plus
12:11important problème que l'on a juste en
12:13face de nous, c'est l'empreinte
12:14environnementale.
12:16On a vu queon a des modèles qui
12:18deviennent de plus en plus grands, on a
12:20des besoins, ressources de calcul de
12:21plus en plus importantes, on a de plus
12:24en plus d'utilisateurs.
12:26Donc il faut se poser clairement la
12:28question où est-ce que on va limiter
12:30qu'on on vit dans un monde qui est fini
12:33en ressources environnementales. Donc à
12:35quel moment on doit limiter et où est-ce
12:38qu'on doit limiter ?
12:40Et pour parler de ça, pour aller plus
12:42profondément sur ces sujets, je vous
12:44propose d'aller voir ou de participer au
12:46procès de l'intelligence artificielle
12:48présente sur notre chaîne Fidle pour
12:51juger ces problématiques de
12:54développement de l'intelligence
12:55artificielle, des impacts.
12:58Donc juger ensemble, arbitrer et à la
13:01fin il y aura un délibéré.
13:04Voilà. Et n'oubliez pas de vous abonner
13:05à la chaîne Fidol si vous ne l'avez pas
13:07déjà fait.