Je ne suis ni le premier, ni le dernier…parlons de ChatGPT ! https://youtu.be/7ell8KEbhJo Le serveur Discord de Science étonnante ➡️ https://discord.gg/GPamYjVYxA J’ai longuement hésité pour cette vidéo a faire un long passage plus technique sur les transformers, et puis je me suis dit que ça ferait trop long et un peu trop grand écart entre les principes généraux et les détails techniques. Mais si le sujet vous intéresse, je vous recommande les vidéos d’Andrej…
La vidéo du jour explique quelques principes derrière les algorithmes d’IA générative qui fonctionnent selon les méthodes de diffusion. https://youtu.be/tdelUss-5hY Pour commencer, quelques références importantes sur le sujet. Tout d’abord l’article qui pour la première fois a proposé les méthodes de diffusion Sohl-Dickstein, J., Weiss, E., Maheswaranathan, N., & Ganguli, S. (2015, June). Deep unsupervised learning using nonequilibrium thermodynamics. In International Conference on Machine Learning (pp. 2256-2265). PMLR. Le papier qui a démocratisé leur usage…
Dans ma dernière vidéo, je me suis amusé à écrire un bout de code qui propose une résolution automatisée des jeux à la WORDLE ou SUTOM. Tout ça m’a évidemment été inspiré par la formidable vidéo de 3Blue1Brown sur le sujet ! https://youtu.be/iw4_7ioHWF4 J’avais promis dans la vidéo que je partegerai le code, alors le voici avec quelques explications. Le code est disponible ici : https://github.com/scienceetonnante/WordleSutom Il n’y a vraiment rien de sophistiqué dans l’algorithme…
Dans la vidéo d’aujourd’hui, on parle des méthodes de traitement du langage naturel, et comment les techniques de deep learning dominent aujourd’hui les algorithmes de traduction ou de complétion de texte. https://youtu.be/CsQNF9s78Nc L’idée de cette vidéo est née après celle sur Alpha Fold. J’y évoquai en passant les transformers, et je me suis dit qu’il fallait faire une vidéo sur ces fameux transformers ! Et puis en faisant la biblio et en écrivant la vidéo,…
La vidéo du jour traite d’un sujet que j’avais évoqué dans mes articles précédents sur les codes secrets, et sur la machine à inventer des mots : la méthode « MCMC » qui permet de déchiffrer avec une excellente efficacité à peu près n’importe quel message chiffré par substitution. https://www.youtube.com/watch?v=z4tkHuWZbRA Pour cette vidéo, je me suis surtout basé sur l’article introductif de Perci Diaconis Diaconis, P. (2009). The markov chain monte carlo revolution. Bulletin of the American…
Ca fait longtemps que je voulais faire ce sujet en vidéo, je l’avais d’ailleurs traité dans mon livre « Insoluble mais vrai ! » consacré aux grands problèmes ouverts de la science. L’actualité m’a devancé avec la publications des résultats de la compétition CASP, et l’incroyable performance de l’algorithme AlphaFold de DeepMind. https://www.youtube.com/watch?v=OGewxRMME8o Ce genre de sujet est assez compliqué à traiter en profondeur, car on y touche à plusieurs champs disciplinaires : la biologie évidemment, la…
La vidéo du jour s’attaque à un des 7 problèmes « à 1 million de $ »…enfin « s’attaque »… façon de parler !
https://youtu.be/AgtOCNCejQ8
Il y aurait des dizaines de chose à ajouter à ce que j’ai dit au sujet des classes de complexité. Je voudrais commencer par une qui n’est pas a priori évidente ou très connue : stricto sensu, la définition des classes P et NP (et la question P=NP qui va avec) ne concernent que les problèmes de décision.
Un problème de décision, c’est un problème dont la réponse est « oui » ou « non ». Par exemple : est-il possible de satisfaire telle formule booléenne ? est-il possible de remplir le sac-à-dos en respectant les contraintes de place et de butin minimal ?
La nouvelle est tombée il y a déjà plus de deux semaines, je m’attaque enfin à la suprématie quantique de Google ! https://www.youtube.com/watch?v=KaRd_eB2qOA&feature=youtu.be Alors que puis-je dire pour compléter cette exposé ? D’une part les « pros » de la mécanique quantique se seront probablement étranglés devant ma notation des états superposés. Je fais comme si les coefficients devant chaque état propre étaient des pourcentages, ce n’est pas le cas, il s’agit en réalité de coefficients complexes,…
Nouvelle vidéo sur la chaîne, une vidéo « un petit peu spéciale » en partenariat avec Echosciences PACA.
https://www.youtube.com/watch?v=kJFfleuDHrU
Le défi de cette vidéo était de donner quelques notions de communication quantique dans le format imposé de 3-4 minutes ! Pas la place donc pour y détailler un exemple de protocole d’échange de clé quantique comme le protocole BB84 dont j’esquisse juste le principe dans la vidéo. Voici donc quelques détails !
Non, BB84 n’est pas un lointain descendant du robot BB8, mais le nom du tout premier protocole d’échange de clé quantique qui a été imaginé en 1984 par les cryptologues Charles Bennett et Gilles Brassard. L’idée de ce protocole est de permettre l’échange sécurisé d’une clé de chiffrement, clé qui pourra être ensuite utilisée pour chiffrer un message qui sera ensuite transmis sur un canal de communication classique. Notez bien : ça n’est pas tout le message qui est transmis de façon « quantique », juste la clé de chiffrement.
La vidéo du jour parle de la créativité des IA, vue dans le contexte des jeux !
https://youtu.be/xuBzQ38DNhE
Pour ceux qui voudraient aller plus loin, quelques compléments d’usage.
Un premier point que j’ai passé sous silence pour rester simple, c’est la façon dont on décide du « meilleur » coup une fois qu’on dispose de toutes les évaluations. Pour vous l’illustrer, voici une petite énigme.