Je ne suis ni le premier, ni le dernier…parlons de ChatGPT !

 

Le serveur Discord de Science étonnante ➡️ https://discord.gg/GPamYjVYxA

J’ai longuement hésité pour cette vidéo a faire un long passage plus technique sur les transformers, et puis je me suis dit que ça ferait trop long et un peu trop grand écart entre les principes généraux et les détails techniques.

Mais si le sujet vous intéresse, je vous recommande les vidéos d’Andrej Karpathy, un des chercheurs les plus en pointe du domaine, et qui a créé une version « pédagogique » qu’il a appelé NanoGPT. En suivant son code on comprend bien ce qu’il se passe.

J’hésite toujours à faire une vidéo dédiée aux transformers…

Sur la question de l’apprentissage par renforcement avec feedback humain, le TIME magazine a rapporté qu’une partie du « feedback » avait été fourni par des travailleurs au Kenya, et leurs témoignages font peur à voir. En effet certains ont dû se coltiner des messages toxiques ou carrément horribles dans le but de les « évaluer », et ce toute la journée. OpenAI a déclaré avoir arrêté ces pratiques.

 

13 Comments

  1. Merci pour ce travail et cette excellente (une nouvelle fois) vidéo ! Je serai très intéressé par une vidéo sur les transformers !

  2. pierre puiseux Reply

    Super video, comme d’habitude !
    Je ne trouve pas le lien discord annoncé…

  3. Merci pour ces explications sur le fonctionnement de GPT et du chat bot.
    À quand une vidéo sur les IA de text to picture ou text to vidéo ?

  4. Bonjour.

    D’apres votre video je comprends a peu pres comment fonctionne chatgpt pour des textes
    Mais
    Je ne comprends pas comment il comprend des instructions
    Et comment il peut écrire un code

  5. Georges Perec avec Cantatrix Sopranica publié en 1991 a imaginé un exemple prémonitoire.

  6. Pingback: ChatGPT ? Voulez-vous comprendre ce que c’est ? – binaire

  7. Ca serait bien une vidéo sur les transformers! Merci pour ce grand travail de qualité

  8. Est-ce qu’il y aura une suite ? on voit que maintenant, il est capable de citer des références par exemple

  9. merci beaucoup pour toutes ces vidéos passionnantes , avez-vous un conseil d’outil pour essayer de s’amuser un peu avec de l’IA générative, en privilégiant des solutions libres … Quelle alternative à chatgpt pouvez-vous conseiller… en ligne, car je viens de tester gpt4all et il y a tout de suite des limites de capacité de son ordi, et d’autres dont le résultat me parait très décevant (you, huggingface…)
    merci pour tout !

Write A Comment

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.