<?xml version="1.0" encoding="UTF-8"?><oembed><type>video</type><version>1.0</version><html>&lt;iframe src=&quot;https://www.loom.com/embed/6a347c3c541e4513ac47211efffcaf90&quot; frameborder=&quot;0&quot; width=&quot;1920&quot; height=&quot;1440&quot; webkitallowfullscreen mozallowfullscreen allowfullscreen&gt;&lt;/iframe&gt;</html><height>1440</height><width>1920</width><provider_name>Loom</provider_name><provider_url>https://www.loom.com</provider_url><thumbnail_height>1440</thumbnail_height><thumbnail_width>1920</thumbnail_width><thumbnail_url>https://cdn.loom.com/sessions/thumbnails/6a347c3c541e4513ac47211efffcaf90-00001.gif</thumbnail_url><duration>1352.707</duration><title>Histoire et évolution des modèles de langage - partie 4</title><description>Dans cette vidéo, je vous ai présenté une analogie simple pour comprendre les principes de l&apos;attention et sa séparation en clés-valeurs-requêtes. J&apos;ai utilisé l&apos;exemple d&apos;une quête sur l&apos;Orient Express pour expliquer comment chaque mot est un indice et comment les détectives enquêtent en parallèle. J&apos;ai également expliqué les concepts de clé, valeur et requête, ainsi que le processus de recherche et de compilation des preuves. Regardez la vidéo pour mieux comprendre ces principes importants !

Introduction à l&apos;Attention et aux Transformers via une Analogie Ludique
Ce cours explore les fondements du mécanisme d&apos;attention dans les modèles de type Transformer. À travers une analogie captivante basée sur un jeu de rôle inspiré de l&apos;Orient Express, vous découvrirez comment les concepts de queries, keys et values permettent de traiter, pondérer et contextualiser les mots dans une phrase. Cette introduction est essentielle pour comprendre l&apos;architecture et les implémentations variées des modèles modernes d&apos;apprentissage profond.</description></oembed>