<?xml version="1.0" encoding="UTF-8"?><oembed><type>video</type><version>1.0</version><html>&lt;iframe src=&quot;https://www.loom.com/embed/e3518b01b5da4521bb0fc72b5a6f56fa&quot; frameborder=&quot;0&quot; width=&quot;1920&quot; height=&quot;1440&quot; webkitallowfullscreen mozallowfullscreen allowfullscreen&gt;&lt;/iframe&gt;</html><height>1440</height><width>1920</width><provider_name>Loom</provider_name><provider_url>https://www.loom.com</provider_url><thumbnail_height>1440</thumbnail_height><thumbnail_width>1920</thumbnail_width><thumbnail_url>https://cdn.loom.com/sessions/thumbnails/e3518b01b5da4521bb0fc72b5a6f56fa-00001.gif</thumbnail_url><duration>359.071</duration><title>Histoire et évolution des modèles de langage - partie 3</title><description>Dans cette vidéo, je vais vous parler de l&apos;architecture du modèle transformé ou transformeur, qui a révolutionné le domaine du traitement du langage naturel. Je vais expliquer comment fonctionne la couche d&apos;attention et comment elle permet aux mots de donner du sens les uns aux autres. Je vais également aborder les évolutions majeures de ces systèmes et l&apos;importance de l&apos;attention dans l&apos;ensemble du cours. Prenez votre temps pour bien comprendre ces principes, car ils sont cruciaux pour la suite du cours.

Description Générique
🎙️ Dans ce cours, nous explorons l&apos;architecture des modèles Transformer, une révolution clé dans le domaine du traitement du langage naturel (NLP). À travers des explications claires et des exemples concrets, nous décortiquons les principes de l&apos;attention, l&apos;encodage, et le décodage, tout en analysant les limites et les forces de ces modèles. Ce cours vous aidera à comprendre pourquoi l&apos;attention est &quot;tout ce dont vous avez besoin&quot; pour maîtriser les bases des modèles de langage à grande échelle (LLM) et des systèmes RAG.</description></oembed>