{"type":"video","version":"1.0","html":"<iframe src=\"https://www.loom.com/embed/e3518b01b5da4521bb0fc72b5a6f56fa\" frameborder=\"0\" width=\"1920\" height=\"1440\" webkitallowfullscreen mozallowfullscreen allowfullscreen></iframe>","height":1440,"width":1920,"provider_name":"Loom","provider_url":"https://www.loom.com","thumbnail_height":1440,"thumbnail_width":1920,"thumbnail_url":"https://cdn.loom.com/sessions/thumbnails/e3518b01b5da4521bb0fc72b5a6f56fa-00001.gif","duration":359.071,"title":"Histoire et évolution des modèles de langage - partie 3","description":"Dans cette vidéo, je vais vous parler de l'architecture du modèle transformé ou transformeur, qui a révolutionné le domaine du traitement du langage naturel. Je vais expliquer comment fonctionne la couche d'attention et comment elle permet aux mots de donner du sens les uns aux autres. Je vais également aborder les évolutions majeures de ces systèmes et l'importance de l'attention dans l'ensemble du cours. Prenez votre temps pour bien comprendre ces principes, car ils sont cruciaux pour la suite du cours.\n\nDescription Générique\n🎙️ Dans ce cours, nous explorons l'architecture des modèles Transformer, une révolution clé dans le domaine du traitement du langage naturel (NLP). À travers des explications claires et des exemples concrets, nous décortiquons les principes de l'attention, l'encodage, et le décodage, tout en analysant les limites et les forces de ces modèles. Ce cours vous aidera à comprendre pourquoi l'attention est \"tout ce dont vous avez besoin\" pour maîtriser les bases des modèles de langage à grande échelle (LLM) et des systèmes RAG."}