05Voir par soi-même comment cela fonctionne

Tout le modèle jouet en une animation, de "I speak Esperanto" au mot suivant, étape par étape.

Tout ce que décrit cet article, en un seul endroit, avec les nombres de notre modèle jouet. Appuyez sur Lecture, ou avancez à votre rythme, et regardez "I speak Esperanto" devenir des tokens, des identifiants et des vecteurs, puis "anto" recueillir du contexte par l'attention, être corrigé par le réseau classique, et produire une prédiction. Chaque nombre affiché se retrouve, et se vérifie, dans les chapitres 1 à 3, et se rejoue dans le classeur d'accompagnement (en anglais).

Parcours animéPas à pas, I speak Esperanto devient des tokens, des identifiants et des vecteurs ; anto recueille du contexte par l'attention, est corrigé par le réseau classique, et le modèle prédit fluently.I speak EsperantoIID 0[0,0 ; 0,1 ; 0,9]␣speakID 1[0,3 ; 0,9 ; 0,0]␣EsperID 2[0,6 ; 0,2 ; 0,0]antoID 3[0,5 ; 0,1 ; 0,0]2 %22 %49 %27 % lui-mêmecorrection [−0,4 ; +0,4 ; 0,0]Probabilité de venir ensuite␣fluently76 %␣speak15 %␣English5 %␣French2 %␣loudly1 %␣fluentlyajouté