Skip to content

Commit

Permalink
Fix translation
Browse files Browse the repository at this point in the history
Update 5.mdx
  • Loading branch information
osanseviero authored Dec 14, 2023
2 parents 7aab892 + 0916d0a commit 2857120
Showing 1 changed file with 2 additions and 2 deletions.
4 changes: 2 additions & 2 deletions chapters/pt/chapter1/5.mdx
Original file line number Diff line number Diff line change
@@ -1,4 +1,4 @@
# Modelos decodificadores
# Modelos codificadores

<CourseFloatingBanner
chapter={1}
Expand All @@ -7,7 +7,7 @@

<Youtube id="MUqNwgPjJvQ" />

Os modelos de encoder (decodificadores) usam apenas o encoder de um modelo Transformer. Em cada estágio, as camadas de atenção podem acessar todas as palavras da frase inicial. Esses modelos geralmente são caracterizados como tendo atenção "bidirecional" e são frequentemente chamados de *modelos de codificação automática*.
Os modelos de encoder (codificadores) usam apenas o encoder de um modelo Transformer. Em cada estágio, as camadas de atenção podem acessar todas as palavras da frase inicial. Esses modelos geralmente são caracterizados como tendo atenção "bidirecional" e são frequentemente chamados de *modelos de codificação automática*.

O pré-treinamento desses modelos geralmente gira em torno de corromper de alguma forma uma determinada frase (por exemplo, mascarando palavras aleatórias nela) e encarregando o modelo de encontrar ou reconstruir a frase inicial.

Expand Down

0 comments on commit 2857120

Please sign in to comment.