Skip to content

Commit

Permalink
Update 5.mdx
Browse files Browse the repository at this point in the history
Ajuste na tradução de "encoders". São "codificadores", não "decodificadores". Decoders são "decodificadores".
  • Loading branch information
k3ybladewielder authored Oct 24, 2023
1 parent 1983457 commit 0916d0a
Showing 1 changed file with 2 additions and 2 deletions.
4 changes: 2 additions & 2 deletions chapters/pt/chapter1/5.mdx
Original file line number Diff line number Diff line change
@@ -1,4 +1,4 @@
# Modelos decodificadores
# Modelos codificadores

<CourseFloatingBanner
chapter={1}
Expand All @@ -7,7 +7,7 @@

<Youtube id="MUqNwgPjJvQ" />

Os modelos de encoder (decodificadores) usam apenas o encoder de um modelo Transformer. Em cada estágio, as camadas de atenção podem acessar todas as palavras da frase inicial. Esses modelos geralmente são caracterizados como tendo atenção "bidirecional" e são frequentemente chamados de *modelos de codificação automática*.
Os modelos de encoder (codificadores) usam apenas o encoder de um modelo Transformer. Em cada estágio, as camadas de atenção podem acessar todas as palavras da frase inicial. Esses modelos geralmente são caracterizados como tendo atenção "bidirecional" e são frequentemente chamados de *modelos de codificação automática*.

O pré-treinamento desses modelos geralmente gira em torno de corromper de alguma forma uma determinada frase (por exemplo, mascarando palavras aleatórias nela) e encarregando o modelo de encontrar ou reconstruir a frase inicial.

Expand Down

0 comments on commit 0916d0a

Please sign in to comment.