A arquitetura transformer transformou profundamente o processamento de linguagem natural ao substituir redes neurais recorrentes (RNNs) por mecanismos de atenção, acelerando assim a análise sequencial de textos longos.