Publicado : Apr 02, 2025
Apr 2025
Avalie
Sendo sucessor do BERT (Bidirectional Encoder Representations from Transformers), ¨¦ uma fam¨ªlia de modelos transformer enconder-only de ¨²ltima gera??o projetados para uma ampla gama de tarefas de processamento de linguagem natural (PLN). Como um substituto imediato, ModernBERT melhora o desempenho e a precis?o, ao mesmo tempo que aborda algumas das limita??es do BERT ¡ª notavelmente incluindo suporte para comprimentos de contexto muito maiores, gra?as ¨¤ Aten??o Alternada. Equipes com necessidades de PNL devem considerar o ModernBERT antes de adotar um modelo generativo de prop¨®sito geral.

