Microaula em Método CELULA • Prévia Aberta

Antes dos transformers e dos LLMs modernos, o Processamento de Linguagem Natural (NLP) evoluiu de abordagens estatísticas de contagem de palavras (TF-IDF) para representações densas em espaços contínuos (Word2Vec), onde a geometria dos vetores codifica significado semântico real.

1. A Evolução da Representação Textual

De palavras discretas a espaços semânticos multidimensionais:

• Bag of Words e TF-IDF: Contabiliza a frequência de termos ponderada pela raridade no corpus (útil para baselines rápidos de classificação de textos);
• Word2Vec (Skip-gram e CBOW): Aprende vetores densos baseando-se no contexto das palavras vizinhas ('uma palavra é conhecida pelas companhias que mantém'). Permite analogias geométricas famosas: Vetor(Rei) - Vetor(Homem) + Vetor(Mulher) ≈ Vetor(Rainha);
• Sentence Embeddings: Modelos modernos (Sentence-Transformers) que convertem parágrafos e frases inteiras em vetores de 384 a 1536 dimensões, viabilizando busca semântica....