Microaula em Método CELULA • Prévia Aberta

<p><strong>Circunstância e Desafio Executivo:</strong> Conectar técnicas clássicas de sistemas de tempo de execução (paginação virtual, coleta de lixo e alocação de blocos) ao gerenciamento de KV-Cache em servidores de LLMs de larga escala.</p>

Célula 05: Runtimes Distribuídos para IA e Computação de Alto Desempenho: Gerenciamento de Memória Unificada, PagedAttention (vLLM) e Comunicação Coletiva

Objetivo de Aprendizagem: Conectar técnicas clássicas de sistemas de tempo de execução (paginação virtual, coleta de lixo e alocação de blocos) ao gerenciamento de KV-Cache em servidores de LLMs de larga escala.

1. Fundamentos e Visão Global

Contextualização Estratégica e Fundamentos Globais: Em Master Internacional em Compiladores, MLIR, Compiladores de IA e Carreira Global, o domínio de 'Runtimes Distribuídos para IA e Computação de Alto Desempenho: Gerenciamento de Memória Unificada, PagedAttention (vLLM) e Comunicação Coletiva' conecta diretamente as demandas reais do mercado brasileiro aos referenciais internacionais da ONU, Agenda Pós-2030 e melhores práticas globais. O objetivo central desta etapa é: Conectar técnicas clássicas de sistemas de tempo de execução (paginaçã...