Nome Sobrenome

Pesquisador em IA · XPTO

Pesquiso como redes neurais aprendem — e como torná-las mais eficientes, robustas e fáceis de avaliar.

Fale comigo Ver publicações

São Paulo, Brasil, UTC−3

descendo…

Paisagem de otimização: uma superfície de perda desenhada com pontos de luz e curvas de nível, onde um ponto âmbar desce até o mínimo. Ilustrativa.

Sobre

Um pouco da trajetória e do que me move na pesquisa.

Sou pesquisador de inteligência artificial na XPTO, onde estudo como modelos de aprendizado profundo são treinados, comprimidos e avaliados. Gosto de problemas na fronteira entre teoria e prática: entender a geometria da função de perda para projetar otimizadores e protocolos de avaliação que continuem funcionando fora do laboratório.

Antes da XPTO, fiz doutorado em ciência da computação e trabalhei com grupos de pesquisa na universidade e na indústria. Publico em conferências como NeurIPS, ICML e ACL, atuo como revisor nessas comunidades e procuro transformar resultados de pesquisa em ferramentas que outras equipes usem no dia a dia.

Atuação
Pesquisa em aprendizado de máquina na XPTO, desde 2021
Formação
Doutorado em ciência da computação
Idiomas
Português, inglês e espanhol
Publicações
10 artigos, de 2021 a 2026
Currículo (PDF)

Três linhas em terceira pessoa, para eventos e imprensa.

Pesquisa

Quatro linhas de trabalho que se complementam: entender como os modelos aprendem ajuda a treiná-los com menos custo e a avaliá-los com mais honestidade.

  • Otimização em aprendizado profundo

    Dinâmica de treino e geometria da função de perda, para criar otimizadores que convergem mais rápido e exigem menos ajuste de hiperparâmetros.

    Palavras-chave:

    • otimizadores adaptativos
    • geometria da perda
    • taxas de aprendizado
    • treino em larga escala
    Ver 4 publicações

  • Aprendizado de representações

    Como os modelos organizam o que aprendem: autossupervisão, espaços latentes e transferência entre tarefas e domínios.

    Palavras-chave:

    • autossupervisão
    • aprendizado contrastivo
    • espaços latentes
    • transferência
    Ver 2 publicações

  • Modelos de linguagem eficientes

    Destilação, quantização e uso criterioso de contexto para levar modelos grandes a orçamentos pequenos de computação — inclusive em português.

    Palavras-chave:

    • destilação
    • quantização
    • contexto longo
    • inferência eficiente
    Ver 2 publicações

  • Avaliação e robustez

    Métricas e protocolos que medem o que importa: calibração, incerteza e comportamento sob mudança de distribuição.

    Palavras-chave:

    • calibração
    • incerteza
    • mudança de distribuição
    • benchmarks
    Ver 2 publicações

Publicações

Artigos revisados por pares e preprints, do mais recente ao mais antigo.

Publicações fictícias, apenas para demonstração.Atualizado em outubro de 2026

  1. arXiv Preprint Otimização

    Sharp Routers, Flat Experts: Probing the Loss Landscape of Mixture-of-Experts Models

    Nome Sobrenome, Inessa Petrova, Kukua Mensah

    arXiv preprint, 2026

    PDF
    Ver BibTeX 
    @misc{sobrenome2026sharp,
  title  = {Sharp Routers, Flat Experts: Probing the Loss Landscape of Mixture-of-Experts Models},
  author = {Sobrenome, Nome and Petrova, Inessa and Mensah, Kukua},
  year   = {2026},
  url    = {https://example.org/papers/moe-landscape-2026.pdf},
  note   = {Preprint},
}

  2. NeurIPS Oral Otimização

    Descending Gently: Curvature-Aware Warmup for Large-Batch Training

    Nome Sobrenome, Lívia Tanaka, Munachiso Okafor

    Advances in Neural Information Processing Systems, 2025

    PDF Código
    Ver BibTeX 
    @inproceedings{sobrenome2025descending,
  title     = {Descending Gently: Curvature-Aware Warmup for Large-Batch Training},
  author    = {Sobrenome, Nome and Tanaka, L{\'\i}via and Okafor, Munachiso},
  booktitle = {Advances in Neural Information Processing Systems},
  year      = {2025},
  url       = {https://example.org/papers/curvature-warmup-2025.pdf},
}

  3. TMLR Periódico Otimização

    Step-Size Schedules as Control Policies: A Unified View of Warmup, Decay and Restarts

    Nome Sobrenome, Cyprien Moreau

    Transactions on Machine Learning Research, 2024

    PDF
    Ver BibTeX 
    @article{sobrenome2024schedules,
  title   = {Step-Size Schedules as Control Policies: A Unified View of Warmup, Decay and Restarts},
  author  = {Sobrenome, Nome and Moreau, Cyprien},
  journal = {Transactions on Machine Learning Research},
  year    = {2024},
  url     = {https://example.org/papers/schedules-control-2024.pdf},
}

  4. ACL Eficiência

    Distilling Long Context into Compact Students for Retrieval-Heavy Tasks

    Nome Sobrenome, Hilke Weber, Graziela Duarte, Lívia Tanaka

    Annual Meeting of the Association for Computational Linguistics, 2024

    PDF Código
    Ver BibTeX 
    @inproceedings{sobrenome2024distilling,
  title     = {Distilling Long Context into Compact Students for Retrieval-Heavy Tasks},
  author    = {Sobrenome, Nome and Weber, Hilke and Duarte, Graziela and Tanaka, L{\'\i}via},
  booktitle = {Annual Meeting of the Association for Computational Linguistics},
  year      = {2024},
  url       = {https://example.org/papers/long-context-distillation-2024.pdf},
}

  5. NeurIPS Workshop Workshop Avaliação

    Paraphrase Drift: Stress-Testing Language Model Evaluations with Controlled Rewrites

    Nome Sobrenome, Suhail Haddad

    Workshop at the Conference on Neural Information Processing Systems, 2024

    PDF
    Ver BibTeX 
    @inproceedings{sobrenome2024paraphrase,
  title     = {Paraphrase Drift: Stress-Testing Language Model Evaluations with Controlled Rewrites},
  author    = {Sobrenome, Nome and Haddad, Suhail},
  booktitle = {Workshop at the Conference on Neural Information Processing Systems},
  year      = {2024},
  url       = {https://example.org/papers/paraphrase-drift-2024.pdf},
}

  6. ICML Otimização

    Gradient Noise as a Thermometer: Estimating the Effective Temperature of SGD

    Anselmo Ribeiro, Nome Sobrenome, Jonna Lindqvist

    International Conference on Machine Learning, 2023

    PDF
    Ver BibTeX 
    @inproceedings{ribeiro2023gradient,
  title     = {Gradient Noise as a Thermometer: Estimating the Effective Temperature of {SGD}},
  author    = {Ribeiro, Anselmo and Sobrenome, Nome and Lindqvist, Jonna},
  booktitle = {International Conference on Machine Learning},
  year      = {2023},
  url       = {https://example.org/papers/gradient-noise-2023.pdf},
}

  7. EMNLP Eficiência

    Low-Bit, High Fidelity: Quantization-Aware Distillation for Portuguese Language Models

    Telma Brandão, Nome Sobrenome, Firmino Castro

    Conference on Empirical Methods in Natural Language Processing, 2023

    PDF Código
    Ver BibTeX 
    @inproceedings{brandao2023lowbit,
  title     = {Low-Bit, High Fidelity: Quantization-Aware Distillation for {Portuguese} Language Models},
  author    = {Brand{\~a}o, Telma and Sobrenome, Nome and Castro, Firmino},
  booktitle = {Conference on Empirical Methods in Natural Language Processing},
  year      = {2023},
  url       = {https://example.org/papers/low-bit-portuguese-2023.pdf},
}

  8. ICLR Spotlight Representações

    Contrastive Views from Weak Supervision: Learning Representations from Noisy Metadata

    Revathi Iyer, Nome Sobrenome, Eneja Novak, Suhail Haddad

    International Conference on Learning Representations, 2022

    PDF
    Ver BibTeX 
    @inproceedings{iyer2022contrastive,
  title     = {Contrastive Views from Weak Supervision: Learning Representations from Noisy Metadata},
  author    = {Iyer, Revathi and Sobrenome, Nome and Novak, Eneja and Haddad, Suhail},
  booktitle = {International Conference on Learning Representations},
  year      = {2022},
  url       = {https://example.org/papers/weak-contrastive-2022.pdf},
}

  9. JMLR Periódico Avaliação

    Calibration Under Shift: A Benchmark and Protocol for Uncertainty in Deployed Classifiers

    Munachiso Okafor, Nome Sobrenome, Bunta Nakamura

    Journal of Machine Learning Research, 2022

    PDF Código
    Ver BibTeX 
    @article{okafor2022calibration,
  title   = {Calibration Under Shift: A Benchmark and Protocol for Uncertainty in Deployed Classifiers},
  author  = {Okafor, Munachiso and Sobrenome, Nome and Nakamura, Bunta},
  journal = {Journal of Machine Learning Research},
  year    = {2022},
  url     = {https://example.org/papers/calibration-shift-2022.pdf},
}

  10. CVPR Representações

    Agreeing on Parts: Patch-Level Consistency for Self-Supervised Dense Features

    Nome Sobrenome, Plácido Almeida, Dobromir Kowalski

    IEEE/CVF Conference on Computer Vision and Pattern Recognition, 2021

    PDF
    Ver BibTeX 
    @inproceedings{sobrenome2021agreeing,
  title     = {Agreeing on Parts: Patch-Level Consistency for Self-Supervised Dense Features},
  author    = {Sobrenome, Nome and Almeida, Pl{\'a}cido and Kowalski, Dobromir},
  booktitle = {IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  year      = {2021},
  url       = {https://example.org/papers/patch-consistency-2021.pdf},
}

Lista completa no Google Scholar Todas em BibTeX (.bib)

Fale comigo

Colaborações de pesquisa, convites para palestras e bancas, imprensa ou oportunidades: escreva por aqui ou pelos outros canais. Respondo pessoalmente.

Costumo responder em até três dias úteis.

Outros canais

Google Scholar
Perfil de citações
LinkedIn
in/nome-sobrenome
GitHub
nome-sobrenome
ORCID
0000-0000-0000-0000