Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

45 Graus

45 Graus artwork

#174 Zita Marinho - Como funcionam os algoritmos do ChatGPT e de outros Large Language Models?

Nov 1, 20241 hr 19 minAudio

Zita Marinho é investigadora na Google DeepMind, onde atualmente trabalha em Reinforcement Learning (“aprendizagem por reforço”, uma área de Machine Learning). Possui um duplo doutoramento em Robótica pelo Instituto de Robótica da Carnegie Mellon University e do Instituto Superior Tecnico em 2018. Os seus interesses de investigação estão na interseção entre algoritmos de aprendizagem automática e Processamento de Linguagem Natural. -> Apoie este podcast e faça parte da comunidade de mecenas do 45 Graus em: 45grauspodcast.com -> Workshops de Pensamento Crítico. _______________ Índice: (0:00) Introdução (6:40) Algoritmos de redes neuronais | Nobel da Física 2024 | Importância de ter várias camadas | Vanishing and exploding gradients (20:27) Como aprendem os modelos? Gradient descent e backpropagation | Redes recorrentes | Nobel e os modelos de Ising (28:24) A revolução dos Transformers, tipo ChatGPT. Paper Attention is All You Need (36:55) O que fez o ChatGPT de inovador? | Comparação com o cérebro humano | ChatGPT va outros modelos LLM actuais (e.g. Gemini, Claude) (44:58) Dicas de prompting (50:16) Forcas e fraquezas dos modelos actuais. | Propriedades emergentes misteriosas Relatório da BCG | Riscos de alucinação (55:17) Futuro | reasoners (OpenAI's o1 Model) | Dicas de prompting | Limitações de dados | Alphaproof medalha de prata nas Olimpíadas da Matemática | robótica | redes convolucionais | Dos modelos GPT ao chatbot (1:11:13) Artigo “The bitter lesson”, de Rich Sutton | Deep Blue Livros recomendados: The Learning Brain, Thad A. Polk, A Brief History of Mathematical Thought, de Luke Heaton, A Brief History of Intelligence, de Max Bennett, Language Models: A Guide for the Perplexed _______________ Esta conversa foi editada por: Hugo Oliveira

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Teresa Nogueira Pinto (parte 2): Redes sociais, família e imigração

    Nov 18, 202643 minAudio

    Veja também em youtube.com/@45_graus Teresa Nogueira Pinto é professora de Ciência Política na Universidade Lusófona, doutorada em Estudos sobre a Globalização pela Universidade NOVA e investigadora nas áreas do...

    Credit the people on this episode

  2. Teresa Nogueira Pinto (parte 1): O que defende uma "conservadora patriota"?

    Nov 18, 20261 hr 17 minAudio

    Veja também em youtube.com/@45_graus Teresa Nogueira Pinto é professora de Ciência Política na Universidade Lusófona, doutorada em Estudos sobre a Globalização pela Universidade NOVA e investigadora nas áreas do...

    Credit the people on this episode

  3. João Vale de Almeida (parte 2): O Brexit e a diplomacia europeia vistos por dentro

    Nov 4, 202650 minAudio

    Veja também em youtube.com/@45_graus João Vale de Almeida foi funcionário e diplomata da União Europeia durante 40 anos. Foi chefe de gabinete do presidente da Comissão Europeia José Manuel Durão Barroso e seu sherpa...

    Credit the people on this episode

  4. João Vale de Almeida (parte 1): A geopolítica vista por dentro: Putin, Xi, Bush, Obama.

    Nov 4, 202653 minAudio

    Veja também em youtube.com/@45_graus João Vale de Almeida foi funcionário e diplomata da União Europeia durante 40 anos. Foi chefe de gabinete do presidente da Comissão Europeia José Manuel Durão Barroso e seu sherpa...

    Credit the people on this episode

  5. Reedição: Especial Habitação, com Simone Tulumello e Vera Gouveia Barros (episódio completo)

    Oct 29, 20261 hr 55 minAudio

    Numa altura em que a crise da habitação está na ordem do dia, decidi republicar dois episódios sobre este tema no 45 Graus. Com dois convidados com visões, por vezes, muito diferentes, mas que nos ajudam a perceber...

    Credit the people on this episode