
Fala galera, nesse expiódio eu falo sobre Retrieval Aware Fine Tuning (RAFT), um paper que propos uma nova técnica que utiliza tanto domain specific fine tuning quanto RAG pra melhorar a capacidade de recuperação da informação dos LLMs.
Nesse epiódio eu também falo sobre um outro paper que também tem o nome de RAFT, mas dessa vez Reward rAnking Fine Tuning, que propoe uma nova técnica para fazer RLHF mas sem os problemas de convergencia de Reinforcement Learning.
Retrieval Aware Fine Tuning: https://arxiv.org/abs/2403.10131v1
Reward rAnking Fine Tuning: https://arxiv.org/pdf/2304.06767.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Mar 21, 2024
9 min

Fala galera, nesse episódio eu explico como a gente consegue escalar a janela de contexto de um LLM pra mais de 1 milhão de tokens usando Ring Attention. Além disso eu discuto se a abordagem usando RAG está morta com esses avanços na janela de contexto.
Paper Lost in the Middle: https://arxiv.org/pdf/2307.03172.pdf
Gemini technical report: https://storage.googleapis.com/deepmind-media/gemini/gemini_v1_5_report.pdf
Paper Ring Attention: https://arxiv.org/pdf/2310.01889.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Mar 7, 2024
17 min

Fala galera, nesse episódio eu recebi o André, ele é AI expert na IBM e a gente falou bastante sobre como usar IA pra resolver diversos problemas na industria.
Site da Brains: https://brains.dev/
Linkedin do Andre: https://www.linkedin.com/in/andrefelipelopes/
Linkedin da Brains: https://www.linkedin.com/company/brains-brazilian-ai-networks/
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Feb 22, 2024
46 min

Fala galera, nesse episódio eu falo sobre Mixture Of Experts e mais espeicificamente sobre o Mixtral, que hoje é o melhor LLM open source disponível e ele também é melhor que ChatGPT 3.5 e o Gemini Pro.
Mixtral paper: https://arxiv.org/pdf/2401.04088.pdf
Mixtral model: https://huggingface.co/mistralai/Mixtral-8x7B-v0.1
Mixtral YouTube: https://www.youtube.com/watch?v=mwO6v4BlgZQ
Instagram: https://www.instagram.com/podcast.lifewithai
Linkedin: https://www.linkedin.com/company/life-with-ai
Jan 18, 2024
12 min

Fala galera, na versão em ingles do podcast eu entrevistei o Sergei e a gente falou bastante sobre NLP e mais especificamente o problem de Named Entity Recognition (NER). O Sergei e o time dele na NuMind publicaram um artigo sobre o modelo fundamental de NER deles que bateu e muito o estado da arte e a gente conversou sobre esse modelo na entrevista.
Modelo em ingles: https://huggingface.co/numind/generic-entity_recognition_NER-v1
Modelo multi-language: https://huggingface.co/numind/generic-entity_recognition_NER-multilingual-v1
Linkedin do Sergei: https://www.linkedin.com/in/svbogdanov/
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Dec 7, 2023
13 min

Fala galera, nesse episódio eu explico tudo que sei sobre Transformers. Falo da arquitetura, explico a formula de atenção, encoder, decoder, self-supervised learning, positional encoding, tokenisation, inductive bias, Vision-Transformers, receiptive fields...
Foi o episódio mais tecnico que eu ja gravei e eu espero que voces gostem! Vale a pena escutar esse episódio com o paper do transformer aberto.
Paper Transformers: https://arxiv.org/pdf/1706.03762.pdf
Link do video explicando Next Token Prediction: https://www.linkedin.com/posts/zainhas_the-most-clearest-and-crisp-explanation-ugcPost-7132561633280692224-63AX?utm_source=share&utm_medium=member_desktop
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Nov 30, 2023
34 min

Fala galera, nesse episódio eu explico o que é RAG (Retrieval Augmented Generation) e o conceito de agentes que executam tarefas.
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Nov 16, 2023
12 min

Fala galera, nesse episódio eu entrevistei o Daniel, CTO da WeClever, e a gente conversou sobre como eles estão usando IA para melhorar a experiência dos chat bots. Durante a conversa a gente falou sobre fine tuning do ChatGPT, LoRA, RAG… foi uma conversa muito massa e eu espero que voces gostem!
WeClever: https://www.linkedin.com/company/wecleverco/
Daniel Linkedin: https://www.linkedin.com/in/dmerlimorais/
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Nov 2, 2023
30 min

Fala galera, esse episódio ficou bem massa! Eu dou várias dicas tanto de entrevista tecnica quanto de entrevista comportamental.
Na parte de entrevista tecnica eu falo do que mais cai e sempre é bom saber e também dos maiores erros tecnicos que as pessoas cometem nas entrevista e explico eles. Na parte comportamental eu falo um pouco sobre a visão do entrevistador do que não pode faltar!
Aproveitem que esse episódio em portugues eu falei literalmente tudo, no episódio em ingles eu não pude falar algumas coisas pra não prejudicar as nossas entrevistas na Qantev.
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Aug 31, 2023
24 min

Fala galera, essa foi uma aula que eu dei em um evento falando sobre como treinar algoritmos de IA de maneira supervisionada e self-supervisionada, como funciona a tokenização do texto, como o ChatGPT foi treinado, falei também sobre inteligência de documento e algumas aplicações de IA.
Foi um episódio bem denso em conteúdo e eu espero que voces gostem!
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Aug 24, 2023
28 min
Load more
