Bicicletas mentales
Bicicletas mentales
Diego Basch
14. Fernando Balbachan - Modelos de lenguaje, ChatGPT, inteligencia artificial, lingüística
1 hour 23 minutes Posted Feb 25, 2023 at 10:57 pm.
Historia de los modelos del lenguaje
Qué es un modelo transformer
Embeddings
Los de OpenAI (ada 002)
RHLF (aprendizaje reforzado por feedback humano)
el video de Andrej Karpathy (GPT desde cero, con código)
¿Los modelos son creativos? (tangente, el video sobre cómo Nirvana combina elementos)
Detrás de escena son todos números.
El razonamiento implícito de los modelos. Los portales semánticos (por ejemplo, los sueños).
¿Por qué los modelos del lenguaje no pueden hacer cuentas?
Aumentando los modelos con herramientas externas (ejemplo, LangChain)
¿Los programadores se van a quedar sin trabajo?
Las abstracciones con pérdida (leaky abstractions) de Joel Spolsky
La historia de la programación desde el 80 hasta hoy
Daniel Kahneman, pensando rápido y despacio
El recall de Tesla por un bug.
La evolución del pensamiento humano comparado y su influencia en la IA.
La lucha permanente contra la escasez y el sufrimiento.
El experimento fallido de Microsoft.
Con un avión podemos ir más rápido pero también nos podemos estrellar si no tenemos cuidado (ventajas y desventajas de la tecnología)
La historia de OpenAI con Elon Musk
El "paperclip maximizer" y los escenarios de destrucción del mundo a manos de la IA.
Teller y el miedo de que la bomba atómica incendiara la atmósfera
El precipicio de Toby Ord
Los riesgos de la investigación
Tenemos que hacer un episodio más dedicado a la lingüística
Fernando en LinkedIn
0:00
1:23:46
Download MP3
Show notes
Notas:
Vengan a nuestro Discord.
3:30 Qué es un modelo transformer
4:30 Embeddings
6:00 Los de OpenAI (ada 002)
11:00 RHLF (aprendizaje reforzado por feedback humano)
12:00 el video de Andrej Karpathy (GPT desde cero, con código)
16:00 ¿Los modelos son creativos? (tangente, el video sobre cómo Nirvana combina elementos)
29:30 Aumentando los modelos con herramientas externas (ejemplo, LangChain)
36:00 Las abstracciones con pérdida (leaky abstractions) de Joel Spolsky
47:00 Daniel Kahneman, pensando rápido y despacio
49:30 El recall de Tesla por un bug.
59:00 El experimento fallido de Microsoft.
1:03 La historia de OpenAI con Elon Musk
1:05 El "paperclip maximizer" y los escenarios de destrucción del mundo a manos de la IA.
1:10 Teller y el miedo de que la bomba atómica incendiara la atmósfera
1:11 El precipicio de Toby Ord
1:18 Fernando en LinkedIn
Donde trabaja Fernando ahora, Lexalytics
Cátedra de la UBA
Fernando en Twitter