15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática
1 hour 41 minutes Posted Jul 28, 2023 at 7:00 am.
Entusiasmo sobre la inteligencia artificial
y los miedos correspondientes
la carrera profesional de Pablo
las primeras épocas de Core (2000)
la evolución de Core
últimas épocas en Core (2017)
Disarmista, la consultora de Futo
observación de malware en entornos aislados
malware y ransomware
El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059
cómo entra Pablo en la inteligencia artificial
nuestra empresa, Gradient Defense https://gradientdefense.com/
los experimentos que viene haciendo Pablo: fine-tuning
los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy
el blog post Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm
: el lejano oeste de los modelos de lenguaje
cómo confiar en un modelo que generó otro
todos los modelos son modificados por cuestiones políticas
el abaratamiento de los costos de entrenamiento en el futuro
¿hay casos de ejecución remota en servidor a partir de prompts?
la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo
la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía
muchos clientes piden simplemente educación
usando un LLM para encontrar exploits
la tesis de Pablo: verificación formal de programas
AutoGPT buscando exploits
Phishing automatizado con LLMs
0:00
1:41:36
Show notes
Notas:58:Editando un modelo de lenguaje con un cambio puntual
This podcast uses Anchor (from Spotify) for stats, tracking, and dynamic audio. Learn more on this podcast's About tab. Dynamic Audio may cause this episode's timestamps to be slightly off.