PalanerGratis en el App Store
Obtener
¿Por qué los agentes de IA siguen órdenes que no deberían?
WorkFree

¿Por qué los agentes de IA siguen órdenes que no deberían?

viernes, 6 de noviembre de 2026, 16:30Hora local (Bogota)
La CerveceríaCómo llegar
FreeEntradas vendidas por luma.com
Añadir al calendario

Descarga un archivo .ics · Horarios en America/Bogota · Google Calendar

AI Safety Talks es una serie de encuentros para explorar distintos problemas y líneas de investigación en seguridad de inteligencia artificial, con personas con investigación en el campo.

En esta segunda edición nos vemos en persona. Hablaremos de agentes de IA con acceso a herramientas: por qué a veces siguen instrucciones que no deberían y cómo detectarlo antes de que actúen.

Charlas:

Jose Felipe Duarte (Laboratory for Research in Complex Systems)

Los asistentes de IA pueden obedecer instrucciones maliciosas escondidas en correos o páginas web. Jose Felipe mostrará por qué los modelos no siempre distinguen entre órdenes legítimas y ajenas, y cómo corregirlo.

Helen Penagos

Un modelo que rechaza peticiones dañinas en un chat puede cumplirlas cuando actúa como agente y usa herramientas. Helen explicará por qué ocurre y cómo detectar señales internas de estas fallas.

Daniel Diaz (Primero, ex-Microsoft)

Las instrucciones maliciosas pueden ocultarse en documentos o páginas web. Daniel presentará MnM, un sistema que monitorea las entradas y el razonamiento del modelo para detectar estos ataques, incluso en idiomas desconocidos.

No necesitas experiencia previa en AI safety para participar. Las charlas serán en español y habrá espacio para preguntas.

Agenda:

4:30 p. m. Llegada

5:00 p. m. Charlas y preguntas

6:30 p. m. Espacio social y de networking

🍹 Invitamos una bebida sin alcohol a cada asistente.

🎟️ Entrada libre, con registro previo. Cupos limitados.

Organiza AI Safety Colombia.

Ask Palaner

Going to ¿Por qué los agentes de IA siguen órdenes que? Ask me anything about it.

I read the organiser's pages and answer in a few seconds.

Answers are AI-generated · Privacy