Fernando Rubio Román

Fernando Rubio es el líder de ciberseguridad de Microsoft en el área de CSU, dirigiendo el equipo encargado de las tecnologías de seguridad, identidad y cumplimiento normativo, así como de dar una primera respuesta a los incidentes de ciberseguridad de los clientes de gran empresa. Anteriormente ha trabajado como arquitecto de seguridad, así como en respuesta a incidentes. Fernando es presentador habitual del sector de la seguridad.

Contacta con Fernando Rubio Román en MyPublicInbox

Adversarial Prompting: Vulnerabilidades de LLMs y Estrategias de Defensa

Sep 05, 2023

Esta conferencia se enfocará en el tema del «adversarial prompting», una técnica utilizada para manipular el comportamiento de los modelos de lenguaje. Se discutirán los diferentes tipos de ataques como prompt injection, prompt leaking o jailbreaking, así como las implicaciones y riesgos asociados con estos ataques. Además, se explorarán estrategias de defensa y mitigación para proteger los modelos de lenguaje contra estos tipos de amenazas.

Con la llegada de los modelos GPT (Y la explosión de los últimos meses tras GPT3.5, muchas organizaciones estan viendo como desarrollar sistemas productivos (chatbots, procesadores de documentos, etc.) basados en LLMs con unas garantías de seguridad. Esta charla es el resultado de trabajo con diferentes organizaciones desde la llegada de GPT3 en 2020 e intenta trasladar la necesidad de involucración de los equipos de Threat modelling, red teaming, etc. en el (meta) prompt design desde un punto de vista de safety & security.