El próximo 24 de abril de 2025, el mundo de la ciberseguridad se concentrará en un seminario web vital que abordará un desafío creciente: la protección de aplicaciones basadas en inteligencia artificial generativa frente a ataques conocidos como inyecciones de mensajes. Este evento, programado para las 12 p.m. EST, promete esclarecer las nuevas amenazas que surgen en el campo, ofreciendo a las empresas y a los profesionales de la seguridad cibernética la oportunidad de actualizar sus estrategias.
La acelerada integración de la inteligencia artificial generativa en organizaciones de diversos sectores ha despertado el interés de adversarios que buscan explotar los modelos de lenguaje. Estos ataques pueden llevar a la filtración de datos confidenciales y a la superación de las medidas de seguridad existentes. Resulta vital que las empresas comprendan tanto la metodología de estos ataques como las tácticas defensivas disponibles.
El seminario contará con la participación destacada de Rob Truesdell, Chief Product Officer de Pangea, quien presentará un análisis profundo sobre las amenazas de inyección de mensajes. Truesdell explicará las diferencias entre las técnicas de inyección directa e indirecta, ilustrando su potencial destructivo mediante casos de ataques documentados. Además, se destacarán las acciones que los proveedores de modelos de lenguaje están adoptando para contrarrestar estas amenazas desde sus plataformas.
Una parte esencial del evento explorará cómo distinguir entre amenazas internas y externas, y de qué manera los atacantes pueden influir en los modelos de inteligencia artificial tanto desde el interior como desde el exterior de las organizaciones. Se introducirán estrategias para mitigar los riesgos, con un enfoque en las mejores prácticas de ingeniería y seguridad diseñadas para prevenir y detectar intentos de inyección.
El seminario también se centrará en cómo los equipos de seguridad pueden evaluar la efectividad de las defensas contra estos ataques. La sesión está dirigida principalmente a líderes en seguridad, ingenieros de inteligencia artificial y equipos de productos deseosos de profundizar en la prevención de riesgos asociados a las aplicaciones de IA en un contexto en el que las ciberamenazas son crecientes.
Es de esperar que la convocatoria atraiga a una amplia audiencia, reflejando el creciente interés y preocupación por la ciberseguridad en el ámbito de la inteligencia artificial.
