El 24 de abril de 2025 se llevará a cabo un seminario web en línea abordando los nuevos desafíos de seguridad asociados con las aplicaciones impulsadas por inteligencia artificial generativa. Este evento, programado para las 12 p.m. EST, se presenta como una valiosa oportunidad para empresas y profesionales de la ciberseguridad interesados en las amenazas emergentes, especialmente aquellas vinculadas a ataques de inyección de mensajes.
A medida que las organizaciones continúan integrando la inteligencia artificial generativa en sus operaciones, los cibercriminales han comenzado a explotar los modelos de lenguaje con ataques que pueden filtrar datos confidenciales y eludir controles de seguridad. En este contexto, es fundamental que las empresas comprendan la mecánica de estos ataques y las estrategias de protección disponibles.
Durante la sesión, Rob Truesdell, Chief Product Officer de Pangea, ofrecerá un análisis detallado de las amenazas relacionadas con la inyección de mensajes. El seminario cubrirá puntos cruciales como las técnicas de inyección directa e indirecta, complementado con ejemplos de ataques reales que subrayan la gravedad de estos riesgos. Además, se discutirá el esfuerzo de los proveedores de modelos de lenguaje en la implementación de defensas nativas contra estas amenazas.
El evento también distinguirá entre amenazas internas y externas, mostrando cómo los adversarios pueden manipular los modelos de GenAI dentro y fuera de las organizaciones. Los asistentes aprenderán estrategias de mitigación de riesgos, incluyendo prácticas avanzadas de ingeniería y seguridad para prevenir, detectar y responder a intentos de inyección. Asimismo, se ofrecerán directrices para evaluar la efectividad de los mecanismos de detección de inyecciones de mensajes.
Dirigido a líderes de seguridad, ingenieros de inteligencia artificial y equipos de producto, este seminario busca proporcionar las herramientas necesarias para entender y mitigar los riesgos de las aplicaciones de IA en un entorno de seguridad cada vez más complejo. Con el creciente interés en la ciberseguridad aplicada a la IA, se anticipa una alta participación en este evento. vía: AI Accelerator Institute.
