El 24 de abril de 2025, el mundo empresarial se sumerge en un tema crítico con un evento online que pretende arrojar luz sobre la seguridad de las aplicaciones de inteligencia artificial generativa. En un contexto donde la integración de la IA generativa en aplicaciones empresariales avanza a gran velocidad, los ciberdelincuentes no se quedan atrás y desarrollan novedosas estrategias para explotar estos sistemas. Un área de particular preocupación son los ataques de inyección de comandos, los cuales buscan no solo eludir los controles de seguridad, sino también filtrar datos sensibles de las empresas.
La sesión contará con la participación de expertos en la materia, incluido Rob Truesdell, Chief Product Officer de Pangea, quienes brindarán una mirada profunda al panorama actual de amenazas relacionadas con la inyección de comandos. Se espera que los asistentes adquieran un entendimiento más claro de cómo operan estos ataques, gracias a ejemplos reales que mostrarán las diversas estrategias que los atacantes emplean, desde métodos directos hasta las técnicas más elaboradas e indirectas.
A lo largo del evento, se detallará también la respuesta de los proveedores de modelos de lenguaje, quienes han comenzado a implementar defensas nativas para contrarrestar estas amenazas. Un punto crucial de la discusión se centrará en las diferencias entre amenazas internas y externas, explorando cómo los modelos de IA generativa pueden ser manipulados tanto interna como externamente en una organización.
Con un enfoque en la mitigación de riesgos, la jornada ofrecerá valiosas estrategias para prevenir, detectar y responder efectivamente a los intentos de inyección de comandos. Los expertos compartirán las mejores prácticas de ingeniería y seguridad, y proporcionarán pautas claras para evaluar la efectividad de los mecanismos existentes para la detección de estos ataques.
Este evento online está diseñado para ser indispensable para líderes de seguridad, ingenieros de IA y equipos de producto que buscan estar a la vanguardia en la comprensión y mitigación de los riesgos asociados con las aplicaciones de IA generativa en un entorno cada vez más desafiante. Los interesados que no puedan participar en directo tendrán la opción de registrarse para recibir una grabación del evento en su correo electrónico, garantizando así el acceso a este conocimiento vital.
