Amazon ha anunciado el lanzamiento general de los filtros de contenido de imagen en Amazon Bedrock Guardrails, una herramienta diseñada para moderar tanto texto como imágenes en aplicaciones de inteligencia artificial generativa. Esta nueva funcionalidad amplía de manera significativa las capacidades de control de contenido, permitiendo a las organizaciones gestionar de manera más eficaz los insumos y salidas generadas por la inteligencia artificial.
Tero Hottinen, Vicepresidente de Alianzas Estratégicas en KONE, ha expresado su entusiasmo respecto a esta innovación. Según Hottinen, Amazon Bedrock Guardrails podría desempeñar un papel crucial en la protección de aplicaciones de IA generativa, especialmente en lo que respecta a la verificación de relevancia y contexto. KONE planea incorporar este sistema en sus aplicaciones, integrando diagramas de diseño de productos y manuales, con el objetivo de mejorar el diagnóstico y análisis de contenido multimodal.
Esta herramienta avanzada permite a los usuarios establecer salvaguardias configurables para bloquear contenido perjudicial en los inputs y outputs. Incluye seis políticas distintas, que van desde filtros de contenido hasta la detección de posibles errores del modelo, logrando eliminar hasta el 88% del contenido multimodal dañino. Los desarrolladores ahora tienen la posibilidad de moderar tanto texto como imágenes, ajustando los umbrales de seguridad según sus necesidades.
La utilidad de esta característica se extiende por diversas regiones de AWS, incluyendo US East, US West, Europa y Asia-Pacífico. Sectores como la salud, manufactura, servicios financieros, medios de comunicación y educación pueden mejorar la seguridad de su marca sin necesidad de diseñar sistemas de salvaguardia personalizados o depender de evaluaciones manuales, que son propensas a errores.
Para comenzar a utilizar esta función, los usuarios deben crear un guardrail a través de la consola de gestión de AWS y configurar los filtros que deseen aplicar. También tienen a su disposición el API ApplyGuardrail, que permite validar el contenido en cualquier flujo de aplicación de forma independiente.
Esta herramienta representa un avance significativo hacia el uso más responsable y seguro de la inteligencia artificial, permitiendo la creación de aplicaciones que se alinean con las políticas de IA responsable de cada organización.
