En el ámbito de la inteligencia artificial (IA), Acuilae Labs ha marcado un hito al lanzar, de manera gratuita y en abierto, la especificación de su nuevo estándar Ethyka. Este sistema innovador tiene como objetivo integrar reglas éticas en la operativa diaria de sistemas de IA, como asistentes de atención, motores de recomendación, agentes autónomos y robots. La propuesta llega en un momento crucial tras la entrada en vigor del Reglamento Europeo de IA, que establece obligaciones estrictas para sistemas de alto riesgo.
Ethyka busca simplificar la comprensión y accesibilidad de las implicaciones éticas de los sistemas de IA, traduciendo estas en documentos verificables. En estos informes, las organizaciones deben detallar sus compromisos éticos, incluyendo acciones que seguirán, prácticas prohibidas y técnicas de manipulación restringidas, además de definir la autonomía del sistema. Cuando se trata de sistemas físicos, como robots y drones, se añaden específicamente normas que deben acatar.
El Reglamento Europeo prohíbe prácticas manipulativas y la explotación de vulnerabilidades, pero hasta ahora no había un método claro para ofrecer pruebas de cumplimiento. Ethyka llena este vacío al identificar y clasificar tales prácticas, que incluyen crear urgencias artificiales o jugar con emociones para retener usuarios. Estas prácticas ahora son pruebas concretas alineadas con la normativa europea.
Además, Ethyka introduce 19 reglas verificables para la robótica, enfocándose en la seguridad durante las interacciones físico-humanas. Entre estas reglas se detallan límites sobre la fuerza que puede ejercer un robot, su comportamiento en emergencias y el registro de datos ante fallos.
Más allá de la mera declaración de principios, Ethyka promueve la integración efectiva de la ética en los sistemas de inteligencia artificial, mediante un proceso en cuatro fases: diagnóstico, definición de líneas rojas, implementación de las reglas y pruebas del sistema. Así, se busca garantizar que el comportamiento real de los sistemas cumpla con los principios éticos formulados en los documentos.
Con este estándar accesible y verificado, Acuilae Labs aspira a responder a las crecientes expectativas de las organizaciones que contratan servicios de inteligencia artificial, posicionando la ética como un pilar esencial en el desarrollo y despliegue de nuevas tecnologías.
