Acuilae Labs ha realizado un avance significativo en el campo de la ética aplicada a la inteligencia artificial con la publicación gratuita y abierta de Ethyka, un nuevo estándar destinado a integrar principios éticos en el comportamiento de los sistemas de IA, incluyendo asistentes de atención, motores de recomendación, agentes autónomos y robots. Esta iniciativa llega en un momento crucial, tras la aplicación de nuevas obligaciones del Reglamento Europeo de IA para sistemas de alto riesgo.
El estándar Ethyka busca convertir las implicaciones éticas en documentos verificables, donde las organizaciones deben declarar claramente sus compromisos, qué acciones realizarán siempre y cuáles prohibirán, además de las técnicas de manipulación que están restringidas y la extensión de la autonomía del sistema. Para sistemas físicos como robots y drones, se ha desarrollado un conjunto de normas específicas adicionales.
El reglamento europeo prohíbe prácticas manipulativas y la explotación de vulnerabilidades, pero no establecía un método claro para probar su ausencia en los sistemas. Ethyka responde a esta ausencia al identificar y clasificar prácticas manipuladoras específicas, como la creación de urgencias artificiales o la apelación a emociones para evitar cancelaciones, convirtiendo cada práctica en una prueba concreta conforme al reglamento.
Para la robótica, Ethyka introduce 19 reglas verificables que garantizan la seguridad en la interacción física entre humanos y robots, determinando la fuerza que pueden ejercer, cómo deberían detenerse en emergencias y qué datos se deben registrar en caso de fallos.
Más allá de la mera declaración de principios, Ethyka persigue su integración efectiva en los sistemas de IA. Acuilae Labs ofrece un proceso estructurado en cuatro fases: diagnóstico, definición de líneas rojas, implantación de reglas y pruebas del sistema, buscando asegurar que el comportamiento del sistema se alinea con las promesas éticas declaradas.
Con un enfoque en la accesibilidad y verificación, Acuilae Labs pretende satisfacer las demandas crecientes de ética en los servicios de inteligencia artificial, estableciendo la ética como un componente clave en el desarrollo tecnológico futuro.
