Eticas Consulting, compañía pionera en auditoría de algoritmos, ha elaborado la primera Guía de Auditoría Algorítmica. Este ‘manual de instrucciones’, dirigido a empresas, entidades públicas y a la ciudadanía, ofrece una metodología general y replicable para auditar productos y servicios en torno a sistemas de Inteligencia Artificial (IA) que usan algoritmos que recopilan o tratan datos de carácter personal. De esta forma, se podrá comprobar que son diseñados, desarrollados y utilizados de acuerdo a la Ley, de forma socialmente justa y responsable para evitar que discriminen.

Esta guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos y de datos que hacen. Y nace con tres objetivos, salvaguardar derechos fundamentales, aportar claridad al marco normativo y ofrecer una metodología replicable al alcance de todos. Porque las consecuencias ya están presentes en nuestros día a día, con decisiones discriminatorias en proceses de selección laboral, concesión de créditos, seguros o ayudas sociales, los algoritmos pueden discriminar y conllevar importantes riesgos para las compañías o los Estados que los usan, en la mayoría de las ocasiones, sin saber que no se ajustan a derecho o al contexto socioeconómico.

Gemma Galdon, directora de Eticas Consulting, ha asegurado que “cualquier algoritmo debe desarrollarse e implementarse de manera que pueda ser auditado. Especialmente aquellos con impacto social porque suponen un mayor riesgo para la protección de los datos personales y para la privacidad e integridad de las personas”. Además, destaca que “tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos como si se tratase de auditorías financieras”.

Así, todo algoritmo debe cumplir con lo dispuesto por las normas jurídicas y deontológicas vigentes. En el caso de la protección de datos personales es el marco establecido por el RGPD, así como por la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales, y aquellos textos jurídicos y normas sectoriales relacionados con el ámbito de actuación concreto que sea de aplicación en el caso del algoritmo auditado.

También debe cumplir con las normas y códigos deontológicos relacionados y debe ser diseñado, implementado y revisado desde una perspectiva ética, respetuosa con las normas sociales en materia de privacidad, protección de datos, igualdad, cohesión social, libertad y confianza. Se espera que el algoritmo respete y promueva el respeto de los derechos fundamentales que puedan verse afectados durante su diseño e implementación, más allá del derecho a la privacidad y la protección de datos (Arts. 7 y 8 CEDH). Esto incluye derechos como la integridad (Art. 3, CEDH) y libertad (Art. 5 CEDH) de las personas implicadas.

Además, a modo de ejemplo, todo método de tratamiento de datos debe quedar reflejado como actividad en un Registro de Actividades del Tratamiento. Por lo que se recomienda que las auditorías algorítmicas verifiquen que el tratamiento realizado por el algoritmo esté adecuadamente recogido en el RAT y recoja toda la información contemplada en el Artículo 30 del RGPD.

En definitiva, las auditorías de algoritmos buscan que los sistemas de Inteligencia Artificial sean más explicables, transparentes, predecibles y controlables por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori. La metodología para auditar algoritmos, sin embargo, no es sencilla ni está completamente definida todavía, lo cual supone un desafío. Lo que, sumado al desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas, hace imprescindible aportar claridad a las leyes aplicables a los sistemas algorítmicos y acercarlos a la ciudadanía. Por eso, en esta guía se incluyen desde las definiciones de los términos básicos y las consideraciones previas necesarias para su comprensión, hasta un contenido más especializado centrado en los principios rectores de la auditoría algorítmica, las fases y las recomendaciones para la mejora de los sistemas tras realizar la auditoría.

Puedes descargar la guía completa aquí.

Dejar una respuesta

Please enter your comment!
Please enter your name here

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.