Aportaciones ASEDIE al Manifiesto ético del dato del Gobierno de Navarra

La Administración, como responsable final de los datos y los servicios de los ciudadanos, debe extender las consideraciones del uso práctica de la Inteligencia Artificial y establecer los mecanismos que regulen la responsabilidad de su uso. Dar respuesta a esta necesidad y permitir a las empresas españolas y europeas mantener su competitivdad en un contexto de aldea global es un tarea ineludible para el legislador.

PUNTO 4. Una IA para la ciudadanía y el bienestar social y ambiental En el punto sobre el compromiso, sería interesante especificar que las evaluaciones serán sostenidas en el tiempo y contemplarán al menos los hitos principales del despliegue de cada nuevo algoritmo: (1) la evaluación previa a la publicación del algoritmo, constatando su buen desempeño; y (2) la comprobación de ausencia de sesgo mediante tests de laboratorio que manipulen la entrada de datos o el aprendizaje por refuerzo del algoritmo, para descartar errores al menos las casuísticas más problemáticas. Sería aconsejable que estas evaluaciones sean realizadas, no sólo por profesionales técnicos que evalúen la eficiencia del algoritmo, sino también por perfiles con formación más “humanista” (psicólogos, sociólogos…). La evaluación del buen funcionamiento del algoritmo cada cierto tiempo ya una vez publicado (especialmente si el algoritmo cuenta con aprendizaje automático) perseguiría asegurar que, en un entorno real y tras el aprendizaje autónomo del algoritmo (distinto probablemente respecto al que fue programado), éste sigue libre de sesgos. PUNTO 3. Gobernanza de los datos Respecto a la unidad responsable de la gobernanza de datos, sería interesante que permitiera alguna forma de participación externa a Gobierno de Navarra, como la colaboración con entidades de distintos tipos (ongs, empresas) así como ciudadanos. PUNTO 6. Rendir cuentas de los sistemas de IA Además del análisis desde el punto de vista de coste económico, social y medioambiental, sería necesario contemplar también el punto de vista ético. No son aislados los casos en los que el uso de algoritmos no pueden ser declarados objetivamente éticos y es muy cuestionable su aplicación por este motivo, aunque a nivel económico, de comodidad o de impacto medioambiental no aparenten resultar un problema.