Equipos multidisciplinares y ética

PUNTO 4. Una IA para la ciudadanía y el bienestar social y ambiental

En el punto sobre el compromiso, sería interesante especificar que las evaluaciones serán sostenidas en el tiempo y contemplarán al menos los hitos principales del despliegue de cada nuevo algoritmo: (1) la evaluación previa a la publicación del algoritmo, constatando su buen desempeño; y (2) la comprobación de ausencia de sesgo mediante tests de laboratorio que manipulen la entrada de datos o el aprendizaje por refuerzo del algoritmo, para descartar errores al menos las casuísticas más problemáticas.
Sería aconsejable que estas evaluaciones sean realizadas, no sólo por profesionales técnicos que evalúen la eficiencia del algoritmo, sino también por perfiles con formación más “humanista” (psicólogos, sociólogos…).
La evaluación del buen funcionamiento del algoritmo cada cierto tiempo ya una vez publicado (especialmente si el algoritmo cuenta con aprendizaje automático) perseguiría asegurar que, en un entorno real y tras el aprendizaje autónomo del algoritmo (distinto probablemente respecto al que fue programado), éste sigue libre de sesgos.

PUNTO 3. Gobernanza de los datos

Respecto a la unidad responsable de la gobernanza de datos, sería interesante que permitiera alguna forma de participación externa a Gobierno de Navarra, como la colaboración con entidades de distintos tipos (ongs, empresas) así como ciudadanos.

PUNTO 6. Rendir cuentas de los sistemas de IA

Además del análisis desde el punto de vista de coste económico, social y medioambiental, sería necesario contemplar también el punto de vista ético. No son aislados los casos en los que el uso de algoritmos no pueden ser declarados objetivamente éticos y es muy cuestionable su aplicación por este motivo, aunque a nivel económico, de comodidad o de impacto medioambiental no aparenten resultar un problema.