La versión de su navegador no está debidamente actualizada. Le recomendamos actualizarla a la versión más reciente.

El responsable independiente de la ética de la IA. Posibles funciones.

El párrafo 58 de la recomendación sobre la ética de la Inteligencia Artificial de la UNESCO, firmada por 193 países en noviembre de 2021, dice:

“Los Estados Miembros deberían alentar a las entidades públicas, las empresas del sector privado y las organizaciones de la sociedad civil a que incorporen a diferentes partes interesadas a su gobernanza en materia de IA y consideren la posibilidad de añadir una función de responsable independiente de la ética de la IA o algún otro mecanismo para supervisar las actividades relacionadas con la evaluación del impacto ético, las auditorías y el seguimiento continuo, así como para garantizar la orientación ética de los sistemas de IA. “

Y adicionalmente indica:

“Se alienta a los Estados Miembros, las empresas del sector privado y las organizaciones de la sociedad civil a que, con el respaldo de la UNESCO, creen una red de responsables independientes de la ética de la IA para apoyar este proceso en los planos nacional, regional e internacional.”

Alcance

Como se indica en la propia recomendación, estos requerimientos son independientes del tipo de entidad, de forma que se consideran necesarios tanto en el ámbito público como en el privado, dado el impacto que los sistemas y algoritmos de decisión automatizados tienen en la vida diaria en todos los ámbitos (salud, educación, finanzas, administración, consumo, etc.)

El requerimiento tiene una doble naturaleza que puede y debe desarrollarse en paralelo:

  • Asegurar que, en los procesos de gobernanza, se incluye la visión del mayor número de partes interesadas. Esto puede realizarse de formas diversas y que, a modo de ejemplo, supondría incluir una figura del defensor del cliente o de los representantes de los trabajadores en las materias que les afectan, así como alguna persona que represente los intereses de los grupos de especial vulnerabilidad (ancianos, niños, analfabetos, minorías, etc.).
  • Disponer de una persona de referencia, que en la recomendación se denomina con el título de responsable independiente de la ética de la IA, que más allá de participar en los procesos de gobernanza (donde podría hacer esa función, incluso como representante de alguno de los grupos de interés mencionados), realiza una labor de evaluación externa y recomendación para el Consejo y la Alta Dirección de la empresa.

Funciones

La recomendación no especifica las funciones de este responsable independiente, por lo que se propone aquí una idea de lo que podrían ser sus funciones.

  • Participará o estará debidamente informado de las sesiones de evaluación de las posibles incidencias internas que tengan su origen en algoritmos o sistemas de decisión automatizados de la empresa, pudiendo proponer la elaboración de políticas al respecto que ayuden a la mejora continua.
  • Elevará al Consejo una evaluación periódica independiente del nivel de cumplimiento de los estándares éticos generalmente reconocidos, así como de las propias políticas internas sobre el uso de algoritmos y sistemas de decisión automatizados en los procesos de la empresa.
  • Como experto en la materia, estará informado de los eventos externos que tengan relevancia técnica o creen alarma social, de los desarrollos legislativos en curso, o de los debates actuales sobre la materia, para promover la reflexión interna y proponer posibles líneas de acción.
  • Formará parte con voz de aquellos comités de alto nivel de la empresa que asesoren o evalúen aspectos éticos y de gobernanza sobre la materia. Se le podrá otorgar el derecho de veto en determinadas materias, conllevando la necesidad de elevar determinados asuntos a los máximos órganos de decisión de la empresa.
  • Asesorará en la elaboración de planes y políticas en relación con el uso de algoritmos y sistemas automatizados de decisión y en lo que afecta a todo su ciclo de vida. Igualmente, se le podrá solicitar opinión en cualesquiera otras acciones relacionadas con el desarrollo, integración y uso de sistemas y algoritmos de decisión automatizada.

Adicionalmente, es relevante su ubicación en la estructura de la empresa.

  • El responsable independiente de la ética de la IA podría formar parte, como consejero independiente, del consejo de administración de la empresa o de un consejo asesor de alcance más amplio.
  • De no formar parte del Consejo, ya sea por la naturaleza del negocio o por la prelación de relevancia en el contexto de la empresa, si se considera necesario que se identifique un consejero independiente como persona de referencia en la materia dentro del Consejo, de forma que el responsable independiente tenga acceso directo y autónomo a dicho consejero y pueda, al menos semestralmente, elevar su evaluación independiente, así como atender cualquier cuestión específica que se considere.

VOLVER AL RADAR REGULATORIO >>