Recomendación de la UNESCO sobre la ética de la IA

1. ¿En qué contexto surge la Recomendación de la UNESCO sobre la ética de la IA?

El 23 de noviembre del año 2021, los 193 miembros de la Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, más conocida como UNESCO, adoptaron la Recomendación sobre la ética de la inteligencia artificial (en adelante, IA), un instrumento normativo pionero en el mundo.

Este documento surge en pleno desarrollo y auge de la inteligencia artificial, en un momento en que desde las instituciones se plantea su regulación y las posibles implicaciones legales que ella conlleva. Así, el 19 de febrero del año 2020 la Comisión Europea publicó el Libro Blanco sobre la Inteligencia Artificial, que propone un enfoque europeo de excelencia y confianza y reconoce que para aprovechar las oportunidades que ofrece la inteligencia artificial y abordar los retos que presenta, la UE debe actuar conjuntamente y determinar de qué manera, a partir de los valores europeos, promoverá su desarrollo y adopción.

Meses más tarde, el 21 de abril de 2021, la Comisión Europea laboró la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de IA. Es en este contexto en el que la UNESCO adopta esta Recomendación, consciente de las repercusiones tanto positivas como negativas que tiene la IA en las sociedades, el medio ambiente, los ecosistemas y las vidas humanas.

2. ¿Cuál es su estructura?

La Recomendación de la UNESCO sobre la ética de la IA contiene, en primer lugar, un preámbulo. En este preámbulo la UNESCO reconoce que la IA tiene un fuerte impacto en la sociedad y en la mente humana y establece que la Recomendación es un instrumento normativo elaborado con un enfoque mundial, basado en el derecho internacional y centrado en la dignidad humana y en el respeto a los derechos humanos.

Teniendo en cuenta que el rápido desarrollo de las tecnologías de la IA complica su aplicación y su gobernanza ética, la UNESCO acaba este preámbulo recomendando a todos los Estados Miembros que apliquen de manera voluntaria las disposiciones de la Recomendación y adopten las medidas adecuadas para dar efecto en sus respectivas jurisdicciones a los principios y normas enunciados.

Una vez realizado este Preámbulo, la Recomendación de la UNESCO sobre la ética de la IA se estructura en los siguientes puntos:

Ámbito de aplicación
Fines y objetivos
Valores y principios
- Valores:
  - Respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana
  - Prosperidad del medio ambiente y los ecosistemas
  - Garantizar la diversidad y la inclusión
  - Vivir en sociedades pacíficas, justas e interconectadas
- Principios:
  - Proporcionalidad e inocuidad
  - Seguridad y protección
  - Equidad y no discriminación
  - Sostenibilidad
  - Derecho a la intimidad y protección de datos
  - Supervisión y decisión humanas
  - Transparencia y explicabilidad
  - Responsabilidad y rendición de cuentas
  - Sensibilización y educación
  - Gobernanza y colaboración adaptativas y de múltiples partes interesadas
- Ámbitos de acción política
  - Evaluación del impacto ético
  - Gobernanza y administración éticas
  - Política de Datos
  - Desarrollo y cooperación internacional
  - Medio ambiente y ecosistemas
  - Género
  - Cultura
  - Educación e investigación
  - Comunicación e información
  - Economía y trabajo
  - Salud y bienestar social
- Seguimiento y evaluación
- Utilización y aplicación de la presente recomendación
- Promoción de la presente recomendación
- Disposiciones finales

3. ¿Cuál es el ámbito de aplicación de la Recomendación?

La Recomendación de la UNESCO trata todas las cuestiones éticas relacionadas con el ámbito de la IA, en la medida en que competen al mandato de la UNESCO.

La Recomendación aborda la ética de la IA como una reflexión normativa sistemática, y toma de referencia la dignidad humana, el bienestar y la prevención de daños.

La UNESCO reconoce que no pretende proporcionar una única definición de IA, puesto que es consciente de que esa definición cambiará con el tiempo, en función de los avances tecnológicos que vayan desarrollándose. En cambio, el objetivo de la UNESCO es abordar las características de los sistemas de IA que tienen una importancia ética central, y, en ese sentido, establece lo siguiente:

Los sistemas de IA son tecnologías de procesamiento de información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, que dan lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales. Distingue, principalmente, entre sistemas de IA de aprendizaje automático (incluido el aprendizaje profundo y el aprendizaje de refuerzo) y de razonamiento automático (incluidas la planificación, la programación, la representación del conocimiento y el razonamiento, la búsqueda y la optimización).
Las cuestiones éticas relativas a la IA atañen a todas las etapas del ciclo de vida de estos sistemas.
Los sistemas de IA plantean nuevos tipos de cuestiones éticas, entre las que se incluyen el impacto en la adopción de decisiones, el empleo, el trabajo, la atención de la salud, la educación, la brecha digital o la protección del consumidor y de los datos personales, entre otras.

La Recomendación de la UNESCO presta especial atención a las repercusiones éticas más amplias de los sistemas de la IA en las principales esferas de su competencia: la educación; la ciencia; la cultura y la comunicación y la información.

El objetivo de la UNESCO con esta Recomendación es precisamente, servir de base para poner los sistemas de IA que actúan en todos estos ámbitos, al servicio de la humanidad, y aspira a estimular la utilización de los mismos con fines pacíficos.pretende

4. ¿Cómo hay que interpretar la Recomendación?

Los Estados Miembros de la UNESCO deben respetar, promover y proteger todos los valores, principios y normas éticas que se establecen en la Recomendación, y adoptar todas las medidas posibles para dar efecto a sus recomendaciones de actuación.

La Recomendación debe entenderse como un todo, y los valores y principios deben considerarse complementarios y relacionados entre sí. Además, la UNESCO establece que puede ayudar a los Estados Miembros a implementar estos principios y valores, mediante la elaboración de metodologías de evaluación del impacto ético de las tecnologías de IA, la realización de evaluaciones ex ante y ex post de la eficacia y la eficiencia de las políticas desarrolladas y la recopilación y difusión de información sobre avances e innovaciones sobre la ética de la IA.