Ciencia y Tecnología

La inteligencia artificial es acechada por prejuicios

por Ruth Guerra

Recientemente hice conciencia sobre cómo en la actualidad la inteligencia artificial (IA) ya es una realidad: hace tiempo creíamos que solo existía en películas como Terminator o Wall E, pero en la última década abandonó el espectro de la ciencia ficción para integrarse sutilmente en nuestras vidas y aunque todavía esta una fase muy inicial, promete ser una revolución equiparable a internet y ya está tocando a la puerta, lista para entrar.

La IA requiere la combinación de múltiples algoritmos con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano, las cuales se dividen en cuatro sistemas:

  • Piensan como humanos (redes neuronales artificiales)
  • Actúan como humanos (robots)
  • Piensan racionalmente (imitar o procurar hacer una cosa del mismo modo o mejor que el humano)
  • Actúan racionalmente (agentes inteligentes)

Ejemplos sobre esta situación son: la inteligencia artificial Siri, Cortana y Google Now que tienen funciones de asistente personal a veces con su propia personalidad incorporada en nuestros celulares. Lo que me hace reflexionar que somos la primera generación que convive con este tipo de inteligencia y me pregunto, ¿qué tan preparados estamos para ajustarnos a la IA? Y, sobre todo, ¿qué es lo que estamos programando en esas máquinas?

Por ello que me di a la tarea de investigar un poco más a fondo el tema, y descubrí que en efecto, cada día se innovan  máquinas robóticas, que requieren una enorme cantidad de datos para poder ir generando su propio procesamiento, debido a esto la importancia de analizar ¿qué datos se le proporciona? y, ¿quién los proporciona?.

De acuerdo con Lisa Wang, directora ejecutiva y cofundadora de la plataforma de emprendimiento SheWorx actualmente dicha información es ingresada a las bases de datos principalmente por hombres (90%) y  se ha observado que suelen utilizar la voz de mujeres en actividades de asistencia personal, perpetuando estereotipos de género.

Desde el 2017 surgió una iniciativa para luchar contra los prejuicios escondidos en los algoritmos vinculados a la IA; sin embargo, se ha avanzado poco. Incluso fue tema de debate en el Mobile World Congress de Barcelona (2019), lo que ha llevado a los organismos internacionales a plantearse la necesidad de crear una normativa para regular su uso, empleo y evitar, de este modo, posibles problemáticas que puedan surgir en el futuro.

“Se puede lograr mucho trabajando con toda la sociedad, sensibilizando a las personas y responsabilizándolas de que los datos que se  proporcionan  al procesarse”

Me planteo lo siguiente: en el marco de un mundo que se comunica mediante la IA,  ¿cómo enfrentar la desinformación sobre temas de sexualidad y evitar que con esta tecnología se sigan reproduciendo los mismos prejuicios? Utilizando las tecnologías actuales, ¿cómo podríamos evitar los estereotipos de género?.

En mi opinión, se puede lograr mucho trabajando con toda la sociedad, sensibilizando a las personas y responsabilizándolas de que los datos que se  proporcionan  al procesarse, se convierte en información que puede sesgarse cuando se proporcionan datos estereotipados, imprecisos o incorrectos.

Como usuarios de la IA, deberíamos exigir a las empresas que diseñan estas tecnologías  espacios de reflexión para evitar que sus programas de IA reproduzcan los prejuicios en general y los de género en particular. Las máquinas inteligentes deberían ser programadas para realizar actividades de los seres humanos (razonamiento y conductas), pero en el marco de los derechos humanos, del respeto a las diferencias sexuales, religiosas, políticas, equidad de genero, entre otras.

El riesgo es que la IA extraiga y analice información de forma masiva para tomar decisiones basados en estereotipos, y en datos que no están proporcionando lo usuarios reales de esta tecnología. Aspiro a un nuevo mundo más armonioso y equitativo con ayuda de esta inteligencia como son los robots médicos y estoy en contra de la violencia en la que participe esta inteligencia como los robots militarizados.

1 reply »

  1. Muy interesante y amplio el concepto, muy futurista, aunque avanza a pasos agigantados, pero creo que para lograr que la IA logre distinguir una preferencia sexual, antes tendría que identificarla y en ese momento se estaría etiquetando a una persona con un estereotipo, así como cada ser humano se identifica con su preferencia sexual y se etiqueta A si mismo con algún calificativo especial, ejemplo “ lésbico “ o “eterosexual” o como a cada quien le guste llamarse, primero la misma gente o personas o humanos, tendrían que dejar de identificarse de alguna manera, con su preferencia sexual, para que haga exactamente eso una máquina, creo yo, sin dejar de ser un ser humano diferente a cualquier otro, individual y autónomo en cualquier aspecto.
    Ojala y me expliqué adecuadamente, sin afectar a ningún ser humano y logre una crítica constructiva e inteligente no agresiva de usted Dra o de quien pueda leer este comentario.

    Me gusta

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s