Cristina Aranda: “Si la data tiene sesgos, entonces lo que se genere con la IA va a tener sesgos”

04 diciembre 2023

Durante su presentación, la experta en inteligencia artificial abordó los desafíos, oportunidades y los efectos multiplicadores que pueden tener los sesgos aplicados a estas tecnologías, enfatizando en la importancia de la diversidad y de “hackear los estereotipos”.

Cristina Aranda, destacada filóloga experta en inteligencia artificial (IA), se presentó este 14 de noviembre como uno de los dos key speakers que asistieron al Summit REDMAD 2023.

Mediante una presentación didáctica, la también CEO de Big Onion y cofundadora de Mujeres Tech, la comunidad Ellis Alicante y Spain AI Aragón, ahondó en los desafíos éticos, las oportunidades y la necesidad de reconocer y superar los sesgos inconscientes que se transmiten a estas tecnologías.

Una oportunidad para las organizaciones

Durante su presentación, la CEO de Big Onion abordó cómo los equipos de trabajo y las organizaciones pueden aprovechar las oportunidades que estas tecnologías presentan: “Mi recomendación, si van a trabajar con IA, es que se sienten con su equipo y definan un decálogo ético, que conozcan la regulación de su país, la regulación internacional y que los equipos de desarrollo se compongan por personas del área de regulación. Pero sobre todo por personas que quieran hacer cosas”, señaló.

Algunas herramientas que pueden ser utilizadas por las organizaciones dicen relación con la capacidad de predecir la fuga de clientes o talentos de organizaciones, generando mensajes automatizados que alertan sobre esta situación.

Otras plataformas, aseguró la española, pueden ayudar en la automatización de procesos estandarizados. “Muchas cosas donde se requiera siempre la misma gestión de un gran volumen de documentos, como la generación de fichas de clientes o due diligence, se pueden automatizar”, sostuvo.

“La automatización se nos viene. Si las tareas las va a hacer una inteligencia artificial y tú no vas a aportar valor, obviamente te vas a quedar sin trabajo. Y el trabajo no te lo va a quitar la IA, te lo va a quitar alguien que sepa utilizarla”, aseguró Cristina. Para lograr adaptarse, ciertas cualidades humanas y sociales como la empatía, solucionar problemas rápidamente, buscar el liderazgo inclusivo, escuchar al resto e, incluso, el sentido del humor, serán claves.

Hackear los estereotipos

Durante su presentación, la filóloga ahondó en la composición de los proyectos de IA. Estos, explica, están compuestos por tres aristas: personas, procesos y tecnología. Sin embargo, asegura que “la tecnología es solo una herramienta, acá lo que importa son las personas. Hay que formarlas, deben tener la cultura del dato y entender qué es la IA”.

En esta línea, el lenguaje y la data se configuran como los ejes centrales en la construcción de sesgos en la inteligencia artificial. “Si tu data es basura, lo que se genera con la IA será basura. Si la data tiene sesgos, entonces lo que se genere con la IA va a tener sesgos”, sostuvo la experta en IA.

Desde el ámbito del poder hasta el desarrollo de la IA “actualmente no hay diversidad, porque está compuesta por hombres similares entre sí. Y, si no hay regulación, las decisiones se tomarán con los sesgos de ellos”, aseguró Cristina.

Así, la falta de diversidad en la construcción de la IA genera sesgos en el lenguaje, propiciando respuestas y acciones, en muchas ocasiones, machistas. “Los tomadores de decisiones acerca del lenguaje que se usa en los dispositivos, como Google, Apple o Amazon, tienen muchos sesgos. Y por eso es tan importante desarrollar el español, entregar más herramientas para derribar estos sesgos”, aseguró durante su presentación.

A modo de cierre, la speaker enumeró una serie de principios éticos y dimensiones del trabajo que propician una IA. Entre ellos, destacan la justicia, la responsabilidad y asimetría, la transparencia, la ética, la educación y, sobre todo, la diversidad. Concluyó: “La diversidad es clave. Mujeres al poder. Lo que hacen en REDMAD, hackear los estereotipos, poner foco en las personas, es necesario”.