Conversando con Chat GPT

06 marzo 2023

Desde que en noviembre de 2022 OpenAI lanzó al público Chat GPT, el mundo no ha parado de hablar de ello. Primero fue la sorpresa y el hechizo que causaban su corrección lingüística, su naturalidad y su capacidad para referirse a casi cualquier tema. Después han proliferado las preguntas y las dudas acerca de su impacto en la educación, en la medicina, en la seguridad y en muchos otros aspectos de la vida personal y social. Ni la Inteligencia Artificial ni los chatbot son desarrollos nuevos, pero la usabilidad y la apertura que ofrece Chat GPT nos llevó a un peldaño superior, que despertó expectativas y alertas.

Este próximo día Internacional de la Mujer, Naciones Unidas convoca a reflexionar y actuar “Por un mundo digital inclusivo: Innovación y tecnología para la igualdad de género”. Y desde REDMAD queremos impulsar la reflexión acerca de cómo acortar las brechas de género en una tecnología que está avanzando tan rápidamente. Por ello hemos querido compartir con ustedes parte de la conversación que tuvimos al respecto con Chat GPT.

¿Hay sesgos de género en GPT Chat?

Como modelo de lenguaje de IA, fui entrenado en un gran conjunto de datos de texto, que incluye lenguaje que refleja los sesgos y prejuicios que existen en nuestra sociedad. Si bien se realizan esfuerzos para mitigar el sesgo durante la capacitación, es importante reconocer que los modelos de lenguaje como GPT Chat aún pueden reflejar algunos de los sesgos y estereotipos que existen en nuestra sociedad. Una de las formas en que los sesgos pueden aparecer en modelos de lenguaje como GPT Chat es a través del conjunto de datos utilizado para entrenar el modelo.

Si el conjunto de datos no es lo suficientemente diverso y no representa diferentes géneros, razas o culturas por igual, el modelo de lenguaje resultante puede reflejar esos sesgos y perpetuarlos en el lenguaje que genera. Otra forma en que pueden aparecer sesgos es a través del lenguaje utilizado por los usuarios que interactúan con el modelo de lenguaje. Si los usuarios ingresan lenguaje sesgado o discriminatorio, el modelo de lenguaje puede aprender a generar un lenguaje similar en respuesta.

¿Por qué hay sesgos de género en los chats de inteligencia artificial?
Hay varias razones por las que los sesgos de género pueden estar presentes en los chats de IA. Una de las principales razones es que los conjuntos de datos utilizados para entrenar chatbots de IA pueden estar sesgados hacia ciertos estereotipos de género. Estos sesgos pueden introducirse involuntariamente, ya sea porque los datos utilizados para entrenar al chatbot contienen lenguaje sesgado o porque las personas que crearon los datos tenían sesgos inconscientes que afectaron la forma en que etiquetaron o categorizaron los datos.

Otra razón para los sesgos de género en los chats de IA es que los algoritmos utilizados para crear el chatbot pueden estar sesgados. Por ejemplo, si el algoritmo utilizado para entrenar al chatbot está sesgado hacia la asociación de ciertas palabras o frases con géneros específicos, esto puede resultar en un sesgo de género en las respuestas.

Además, las personas que desarrollan y entrenan chatbots de IA pueden tener sesgos, consciente o inconscientemente. Si las personas que crean el chatbot tienen una cierta visión del mundo o un conjunto de creencias, esto puede afectar las respuestas y conducir a un sesgo de género.

Finalmente, vale la pena señalar que los sesgos de género no se limitan a los chats de IA. Existen en muchas áreas de la sociedad y pueden ser difíciles de eliminar por completo. Sin embargo, al ser conscientes de estos sesgos y tomar medidas para abordarlos, podemos trabajar para crear chatbots de IA más equitativos e inclusivos.

Más allá de lo anecdótico de este ejercicio, es necesario considerar que la transformación digital tiene múltiples implicancias para las mujeres y para la sociedad entera. Es y será parte de los desafíos de REDMAD contribuir a la incorporación de talento femenino a la industria TI para garantizar que las brechas del mundo offline no se proyecten ni amplifiquen en el espacio digital.

Por cierto, a Chat GPT le faltó señalar que otra causa de los sesgos en la IA puede encontrarse en, precisamente, la baja participación femenina en la industria.

Carolina Martínez
Presidenta de REDMAD