Theodora AI: la tecnología que busca acabar con los sesgos al interior de las organizaciones

16 abril 2024

Fundada por la abogada chilena María José Martabit, la startup se ha convertido en un referente internacional a la hora de detectar y mitigar sesgos mediante el uso de inteligencia artificial, disminuyendo así los riesgos reputacionales de las organizaciones.

Tras realizar un máster en derecho con foco en propiedad intelectual en la Universidad de Washington y un programa de Liderazgo Femenino en Yale, la abogada chilena María José Martabit fundó en 2022 la legaltech Theodora AI. Esta tiene el propósito de promover la diversidad, inclusión y la equidad a través del uso de inteligencia artificial de última generación. Hoy, Theodora está realizando pilotos en varias organizaciones con el programa “Immersion Program for AI Anti-Bias Technology”.

Mediante el análisis de textos y frases, la tecnología detecta y mitiga sesgos en textos de documentos legales, judiciales, publicidad, contratos, correos y publicaciones en redes sociales, entre otros. Es capaz de identificar sesgos de género, edad, religión, orientación sexual, discapacidad, características socioeconómicas y personales, creando métricas y diagnosticando el riesgo reputacional de acuerdo con el tipo de sesgo predominante en la organización.

María José cuenta que la idea de crear esta startup surgió a raíz de la premisa de que las sociedades de hoy están exigiendo una verdadera transformación social para vivir en un mundo en el que impere la equidad. “Theodora permite educar a las y los usuarios sobre sesgos que, al ser inconscientes, no se pueden ver ni detectar por quienes los poseen. Cuando la comunicación es sesgada, generalmente daña a personas y a grupos, perjudicando la reputación de corporaciones, gobiernos y personas. Por lo mismo, en Theodora estamos utilizando inteligencia artificial revolucionaria para detectar los sesgos que son la piedra angular de la discriminación”, afirma.

-¿Cuál dirías que han sido las principales barreras y los grandes logros de Theodora?

-El gran logro de Theodora es haber encontrado en el camino a grandes personas y haber generado alianzas con organizaciones que creen en nuestro propósito, y que nos han apoyado a construir nuestra tecnología. Por el otro lado, la principal dificultad ha sido crear algo que no existía, lo que implica muchos procesos creativos y, sin duda, muchísima iteración y periodos de ensayo y error. Eso ha requerido una cultura muy flexible y resiliente al interior de la organización.

-¿Cuáles consideras que son los grandes peligros de los sesgos sexistas en las empresas?

-Los grandes peligros en las organizaciones vendrían siendo un bajo rendimiento, poco sentido de pertenencia, mala salud mental y poca satisfacción en el trabajo. Con ello, es posible advertir que se perjudica a las personas al no poder optar a ciertos cargos o trabajos, por ejemplo. De esta forma, el sesgo de género puede reducir las oportunidades laborales y de desarrollo profesional para ciertas personas, pero eso a la larga afecta a toda la organización.

-¿Crees que la presencia de más mujeres en puestos de alta dirección contribuya a revertir estos sesgos? ¿De qué forma?

-Creo que la presencia de más personas con miradas diversas en puestos de alta dirección será lo que ayude a revertir los sesgos presentes en cada organización, independiente de si son hombres o mujeres. Como en todo proceso de crecimiento, se trata primero de entender el problema, luego medirlo, y finalmente solucionarlo. Creo que establecer estándares de contratación neutrales al género, contar con procesos de selección estructurados e inclusivos, incluir mediciones sobre sesgos inconscientes para las personas involucradas en los procesos de selección, irá generando cambios positivos en estas materias.
Sin duda que contar con más mujeres en cargos directivos promueve la diversidad y aumenta la representatividad. A su vez, conlleva ciertos beneficios para las empresas, tales como el buen posicionamiento y fortalecimiento de la marca, la contribución a la sociedad y la ventaja competitiva.

-Según diversos estudios, la inteligencia artificial también incorpora sesgos. Dado que Theodora está basada en la IA, ¿de qué forma puede mitigar este riesgo?

-Entender la naturaleza de los datos de entrenamiento, evaluar los modelos de IA con datos de prueba diversos, revisar las predicciones del modelo para detectar sesgos, y utilizar otras herramientas podría ayudar a mejorar la equidad de maneras que no están al alcance de los sistemas de decisión operados exclusivamente por seres humanos.

En lugar de elegir entre sistemas operados exclusivamente por humanos o por IA, aprovechar lo mejor de la capacidad y los valores humanos junto con la inteligencia artificial promete mayores avances en cuestión de equidad, transparencia y rendición de cuentas, y será esencial para desarrollar una sólida confianza pública.

-Dada tu experiencia en el mundo de la IA, ¿consideras que es importante que más mujeres se involucren en temas relacionados con la IA o carreras STEM en general? ¿Por qué?

-Es muy relevante. Haciendo la comparación con un “escenario más pequeño”, como es una empresa, si dentro de la IA en sí hay escasa participación de la mujer, pasará lo mismo que ocurre con las empresas; es decir, proliferarán los sesgos.

Actualmente, las mujeres conforman solo el 12% de los equipos investigadores en este terreno y es muy importante que esto cambie. La escasa participación de la mujer en el sector de la IA debe ser corregida para evitar que, hasta las máquinas –que se volverán cada vez más indispensables en el futuro– se vuelvan discriminatorias.