Desentrañando los Sesgos en la Inteligencia Artificial: El Camino hacia la Equidad Tecnológica

Nuestra relación con la tecnología ha evolucionado de manera significativa en los últimos años, con un marcado incremento en la cantidad y la diversidad de productos digitales que se han integrado de forma profunda en nuestras actividades cotidianas.

En la era desafiante de la inteligencia artificial, los sesgos cognitivos encuentran un nuevo escenario para manifestarse, incorporándose en los algoritmos y sistemas tecnológicos de manera sutil pero impactante, recordándonos que incluso en la búsqueda de la objetividad, nuestras propias predisposiciones pueden dejar su huella en la creación y aplicación de estas poderosas herramientas.

Los sesgos cognitivos se definen como desviaciones en el procesamiento de la información percibida por el cerebro. Estas desviaciones derivan en distorsiones, juicios inexactos, interpretaciones ilógicas, que a su vez forman la base de la información de la que nuestra mente dispone para emitir juicios, interpretar la realidad y tomar decisiones. Los sesgos en los algoritmos utilizados en los sistemas de IA pueden manifestarse al menos de dos formas.

En primer lugar, están los sesgos que se reflejan en los datos que alimentan los sistemas de IA, y es fundamental identificarlos e intentar eliminarlos o al menos reducirlos al máximo posible, porque podrían llevar a situaciones de desigualdad y discriminación. Abundan los ejemplos en los cuales algoritmos entrenados con datos sesgados dieron lugar a desigualdades en el ámbito policial, educativo y laboral, entre muchos otros. Es cierto que los sesgos, en particular aquellos de género, han existido desde siempre, pero al verse reflejados en los sistemas de IA potencian situaciones de desigualdad que la IA debería, por lo contrario, contribuir a eliminar.

Un claro ejemplo de esto lo proporciona el documental Prejuicio Codificado, que pone al descubierto el sesgo racial latente en diversos algoritmos. En el film Joy Buolamwini, investigadora del MIT Media Lab, resalta cómo sistemas de reconocimiento facial ampliamente comercializados y promocionados como imparciales y neutrales revelan un alarmante desequilibrio.

Sin embargo, son pocos los esfuerzos que las agencias policiales o corporaciones dedican a asegurarse de que estos sistemas sean éticos, inclusivos, y que respeten los derechos humanos, antes de utilizarlos para decisiones que impactan en la vida de la gente. En 2019, investigadores del Instituto Nacional de Estándares y Tecnología de Estados Unidos probaron 189 algoritmos de reconocimiento facial y descubrieron que los sistemas identificaban falsamente las caras de personas afroamericanas y asiáticas entre 10 y 100 veces más que aquellas de las personas caucásicas.

En segundo lugar, tenemos que ser conscientes de los sesgos que son empleados de manera intencional por las plataformas digitales para mantenernos activos más tiempo en el espacio digital y de esta forma obtener más y mejor información de nosotros. Como sabemos, este mecanismo está en la base de los modelos de negocios de la mayoría de las plataformas digitales en la actualidad.

Algunos de estos sesgos y efectos cognitivos son más frecuentes que otros y podemos reconocerlos fácilmente desde nuestro accionar. Entre ellos, cabe destacar el sesgo de confirmación, que nos lleva a consumir información alineada con nuestras creencias, preferencias y expectativas preexistentes. En el mundo de las plataformas digitales y las redes sociales, este se torna cada vez más profundo porque constantemente estamos alimentando a los algoritmos con datos sobre nuestras preferencias, lo cual les permite proporcionarnos la información que nos hace sentir más cómodos. Esto no solo impide estar bien informados, sino que también puede conducir, en última instancia a la radicalización del pensamiento y a la polarización social.

Trabajar en el desarrollo de nuestra inteligencia digital es de vital importancia, ya que nos permite desafiar nuestro propio pensamiento, ampliar y cuestionar nuestra mirada. La inteligencia digital supone también reconocer los sesgos y efectos cognitivos a los que estamos expuestos constantemente y que muchas veces reproducimos inconscientemente. Esto es fundamental para aplicar en nuestras vidas, pero también para tener presente en las decisiones que tomamos como profesionales, empresarios, políticos o emprendedores, y que impactan en la sociedad. En un mundo en el que cada vez más áreas de nuestras vidas estarán atravesadas por la IA, el conocimiento de estos sesgos debería convertirse en la guía fundamental para considerarnos realmente alfabetos digitales.