Cómo evitar que la IA agrave las desigualdades

La creencia de que toma decisiones racionales y correctas es errónea y peligrosa

Después de que los países postcoloniales del llamado sur global alcanzaran la independencia en la segunda mitad del siglo XX, las corporaciones multinacionales extranjeras continuaron dominando las economías de estas naciones mediante la extracción de sus recursos, seguida de la reventa de los productos terminados a estas mismas naciones africanas. Es decir que la descolonización no supuso independencia económica para estos países sino más bien todo lo contrario, pues provocó que los países postcoloniales se sumieran en una situación económica y política más dependiente que nunca. Es lo que conocemos con el nombre de neocolonialismo.

El neocolonialismo no sólo sigue vigente, sino que se ha incrementado debido a la digitalización, en particular con la inteligencia artificial (IA). Efectivamente, las actuales grandes corporaciones tecnológicas globales como Facebook, Amazon y Google generan una dependencia casi absoluta de sus productos e infraestructuras de Internet, lo cual hace imposible que el sur global decida su propio futuro. Como muy bien señala Sabelo Mhlambi, del Centro Berkman Klein para Internet y Sociedad de Harvard, el principal problema es que la IA, desarrollada casi exclusivamente por estas grandes corporaciones, se basa en visiones occidentales del mundo. En respuesta al creciente poder de los monopolios tecnológicos, ha surgido un movimiento para descolonizar la IA en el Sur global. Sabelo Mhlambi (y otros expertos en IA, ciencias sociales y derechos humanos) han impulsado recientemente el Decolonial AI Manyfesto, una declaración destinada a captar una amplia gama de ideas para ir más allá de los sesgos occidentales y permitir a los países históricamente marginados decidir y construir un futuro socio-técnico digno a medida que avanzamos hacia la era algorítmica.

Pero, ¿Qué significa descolonizar la IA? Los sistemas de inteligencia artificial no se construyen ni se despliegan por sí mismos. Son el resultado de un conjunto de decisiones tomadas por personas, desde los expertos en IA que identifican los problemas a resolver y desarrollan los algoritmos, hasta los inversores que deciden que aplicaciones financiar y quien las van desplegar y cómo. Si estas capacidades para crear y desplegar la IA se concentran en expertos e inversores con una visión occidental del mundo, entonces sus decisiones estarán sesgadas pues no tendrán en cuenta las necesidades, preferencias y objetivos de millones de personas de otras naciones y culturas que, sin embargo, se verán afectadas por el alcance global de los monopolios tecnológicos. Esto es esencialmente neocolonialismo económico. Por lo tanto, cuando hablamos de descolonizar la IA nos referimos a descolonizar todo el proceso: desde decidir los problemas a resolver hasta decidir cuáles financiar y desplegar.

El poder de la IA radica en la creencia, errónea, de que la IA toma decisiones racionales y correctas. Dado que la IA se puede implementar a gran escala para automatizar la toma de decisiones, y dado que la mayoría de la gente parece confiar acríticamente en las decisiones que delegamos en las máquinas, acabamos dando, estúpidamente, mucho poder a la IA. Históricamente, las personas hemos confiado en fuentes supuestamente poseedoras de la “verdad”: Desde los oráculos griegos hasta las religiones. La religión era, y a menudo todavía es, una forma de justificar apropiarse de los recursos de los demás apelando a la voluntad de Dios. Y hoy, la inteligencia artificial, con sus supuestas decisiones “correctas y racionales”, juega el papel de un Dios envuelto en racionalidad. Efectivamente, si suponemos que la IA toma siempre la decisión correcta y lógica, entonces podemos, por ejemplo, utilizarla como justificación de las decisiones de contratar o no contratar a alguien para un trabajo, de conceder o denegar un prés­tamo, de encarcelar o liberar a un acu­sado o, incluso, en el caso de armas letales autónomas, de matar o no a alguien.
Damos ese inmenso poder al sistema y, de paso, nos libramos de responsabi­lidades. Con la excusa de ese poder, ahora también nos basamos cada vez más en la inteligencia artificial para justificar el neocolonialismo económico.

Afortunadamente, en América Latina y África han surgido iniciativas en contra de esta colonización de la IA. En América Latina, Tierra Común es un importante centro de encuentros sobre la descolonización de datos con el objetivo de reunir recursos y promover activistas y pensadores para incidir en el cambio. En África hay un grupo llamado Masakhane que se ha fijado el objetivo de descolonizar no sólo la IA sino la ciencia en general. Su objetivo es crear productos hechos por africanos y para africanos, en lugar de esperar a que las grandes corporaciones tecnológicas los creen para ellos. Por ejemplo, están trabajando en el desarrollo de capacidades de procesamiento del lenguaje natural en múltiples lenguas minoritarias de África oriental.

Algunas universidades occidentales también se están incorporando a este movimiento para descolonizar la IA ofreciendo becas, organizando talleres y debates. El objetivo de la descolonización es, pues, alejarse de los sesgos occidentales adoptando una visión más realista del mundo que incluya aquellas preocupaciones que los países del Sur global consideran relevantes e importantes.

La colonización nunca ha sido una cuestión de raza o dominación per se. La cuestión principal la tenemos en el conocido eslogan de la campaña electoral de Bill Clinton: “Es la economía, estúpido”. Se trataba de seguir nutriendo a un capitalismo insaciable. El racismo surgió para justificar la codicia económica cuando los colonizadores vieron la oportunidad de capitalizar los recursos extraídos del continente africano.

Las grandes corporaciones tecnológicas globales están impulsadas también por la codicia de obtener más y más beneficios en un mundo dominado por la claramente insostenible economía del crecimiento. Estas corporaciones tienen demasiada influencia en la sociedad y no son responsables ante nadie. Y, con su poder, influencian la forma en que todos vemos y experimentamos el mundo, sobre todo cuando lo experimentamos digitalmente. Para evitarlo es necesario adoptar una visión descolonizadora, es decir, la idea de que podemos hacer Inteligencias Artificiales basadas en visiones diferentes del mundo, tal y como se expresa en el Decolonial AI Manyfesto. L.V./ J.S.T.