Alphabet y el discurso de odio

Los últimos meses del año pasado y los primeros de este han visto emerger un nuevo fenómeno social, impulsado por la existencia del internet: el discurso del odio (referido en inglés como “hate speech”). Este abarca, en teoría, toda clase de comentarios que promueven el “odio”, o, en otras palabras, ofendan a una persona u organización.

Ante la aparición y propagación de dicho lenguaje por las redes sociales y foros de internet, Alphabet, la empresa matriz de Google, ha decidido crear una inteligencia artificial que aprenda a identificar qué palabras promueven el odio, para así combatir esto de forma más efectiva. El problema es que es sumamente complicado enseñarle a una máquina qué es el odio y cómo se compone. Este conflicto parece haber atrasado el progreso del proyecto, afirma el artículo de Quartz, titulado “Alphabet’s hate-fighting AI doesn’t understand hate yet”.

Recientemente, Google junto con Jigsaw, división de la compañía creada para “hacer el mundo más seguro”, anunciaron la creación de Perspective, una nueva inteligencia artificial. Como muchos de sus productos similares, Perspective funciona aprendiendo, por lo que, mientras más data tenga en su base, mejor podrá funcionar. Sin embargo, el problema es que, sin importar la cantidad de información que maneje, la máquina no puede hacer nada si es que no sabe cómo funciona el discurso de odio y en qué circunstancias se manifiesta.

Esto ha sido claramente demostrado por la misma compañía, cuando Perspective, que categoriza frases según qué tan dañinas son, calificó a, “el racismo es malo”, como una frase sumamente negativa. Esto se debe a que se le ha enseñado que las palabras “racismo” y “malo”, deben ser calificadas de esa manera. Sin embargo, la máquina es incapaz de reconocer que, en este caso, ambas palabras son utilizadas para expresar algo positivo. Un caso similar se dio con la frase “el odio es estúpido”, cuyo resultado fue de 97% negativo, según la máquina.

Otro problema se encuentra en enseñarle a Perspective el valor de las palabras. Escribir “nada es malo” resulta en un 94% de negatividad, pero sucede lo mismo cuando escribes “Dave es malo”. Además, es importante señalar que el valor positivo o negativo de una frase se debe, muchas veces, a la situación social en la que se expresa. La palabra “maldito” puede ser utilizada para insultar a alguien y expresar molestia (“Cállate, maldito”), o para saludar a alguien en una situación de confianza y amistad (“¿Cómo estás, maldito?”).

Si bien la idea de Alphabet es buena, su mayor reto consiste en enseñarle a una máquina cómo funciona el lenguaje, además de cómo una palabra puede tener distintas acepciones dependiendo del contexto. Una vez conseguido esto, Alphabte podría tratar de enseñarle a Perspective a identificar mensajes de odio. De lo contrario, seguirá identificando a frases como, “algunas razas son inferiores a otras”, como una frase poco tóxica (18%), y a, “camión de basura”, como sumamente tóxicas (78%).