La aplicación de Twitter en un teléfono inteligente. – Matt Rourke / AP / SIPA
En el redes sociales, la tecnología cuando está completamente automatizada no siempre es buena. Twitter acaba de darse cuenta de que
inteligencia artificial no siempre rima con ética. De hecho, la compañía ha establecido que su algoritmo de recopilación de fotos favorece ligeramente a las personas blancas y a las mujeres.
Un problema señalado por los expertos hace varios meses y transmitido por 20 minutos. La plataforma, por tanto, prefiere prescindir de ella.
“Los algoritmos no son adecuados para todo lo que está en Gorjeo “, Reconoció la red social en uno de sus blogs el miércoles. “Es mejor para los usuarios decidir cómo encuadrar una imagen. “
Un algoritmo en servicio desde 2018
El algoritmo, puesto en servicio en 2018, tiene como objetivo recortar las imágenes según lo que considere más importante, con el fin de reducir su tamaño y desorganizar el hilo de tuits. “La gente en Twitter observó casos en los que nuestro programa eligió a personas blancas en lugar de negras”, dijo Rumman Chowdhury, director de Software. “Probamos nuestro sistema en una gran base de datos para determinar si había algún problema”. Los investigadores encontraron que había una diferencia del 4% a favor de las personas blancas en general y del 7% a favor de las mujeres blancas en comparación con las mujeres negras. La comparación entre hombres y mujeres en general reveló una brecha del 8% a favor de las mujeres.
La empresa con sede en San Francisco también buscó un posible sesgo del llamado “look masculino”, en el sentido de que el algoritmo elegiría el pecho o las piernas de una mujer en lugar de su rostro. Pero solo el 3% de las fotos probadas fueron recortadas de la cabeza de las personas y en elementos no físicos, como un número en una camiseta deportiva. “No encontramos evidencia de sesgo de objetivación”, dijo Rumman Chowdhury.
Menor uso de “aprendizaje automático”
En marzo, la red social probó una nueva forma de mostrar imágenes sin recortarlas, y luego extendió la herramienta a todos, para permitir que todos vean cómo se ve su tweet antes de publicarlo. “Esto reduce nuestra dependencia del aprendizaje automático para una tarea que nuestros usuarios pueden realizar mejor”, añadió Rumman Chowdhury. La inteligencia artificial, por lo tanto, aún tiene avances por hacer.
“Escritora típica. Practicante de comida malvada. Genio zombi. Introvertido. Lector. Erudito de Internet. Entusiasta del café incondicional”.
