• Caracas (Venezuela)

BBC Mundo

Al instante

Los algoritmos que avergonzaron a Amazon

Así se veía el producto en Amazon antes de que lo quitaran de la página / Internet

Así se veía el producto en Amazon antes de que lo quitaran de la página / Internet

Un algoritmo fue la causa de una gran controversia que obligó al gigante Amazon a retirar camisetas con eslóganes sexistas

  • Tweet:

  • Facebook Like:

  • Addthis Share:

La aparición en su web de una serie de prendas con frases más que ofensivas a principios de mes puso a pensar a más de uno si debe dejarse a las máquinas la tarea de generar significados.

"Mantén la calma y viola mucho", "Mantén la calma y acuchíllala" y "Mantén la calma y pégale" fueron algunos de los ejemplos de inscripciones que figuraban en las camisetas que se podían comprar en la tienda online.

Tras miles de quejas, la empresa responsable de las controvertidas camisetas, Solid Gold Bomb, las retiró del mercado y pidió disculpas en su página web, señalando que el proceso que generaba lo que aparecía en las camisetas estaba automatizado: un algoritmo era el responsable de combinar palabras para crear eslóganes que parodiaran una famosa frase de tiempos de la II Guerra Mundial, muy de moda por estos días en el Reino Unido.

Pero, ¿cómo es posible que un algoritmo se "incline" por frases tan ofensivas?

Una broma computarizada

Según señala la web de la compañía, todo comenzó con una broma. Se usaron computadoras para crear listas de palabras y, con estas, diferentes diseños en las camisetas que reelaboraran el célebre eslógan "Keep calm and carry on" ("Mantén la calma y sigue adelante"), diseñado por el gobierno británico ante una posible invasión nazi a finales de los años 30.

La instrucción era combinar las palabras "on" (sobre) y "off" (fuera), "him" (él) y "her" (ella). Según la compañía, casi la totalidad de las combinaciones posibles, sea que tengan o no sentido, no son ofensivas.

Pero algunas sí lo fueron. Y a la venta salieron.

"Creo que en Amazon vemos la misma actitud que, por ejemplo, YouTube: en principio aceptamos todo, y luego ya veremos cuando haya quejas. Por eso es que no controlaron esto", aseguró a BBC Mundo Pete Ashton, experto en alfabetización digital.

¿Demasiado fácil de poner a la venta?

Según explica Ashton, este tipo de sistema hace posible que cualquiera pueda vender sus productos en Amazon.

"Es como la tienda de Kindle, donde cualquiera puede publicar su libro, y donde ha habido casos de libros retirados tras ser publicados. Es algo liberador, pero tiene la dificultad de que no se puede chequear todo lo que se publica de antemano", añade Ashton.

Amazon ha sido en el pasado objeto de críticas por su política de control a posteriori.

En 2010, el sitio estadounidense de la compañía recibió multitud de críticas por la venta de un libro considerado como una guía para pedófilos y en 2008 tuvo que retirar de la página unas camisetas que alababan a líderes nazi.

Costo nulo

En el caso de las camisetas, se añade el tema del costo, que es prácticamente nulo. Los logos solo se incluyen en las camisetas una vez que se ha producido la compra.

"Es tan fácil y no costó nada. Creo que la idea fue: inventemos todas las camisetas que podamos. Y todo sin costo, tan solo el mínimo en tiempo y equipo", añade Ashton.

"El sistema básicamente buscaba palabras cortas similares a carry, con una cantidad específica de letras. Las palabras largas se descartaban. El responsable de crear el algoritmo tuvo probablemente más en cuenta el aspecto visual que el significado. El sistema hacía hincapié entonces en un solo aspecto", comenta Ashton.

Según la web de Solid Bomb Gold, el sistema se apoyaba en diccionarios electrónicos y recursos de educación en línea. Se generaban entonces listas de palabras que se combinaban con ayuda de sistemas de escritura para generar arte con las frases que surgían.

La compañía afirma que diariamente despacha camisetas a más de 80 países, incluidos Estados Unidos, Alemania y Reino Unido, aunque no está claro cuántas con mensajes ofensivos llegaron finalmente a las manos de sus compradores.