La nueva aplicación Google Photos posee un sistema de reconocimiento facial y etiqueta automáticamente las imágenes que los usuarios suben a ella. Sin embargo, esta vez cometió un grave error y fue tildado de racista.
Consternado". Así dice estar Google después de que su nueva aplicación para compartir y almacenar imágenes y video, Google Photos, etiquetara a una pareja de negros como "gorilas".
La app etiqueta automáticamente las fotos que los usuarios suben a ella, por medio de susoftware de inteligencia artificial.
En este caso, el sistema se equivocó.
Y las reacciones no tardaron en llegar.
El primero en quejarse fue una de las dos personas de la fotografía, Jacky Alcine, un desarrollador de software con base en Nueva York, Estados Unidos.
Y a ésta le siguieron decenas de usuarios, quienes criticaron a Google por las connotaciones racistas de la etiqueta.
Además, Alcine no tardó en contactar vía Twitter a uno de los ejecutivos de la compañía, Yonatan Zunger.
"Esto no está bien en un 100%", fue la respuesta de Zunger, el arquitecto jefe de redes sociales de la empresa.
"Estaba arriba en mi lista de errores que no quería que ocurrieran jamás", reconoció.
Señaló que Google ya tomó medidas para evitar que otros sufran el mismo equívoco.
Y añadió que "también está trabajando en más arreglos relacionados con la lingüística- las palabras con las que tener cuidado en las fotos de la gente- y con el propio sistema de reconocimiento de imágenes; por ejemplo, para que reconozca mejor a los rostros de piel oscura".
Errores anteriores
Esta no ha sido la primera vez que Google Photos ha clasificado de forma incorrecta.
Según la página web especializada iTech Post, en mayo etiquetó a unos perros como caballos.
Ni tampoco es la primera vez que las acusaciones de racismo planean sobre Google.
También le llovieron las críticas cuando al buscar "la casa del negro" o "rey negro" (en inglés) en Google Maps en los alrededores de Washington DC, la aplicación Google Maps llevaba directamente a la Casa Blanca.
Para minimizar estos errores, Google Photos permite a los usuarios modificar las etiquetas cuando estas están equivocadas.
Y, a su vez, esto debería ayudar a mejorar la precisión del sistema automático de reconocimiento, ya que el software tiene la capacidad de aprender.
Sin embargo, más allá de todas las explicaciones, Google ha reconocido la dimensión del último error y ha pedido disculpas.
"Estamos consternados y sentimos realmente lo que pasó", dijo un portavoz de la empresa a la BBC.
"Estamos tomando acciones inmediatas para evitar que aparezcan este tipo de resultados", informó.
Google dijo estar "consternado".
Y agregó: "Claramente hay mucho trabajo que hacer con el etiquetado automático de las imágenes y estamos buscando cómo prevenir estos errores en el futuro".
Sin embargo, a una de las víctimas de la confusión, Alcine, sigue preocupándole el asunto.
"Tengo un par de preguntas, como qué tipo de imágenes y gente se utilizaron en la preparación inicial (de la aplicación) para que condujeran a unos resultados como estos", dijo el desarrollador de software a la BBC.
"(Google) dice que ha intensificado la búsqueda para que entren candidatos de color, pero sólo el tiempo dirá si esto ocurrirá y si ayudará a corregir la imagen que las empresas de Silicon Valley tienen sobre la diversidad (...)".
