MIT elimina base de datos que entrena Inteligencia Artificial por términos racistas y misóginos

MIT pidió dejar de utilizar su base de datos ya retirada en caso de que alguien conserve una copia.

Pexels

Por poseer términos racistas y misóginos, el instituto Tecnológico de Massachusetts (MIT) por sus siglas en inglés, quitó una base de datos creada en 2006 y que utilizaba para entrenar Inteligencia Artificial (AI).

El Instituto la retiró finalmente este 29 de junio 2020. Esta contenía unas 80 millones de imágenes y 53 mil 465 sustantivos copiadas de la base de datos léxica WordNet. La función principal de esta base de datos era el reconocimiento de gente y objetivos a través de imágenes.

Lo que ocurrió fue que a diferencia de otras base de datos, la de MIT no había sido sometida a escrutinio. Fue entonces cuando un científico de UnifyID, llamado Vinay Prabhu, encontró varias imágenes de personas negras y asiáticas con etiquetas racistas, al igual que imágenes de genitales femeninos con términos ofensivos.

Respuestas misóginas

Según informa el portal Mail Online, el problema radica especialmente porque a través de estos etiquetados de la base de datos de MIT se ha ido enseñando a la Inteligencia Artificial a ser racista y sexista, generando como resultado una especia de chatbot con respuestas misóginas o un software con reconocimiento facial racista.

La problemática llevó a MIT a escribir una carta en su sitio web donde explicaron la decisión de eliminar su base de datos.

"Está claro que deberíamos haberlos examinado manualmente", señaló Antonio Torralba, profesor de ingeniería eléctrica e informática en el Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT.

"Para ello, nos disculpamos sinceramente, de hecho, hemos desconectado el conjunto de datos para que se puedan eliminar las imágenes y categorías infractoras", agregó.