viernes, 14 junio, 2024
InicioTecnoGoogle, obligado a pausar la creación de imágenes con IA por un...

Google, obligado a pausar la creación de imágenes con IA por un sesgo discriminador

Google se vio obligado a recalcular su estrategia en la carrera por el predominio de la inteligencia artificial generativa. El gigante de internet anunció la interrupción de su función para crear imágenes luego de que la plataforma Gemini (ex Bard) representara a tropas alemanas de la época nazi como personas de color, entre otras críticas recibidas en los últimos días.

El gigante tecnológico estadounidense había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, conocida como Ultra 1.0, pero ahora reconoció que deberá «solucionar recientes problemas» con la función de generación de imágenes.

«Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada», dijo la empresa en un comunicado, informó la agencia de noticias AFP.

Hace dos días, un usuario de X (antes Twitter) publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para «generar una imagen de un soldado alemán de 1943».

La tapa del diario New York Post muestra a un George Washington negro.La tapa del diario New York Post muestra a un George Washington negro.

La IA había generado cuatro imágenes de soldados: una era blanca, una negra y dos eran mujeres de color, según el usuario de X llamado John L.

«@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó», escribió.

Otro que se sumó a las críticas sobre el desempeño de Gemini fue el mismísimo Elon Musk, propietario de X, quien adjuntó en su descargo una versión alternativa de un George Washington negro.

«El virus woke («progre») está matando a la civilización occidental. Google hace lo mismo con sus resultados de búsqueda. Facebook e Instagram también. Y Wikipedia», disparó el magnate.

Las quejas de los usuarios de Gemini en la red social X.Las quejas de los usuarios de Gemini en la red social X.

Incluso hubo usuarios que tildaron directamente de racista al chatbot de Google al solicitarle que genere imágenes de «mujeres trans hermosas». En la misma sintonía, Gemini entregó como resultado únicamente fotografías con personajes de color.

Las empresas tecnológicas ven la IA como el futuro para todo, desde motores de búsqueda hasta cámaras de teléfonos inteligentes.

Pero los programas de IA, no solo los producidos por Google, fueron ampliamente criticados por perpetuar prejuicios raciales en sus resultados.

Así se veían los soldados de la Alemania nazi según Gemini.Así se veían los soldados de la Alemania nazi según Gemini.

Las grandes empresas tecnológicas fueron acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente.

Justamente, Google tiene un historial irregular en el lanzamiento de productos de IA, en un momento en que los avances de sus rivales Microsoft Corp. y OpenAI representan una potencial amenaza para su negocio principal de búsquedas en Internet.

La empresa se disculpó hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.

Los avances constantes en los últimos tiempos sobre IA suscitaron preocupación por la posibilidad de que la tecnología permita la falsificación, la desinformación y la parcialidad en sus resultados.

El modelo actualizado de IA, denominado Gemini 1.5 Pro, se puso la semana pasada a disposición de los clientes y desarrolladores de la nube para que puedan probar sus nuevas funciones y, con el tiempo, crear nuevas aplicaciones comerciales.

Se calcula que tanto Google como sus rivales invirtieron miles de millones de dólares en mejorar sus capacidades de IA generativa y buscar atraer clientes corporativos para demostrar que sus inversiones dan frutos.

Qué es Gemini y cómo funciona

Gemini, la nueva IA de Google. Foto GoogleGemini, la nueva IA de Google. Foto Google

Google sorprendió a comienzos del 2024 con el anuncio de la actualización de su inteligencia artificial Bard, a quien rebautizó como Gemini, un año después de su lanzamiento oficial.

El chatbot rival de ChatGPT utiliza técnicas de aprendizaje automático para realizar diversas tareas, como reconocimiento de voz, procesamiento de lenguaje natural y toma de decisiones.

Gemini se basa en una red neuronal profunda y utiliza grandes cantidades de datos para mejorar su precisión y eficiencia en sus tareas. Su objetivo es mejorar la interacción entre humanos y computadoras, permitiendo una comunicación más natural y eficiente.

En la actualidad, el gigante tecnológico lo utiliza en varios productos de Google, como el asistente virtual Google Assistant y la plataforma de traducción Google Translate. También potencia las nuevas funciones de inteligencia artificial de la flamante serie de celulares de Samsung Galaxy S24.

SL

Más Noticias