• Home /

  • Empresas /

  • ¿Despidieron a esta investigadora de Google por denunciar los prejuicios en la IA del buscador?

¿Despidieron a esta investigadora de Google por denunciar los prejuicios en la IA del buscador?

Silvia

Redactora especializada en Seguridad y Tecnología.

Guardar

Google Plex California
Google Plex California

Más de 1.600 trabajadores de Google y más de 2.500 académicos y miembros de la sociedad civil han firmado una petición para protestar contra Google por el despido de Timnit Gebru, una reconocida investigadora de raza negra y especialista en cuestiones de ética relacionadas con Inteligencia Artificial (IA).

La propia Gebru hizo público su despido el pasado miércoles a través de su cuenta de Twitter, donde aseguró que la compañía tomó la decisión después de que ella enviara un correo electrónico a un grupo interno de la empresa. En el e-mail, que fue publicado por primera vez en el portal de noticias tecnológicas Platformer, la investigadora expresaba su preocupación por la diversidad de la empresa y lamentaba el "silenciamiento de las voces marginadas". Asimismo, argumentaba que "no hay responsabilidad" o un incentivo real para que el liderazgo de Google cambie.

"Tu vida empeora cuando comienzas a defender a personas subrepresentadas, comienzas a molestar a los otros líderes", escribió Gebru en el e-mail. "No hay forma de que más documentos o más conversaciones logren algo".

Google intentó censurar una investigación sobre los prejuicios

En este e-mail, Gebru también comentó que el pasado mes de noviembre Google le había ordenado retractarse de una investigación, realizada en coautoría con otros seis investigadores tanto internos como externos a Google. Según Reuters, el documento sostiene que las empresas de tecnología podrían hacer más para garantizar que los sistemas de inteligencia artificial destinados a imitar la escritura y el habla de los humanos no exacerben los prejuicios históricos de género ni el uso ofensivo del lenguaje.

"Sentí que nos estaban censurando y pensé que esto tenía implicaciones para toda la investigación ética de la IA", ha declarado la investigadora al medio Wired. "No vas a tener información que haga feliz a la empresa todo el tiempo y que no señale problemas. Eso es contrario a lo que significa ser ese tipo de investigador".

En esta entrevista, Gebru también ha asegurado que intentó negociar con Google, ofreciendo eliminar su nombre de la investigación a cambio de una explicación completa de las objeciones de la compañía, así como una reunión para encontrar un mejor modo de manejar asuntos como este en el futuro. Si la empresa se negaba, se organizaría para dejar su puesto en el futuro.

Pero Google rechazó su solicitud y, después de que Gebru enviara el comentado correo electrónico, la compañía mandó un email a sus empleados para anunciarles que había aceptado su renuncia. Además, según la investigadora, descubrió que su cuenta corporativa había sido deshabilitada.

Fue entonces cuando Gebru compartió en Twitter el mensaje de despido que recibió de Google, en el que se señala que su renuncia debía tener efecto inmediato porque había enviado un correo electrónico en el que reflejaba un "comportamiento inconsistente con las expectativas de un mánager de Google".

Además, Gebru también ha negado haber renunciado a su puesto en Google: "Aparentemente, el gerente de mi gerente envió un correo electrónico a mis subordinados directos diciendo que aceptaba mi renuncia. No había renunciado; primero había pedido condiciones simples y dije que respondería cuando regresara de vacaciones. Pero supongo que ella decidió por mí :) Eso es lo que dice el abogado", escribió en su cuenta de Twitter.

https://twitter.com/timnitGebru/status/1334341991795142667

Protestas contra Google, que afirma que Gebru renunció a su puesto

Google sostiene que Gebru dimitió, pero su abrupta salida de la compañía ha generado una enorme polémica y ha provocado que la investigadora reciba una oleada de muestras de apoyo y que miles de personas, tanto de dentro como de fuera de Google, se unan para escribir una carta de protesta en la que exigen que la empresa explique los motivos de su despido.

"Nosotros, los abajo firmantes, nos solidarizamos con la Dra. Timnit Gebru, quien fue despedida de su puesto como Investigadora Científica y Co-líder del equipo de Inteligencia Artificial Ética (IA) en Google, tras una censura sin precedentes a una investigación", dice la carta.

"El despido es un acto de represalia contra la Dra. Gebru, y presagia un peligro para las personas que trabajan por una IA ética y justa, especialmente los negros y las personas de color, en Google (…).Pedimos a Google Research que fortalezca su compromiso con la integridad de la investigación y que se comprometa inequívocamente a respaldar la investigación que respete los compromisos asumidos en los Principios de inteligencia artificial de Google", continúa el escrito.

Por su parte, el jefe de inteligencia artificial de Google, Jeff Dean, envió un e-mail a los investigadores de la empresa afirmando que la investigación de Gebru "no cumplía con nuestro estándar de publicación". Después, Dean emitió un comunicado sobre la salida de la investigadora en el que continuó calificándola como una renuncia. En él, Dean reiteró que el documento no incluía suficientes referencias a los esfuerzos que ha hecho Google para disminuir el impacto ambiental de la informática o para mitigar el sesgo en la IA.

Mientras tanto, Google no ha querido hacer ninguna declaración ni comentar nada más allá de las palabras de Dean.

El último caso en cuestionar el trato de Google a sus empleados

Timnit Gebru, de 37 años, nació y se crió en Etiopía. Se unió a Google en 2018 y ayudó a construir el equipo de IA ética. También es una defensora de la diversidad y cofundadora de un grupo dedicado a impulsar el talento de personas negras en el ámbito de la inteligencia artificial.

Su salida de Google se produjo el mismo día que la Junta Nacional de Relaciones Laborales emitió una queja contra la compañía en la que le acusaba de monitorear, cuestionar y, eventualmente, despedir ilegalmente a varios trabajadores que habían protestado públicamente por las políticas de la empresa y que habían intentado formar un sindicato. Google también niega haber actuado mal en este caso, que está programado para audiencia en abril.

Además, el Departamento de Justicia de EE.UU. también interpuso una demanda antimonopolio contra el gigante electrónico el pasado mes de octubre. Le acusaba de avisar de su posición dominante en el mercado de búsquedas y de la publicidad en Internet, algo que Google niega en una batalla legal que podría prolongarse durante años.