Las grandes firmas tecnológicas han estado recortando sus equipos dedicados a analizar aspectos éticos sobre el desarrollo de Inteligencia Artificial (IA). Entre ellas, Microsoft, Google, Meta, Twitter y Amazon. Este personal está dentro de los miles de afectados por las recientes olas de despidos en estas compañías. Varios expertos y organizaciones, por supuesto, ya encendieron la alarma.
Microsoft disolvió en enero pasado todo el equipo de ética y sociedad, que lideró el trabajo inicial de la empresa en el área, informó Financial Times. El medio británico también reportó que algunos empleados encargados de la supervisión ética de la IA en Google fueron despedidos recientemente, dentro de un grupo más grande de 12 mil trabajadores de Alphabet, el conglomerado al que pertenece la compañía.
Meta, en septiembre el año pasado, desvinculó a 20 ingenieros y especialistas encargados de monitorear los derechos civiles y la ética en Instagram y Facebook. Twitch, propiedad de Amazon, hizo recortes parecidos en esta área la semana pasada. Y Twitter, bajo el mando de Elon Musk, ha disminuido su plantel en más de la mitad, afectando áreas encargadas de la seguridad, transparencia y ética.
Recortes en los equipos de ética, en pleno auge de la IA
“Es impactante cuántos miembros de los equipos sobre IA responsable están siendo despedidos", dijo Andrew Strait, director del Instituto Ada Lovelace, dedicado a velar por el desarrollo consciente de la IA. Strait también fue investigador de ética y políticas en DeepMind, otra filial de Alphabet. Resaltó que "estos grupos se necesitan hoy más que nunca".
Son muchos los que piensan lo mismo. Más de mil especialistas y académicos pidieron a las grandes compañías que se frenen los desarrollos de modelos de IA, hasta que se sepa con certeza "que sus efectos serán positivos y sus riesgos serán manejables". Lo hicieron a través de una carta abierta, que está firmada por varios ejecutivos de la industria, como Elon Musk, dueño de Twitter y uno de los fundadores de OpenAI, la responsable de ChatGPT. También suscriben el documento Steve Wozniak, cofundador de Apple, y Emad Mostaque, CEO de Stability AI.
Josh Simons, ex investigador de ética sobre IA de Facebook, dijo al Financial Times que los equipos de ética sobre IA son los únicos bastiones internos que tienen las Big Tech para asegurarse de que el bienestar de las personas y las comunidades estén en la mente de los desarrolladores.
“La velocidad con la que están siendo abolidos deja los algoritmos de las Big Tech a merced de los imperativos publicitarios, socavando el bienestar de los niños, las personas vulnerables y nuestra democracia”.
Josh Simons, ex investigador de ética sobre IA de Facebook.
¿Qué dicen las grandes tecnológicas?
"Agradecemos el trabajo pionero que el equipo de ética y sociedad ha realizado para ayudarnos en nuestro viaje para lograr una inteligencia artificial responsable", dijo Microsoft en un comunicado cuando disolvió el grupo. La compañía aseguró que eliminó menos de 10 puestos de trabajo y que todavía tiene cientos de personas trabajando en su oficina de IA responsable.
Microsoft lidera la carrera de lanzamientos sobre IA desde que se asoció con OpenAI. Esta alianza le ha permitido incorporar la tecnología de ChatGPT en muchas de sus herramientas, entre ellas Bing y Microsoft 365. En todo este tiempo, la compañía ha recibido algunas denuncias sobre sesgos, inexactitudes y comportamiento inapropiado de este modelo de IA.
Google no ha informado cuántos roles se eliminaron. Sin embargo, aseguró al Financial Times que la IA responsable sigue siendo una "máxima prioridad". La empresa ya había estado en medio de la polémica en 2020 y 2021, cuando fueron despedidos dos de sus líderes de investigación de ética de IA: Margaret Mitchell y Timnit Gebru. Mitchell denunció públicamente racismo y sexismo. Alertó también que estos sesgos estaban afectando el desarrollo de la IA en la compañía.