Hay una persona ahogándose y 10 personas en un edificio en llamas. ¿A quién salvarías? El filósofo William MacAskill, profesor en Oxford y líder de Altruismo Efectivo, no duda: "Yo creo que tienes la obligación moral de salvar a las 10". Él mismo planteó el problema en una entrevista el año pasado para ejemplificar la racionalidad y practicidad que inspira su movimiento. Y para explicar por qué, para ellos, luchar contra la potencial aparición de una inteligencia artificial malvada es más importante hoy que atender, por ejemplo, la pobreza extrema.
Le llaman "largoplacismo". Piensan que es mejor priorizar el riesgo de futuras catástrofes que atender algunas de las actuales emergencias de la humanidad. Todo se resume en términos de eficiencias. "¿Cómo podemos hacer el mayor bien? ¿Cómo podemos usar nuestro tiempo y recursos de la manera más efectiva posible?", dijo una vez MacAskill. Tiene solo 38 años y hace las veces de gurú dentro de un grupo de notables multimillonarios de la industria tecnológica.
Tres nombres claves dan cuenta de su nivel de influencia: Dustin Moskovitz, cofundador de Facebook; Sam Bankman-Fried, protagonista del escándalo de FTX; y Elon Musk, líder de Twitter y Tesla. Los tres simpatizan con la organización, en la que más del 70% de sus miembros son hombres blancos. Sus seguidores se mueven entre la Universidad de Oxford y Silicon Valley. Le sobran recursos y también escándalos: ha recibido denuncias de acoso sexual, fraude y algunos hablan de ella como un culto de élite.
Altruismo Efectivo es una corriente poderosa en el detrás de escena del actual boom de la IA. Otros referentes del sector le acusan de estar impulsando una carrera peligrosa en el desarrollo de estas tecnologías, detrás de la fachada de un movimiento que pide prudencia.
Altruismo Efectivo y el avance de la IA
El Altruismo Efectivo cree que es inevitable el surgimiento una Inteligencia Artificial General —una superinteligencia que le daría a las máquinas la capacidad de pensar como un humano—. Por lo tanto, su objetivo es buscar la manera de que su desarrollo garantice que se convierta en una herramienta beneficiosa para la humanidad.
Timnit Gebru, exintegrante del equipo de ética de IA de Google, sostiene que, con la excusa de buscar una IA "buena" y la "utopía tecnológica", se mueven cantidades impresionantes de dinero que son el motor de la vertiginosa carrera en torno a la IA que estamos viviendo. Contradictoriamente, dice, no se está priorizando el beneficio de las personas sino el rédito económico. "Es otro ejemplo de cómo nuestro futuro tecnológico no es una marcha lineal hacia el progreso, sino que está determinada por quienes tienen el dinero y la influencia para controlarlo", publicó en un artículo en WIRED.
Gebru menciona a OpenAI como ejemplo de la paradoja que denuncia. La empresa fue fundada como una organización sin fines de lucro en 2015 por élites de Silicon Valley, que incluyen a Peter Thiel, cofundador de Paypal, y Elon Musk. Ambos están vinculados con Altruismo Efectivo, tanto que fueron oradores en las conferencias del movimiento de los años 2013 y 2015, respectivamente. Musk, además, ha hecho público su simpatía con la organización y su vínculo con MacAskill quedó expuesto con los mensajes de texto publicados durante una demanda sobre la compra de Twitter.
Musk, cuando todavía formaba parte de OpenAI, estaba lejos de ser el detractor de la IA que hoy parece. De hecho, a principios de 2018, estaba muy preocupado porque iban muy atrás de Google en el desarrollo de esta tecnología. Fue entonces cuando propuso una solución: tomar el control de la compañía y dirigir él mismo el proyecto, según reveló la semana pasada Semafor. El resto de los fundadores de OpenAI se opuso y Musk salió de la empresa. Lo demás es historia.
Una movida multimillonaria llena de escándalos
OpenAI, luego de haber sido una organización sin fines de lucro, se convirtió en una empresa multimillonaria. El propio Musk se quejó: "Todavía estoy confundido sobre cómo una organización sin fines de lucro a la que doné $100 millones de dólares se convirtió en una compañía de $30 mil millones con fines de lucro", se desahogó en Twitter en marzo pasado. Sin él, OpenAI pasó a liderar el desarrollo de la IA con el lanzamiento de ChatGPT y ahora es socia de Microsoft.
Musk, ya fuera del negocio, publicó una carta la semana pasada en la que participaron más de mil especialistas. Pidió que se detenga el desarrollo de IA hasta tanto haya garantías de que es algo seguro. Difundió el documento a través de Future of Life, un instituto del que es asesor y que es socio de Open Philanthropy, otra fundación que promueve el altruismo efectivo como corriente.
Las contradicciones del movimiento también quedaron en evidencia con el escándalo de la plataforma de criptomonedas FTX. "No sé qué emoción es más fuerte: si mi ira absoluta hacia Sam (Bankman-Fried) por causar tanto daño a tanta gente, o mi tristeza y odio hacia mí mismo por caer en este engaño", tuiteó MacAskill, líder de Altruismo Efectivo. Sin embargo, aunque quiso hacerse el desentendido, Time reveló que su organización estaba al tanto de la estrategia fraudulenta por la que ahora Bankman-Fried podría recibir una condena de más de 100 años de cárcel.
FTX Future Fund, la fundación de Bankman-Fried, donó más de $160 millones a causas que promueven el altruismo efectivo, incluidos más de $33 millones a organizaciones conectadas directamente con MacAskill. FTX también patrocinaba, por ejemplo, actividades en NeurIPS, una de las conferencias de aprendizaje automático más influyentes del mundo.
Denuncias de acoso y misoginia
Un grupo de mujeres denunció conducta sexual inapropiada generalizada dentro del movimiento de Altruismo Efectivo en Silicon Valley. Un reportaje de Bloomberg reseñó los casos de al menos ocho mujeres, en distintos niveles de la organización, que fueron víctimas de abuso y acoso. Quienes denunciaron, ya sea a la policía o a mediadores comunitarios, dicen que fueron catalogadas como problemáticas y desestimadas. Los hombres acusados siempre recibieron el respaldo de los líderes, explica el artículo.
Es difícil rastrear el nivel de influencia de esta comunidad, pero 80.000 Hours —otra organización socia fundada por MacAskill— calcula que se destinaron $46 mil millones de dólares para las causas de Altruismo Efectivo entre 2015 y 2021. Reporta un crecimiento de las donaciones de alrededor del 21% cada año.
"Las prioridades de investigación siguen a la financiación", insiste Timnit Gebru, la exintegrante del equipo de ética de IA de Google. Dice que no es de extrañar que, si parte del financiamiento viene de grupos como Altruismo Efectivo, proliferen productos dañinos.
Gebru fue despedida de Google junto con Margaret Mitchell, cabeza del equipo de IA responsable hasta 2021. Ambas denunciaron públicamente racismo y sexismo en la compañía. También alertaron sobre varios riesgos en el desarrollo de estos sistemas.
Las dos, junto a otros pares, publicaron otra carta en respuesta a la publicitada por Elon Musk. Allí piden regulaciones que las empresas garanticen transparencia y rendición de cuentas. Y que no nos distraigamos con "apocalipsis imaginarios": "La responsabilidad propiamente dicha no recae en las máquinas, sino en sus constructores".
