Los nuevos multimillonarios de la IA quieren donar su fortuna… y no deberíamos celebrarlo

David Silver es multimillonario, más o menos. Su participación en Ineffable Intelligence, el laboratorio de IA que él mismo fundó, tiene un valor astronómico. Pero no planea quedarse con nada de ese dinero.

Entre 2013 y 2025, Silver trabajó como investigador en Google DeepMind. Se especializó en el aprendizaje por refuerzo, un método para entrenar a un modelo de IA mediante retroalimentación positiva y negativa. En 2016, dirigió el desarrollo de AlphaGo, que se convirtió en la primera IA en derrotar a un campeón humano en el juego del Go y fue aclamada como una forma limitada de superinteligencia. Silver renunció para fundar Ineffable Intelligence en enero, apostando por que los avances en el aprendizaje por refuerzo reducirán la brecha entre la cognición humana y la de las máquinas en todos los ámbitos.

Cuando fundó Ineffable Intelligence, Silver recaudó 1.1 mil millones de dólares de inversionistas con una valoración de 5.1 mil millones de dólares, lo que, según se informa, supuso la mayor ronda de financiación inicial de la historia de Europa. También se comprometió a donar a organizaciones benéficas todo el dinero que obtuviera de cualquier venta futura de su empresa.

"Estuve reflexionando sobre qué podía hacer para tener el máximo impacto en el mundo. No solo a través del trabajo que realizo, sino también a través de los fondos que obtengo en el proceso", explica Silver a WIRED en una entrevista en su oficina de Kings Cross, en Londres, a la vuelta de la esquina de la sede de DeepMind.

Decidirá cómo destinar los fondos una vez que venda su empresa, pero su ambición es "salvar tantas vidas como sea posible".

Jeff Dean y otros altos directivos de Google fundaron Discovery Loop, una startup que buscará avances revolucionarios basados en IA en ámbitos que van desde el descubrimiento de fármacos hasta el diseño de chips.

Los millonarios de IA no quieren quedarse con un centavo

Silver es el último de una lista cada vez mayor de fundadores de empresas de IA que se comprometen a destinar los ingresos de la venta de sus acciones a organizaciones benéficas. Entre otros se encuentran Mustafa Suleyman, cofundador de DeepMind y CEO de IA en Microsoft, y Anton Osika, fundador de la plataforma de programación automatizada Lovable. Si OpenAI y Anthropic salen a bolsa tal y como está previsto, creando miles de nuevos millonarios en el proceso, el sector de la IA podría llegar pronto a representar una proporción cada vez mayor de la filantropía tecnológica.

Sin embargo, junto con una nueva generación de tecnofántropos, surge una maraña de preguntas sin resolver: ¿La filantropía es la forma más apropiada de redistribuir la riqueza? ¿Hasta qué punto son responsables los grandes donantes de algunos de los problemas que pretenden solucionar? ¿Podría una promesa de donación que aumenta con el éxito de una empresa justificar prácticas comerciales poco éticas o un aceleracionismo temerario? ¿Y acaso esta ocasión es diferente de las anteriores iniciativas filantrópicas de Silicon Valley?

"No siempre se puede recurrir al capitalismo para resolver problemas que surgen de sus propias prácticas, como la concentración extrema de la riqueza y el aumento de las desigualdades. Es como pedirle al pirómano que apague la casa que acaba de incendiar", afirma Linsey McGoey, profesora de sociología en la Universidad de Essex y autora de No Such Thing as a Free Gift.

Silver formalizó su compromiso filantrópico a través de Founders Pledge , una organización sin fines de lucro que ayuda a los emprendedores a donar su patrimonio. A diferencia de Giving Pledge, un compromiso público pero no vinculante, Founders Pledge exige que los participantes firmen un contrato. "La decisión de hacer una promesa vinculante fue muy importante", asegura Silver.

Founders Pledge existe desde 2015. Sin embargo, el valor de los compromisos registrados por la organización benéfica se ha disparado recientemente, pasando de 400 millones de dólares en 2023 a 4,000 millones de dólares en lo que va de año. El sector de la IA representa ahora un tercio del total de compromisos acumulados.

Según su cofundador, David Goldberg, el objetivo de la organización es identificar "las mejores maneras de invertir capital a gran escala para mejorar el mundo". A menudo se la ha asociado con el altruismo eficaz, que anima a acumular riqueza para donarla, a basarse en estadísticas en lugar de emociones y a priorizar las causas que probablemente tengan el mayor impacto en el futuro lejano. Pero a pesar de las similitudes, Goldberg no es partidario de la comparación; Founders Pledge se centra en el sufrimiento humano en el presente. "Somos mucho más humanistas", afirma.

Su modelo WeatherNext, que será de código abierto, puede predecir con precisión la trayectoria y la intensidad de una tormenta utilizando datos meteorológicos de menor resolución. Los investigadores aún no comprenden del todo cómo lo consigue.

Donar para reparar los daños causados por la IA

Silver se considera a sí mismo un altruista eficaz, pero afirma que su "enfoque se centra en el aquí y ahora". Por ello, Silver tiene previsto destinar los ingresos de su compromiso a organizaciones benéficas, como la Malaria Foundation, que están preparadas para salvar el mayor número de vidas a corto plazo. "No entiendo la filosofía de 'centrarse en el futuro de la humanidad', cuando hay millones de personas que sufren y mueren en el presente", afirma.

Osika, el fundador de Lovable, que se ha comprometido a donar la mitad de los ingresos procedentes de la venta de sus acciones, no se identifica como un altruista eficaz, pero comparte la convicción de que acumular riqueza mediante el éxito empresarial es la mejor forma de maximizar su impacto personal en el mundo: "Creo que es muy positivo que personas que se preocupan profundamente por el futuro de la humanidad desarrollen la IA".

La Fundación Gates, la encarnación más famosa de la tecnofilantropía, ha donado más de 100,000 millones de dólares a causas destinadas a combatir la pobreza y las enfermedades en los 25 años transcurridos desde su fundación por Bill y Melinda Gates. El fundador de Meta, Mark Zuckerberg, y su esposa, Priscilla Chan, se han comprometido a donar su fortuna de 200,000 millones de dólares a la investigación científica a través de su propia fundación, la Iniciativa Chan Zuckerberg. Ambos han sido señalados como ejemplos brillantes de cómo una mentalidad emprendedora puede traducirse en filantropía eficaz y de cómo el afán de lucro puede aprovecharse para el bien común.

La nueva generación de filántropos de la IA pretende continuar con ese legado, hacia un mundo que imaginan que quedará completamente reorganizado por la superinteligencia. "Desde hace mucho tiempo tengo claro que esta transformación tecnológica va a ser lo más importante que nos va a pasar en la vida", refiere Osika.

Sin embargo, este tipo de donaciones puede tener sus desventajas y los grandes donantes pueden utilizarlas para promover discretamente sus intereses políticos, afirma McGoey. Un estudio reciente reveló que la dependencia de la financiación filantrópica llevó a la OMS a priorizar los temas favorecidos por los donantes, en detrimento de otros problemas urgentes, como las enfermedades crónicas.

McGoey sostiene que las donaciones destinadas a aliviar los efectos de la desigualdad económica, en lugar de abordar sus causas de fondo, pueden frenar el debate sobre soluciones estructurales y de largo plazo antes de que siquiera empiece: "Se trata de apelar al perpetuador del problema para que lo resuelva, y eso no necesariamente conduce a resultados positivos. No creo que la gente deba engañarse pensando que ganar dinero por sí solo es algo noble".

La propia OMS ha reconocido problemas con su financiación y, en 2022, presentó un nuevo modelo diseñado para abordar algunas de esas preocupaciones. Mark Suzman, CEO de la Fundación Gates, también ha reconocido los riesgos de depender de los grandes donantes. "No es correcto que una organización filantrópica privada sea una de las mayores financiadoras de iniciativas multinacionales de salud global", declaró en 2023, señalando que la fundación se había convertido en el segundo mayor donante de la OMS. Sin embargo, también atribuyó la culpa a la disminución de las contribuciones gubernamentales. "Me encantaría que muchos más gobiernos nos superaran en esa lista", añadió.

¿Qué tan "buenas" son las intenciones de los donantes?

Los grandes donantes pueden desempeñar un papel valioso financiando causas que los gobiernos descuidan por razones ideológicas, como la planificación familiar. Sin embargo, no rinden cuentas por igual, según Apolline Taillandier, investigadora de la Universidad de Cambridge especializada en teoría política. "Estos financiadores no son elegidos. No tienen que rendir cuentas de sus decisiones. En definitiva, se trata de determinar si la filantropía es la forma más legítima de redistribuir los recursos".

Existe además el riesgo de que los empresarios puedan utilizar su ambición filantrópica como justificación moral para un comportamiento destructivo. En 2024, el magnate de las criptomonedas y figura emblemática del altruismo eficaz, Sam Bankman-Fried, fue condenado a 25 años de prisión por fraude. Durante el juicio, un excompañero de trabajo testificó que Bankman-Fried había basado todas sus decisiones en un frío análisis estadístico, arriesgándose de buen grado a provocar un desastre si ello significaba tener la oportunidad de obtener un resultado final suficientemente positivo. Los líderes del altruismo eficaz declararon a Bankman-Fried apóstata, pero otros describieron su fraude como un síntoma de la lógica moral defectuosa del movimiento.

En el contexto de la IA, preocupa que la filantropía pueda utilizarse como una forma de justificar ciertos riesgos. Según la lógica de Bankman-Fried, incluso una carrera desenfrenada hacia la superinteligencia podría considerarse aceptable si el dinero generado se destinara a causas benéficas con un impacto suficientemente grande.

Silver niega que su compromiso forme parte de algún tipo de contabilidad moral o de una cobertura frente a los posibles resultados negativos de la carrera por la IA. Cree que la superinteligencia tendrá un impacto radicalmente positivo, descubriendo nuevos conocimientos a través de un ciclo recursivo de ensayo y error.

Lejos de justificar un aceleracionismo temerario, Silver argumenta que este compromiso ayuda a eliminar el tipo de incentivo financiero que amenaza con desviar el desarrollo de la IA. "Crear una empresa de superinteligencia es una enorme responsabilidad para el planeta, y esa responsabilidad no debería estar motivada por la avaricia personal. Esta fue una decisión deliberada para asegurar que cualquier acción que emprenda como individuo sea en beneficio de la humanidad, y no porque aparezca una cifra millonaria en el horizonte", afirma Silver.

Puede que Silver sea beneficiario de un sistema económico que le favorece. Pero, según él, una de las pocas formas en que puede corregir ese desequilibrio es donando su dinero. "Las personas que decidan utilizar su dinero para el bien tendrán un impacto enorme y transformador. Independiente de si la situación macroeconómica es lo adecuado para la humanidad", concluye.

Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.