OpenAI y Anthropic quieren desacelerar la IA. Las leyes antimonopolio podrían impedírselo
Tras varios informes sobre enjambres de agentes de IA que hackean páginas web y se coordinan en foros secretos, además de las advertencias de un ingeniero que renunció a Anthropic, las principales empresas de IA han pedido coordinar una "ralentización" en el desarrollo de esta tecnología. Aunque han utilizado distintas formas de plantear esa idea, también han expresado su preocupación por que un acuerdo de este tipo pueda infringir las leyes antimonopolio.
Los expertos en competencia afirman que, aunque la forma en que las empresas han planteado el debate no las favorece, permitir el desarrollo sin límites de una IA potencialmente fuera de control tampoco parece encajar con los objetivos de la Ley Sherman, una de las principales leyes antimonopolio de EE UU, creada para proteger la competencia. Al mismo tiempo, conseguir la aprobación formal del Gobierno podría ayudar a evitar costosas investigaciones en el futuro.
Retórica radical
En materia antimonopolio, las palabras que usan los empleados para describir una decisión empresarial pueden ser casi tan importantes como la decisión misma. Por ejemplo, Google capacitó a su personal para evitar expresiones que pudieran sugerir prácticas anticompetitivas, incluso en comunicaciones internas. En su lugar, les recomendó destacar cómo esas decisiones mejorarían sus productos y beneficiarían a los consumidores.
Desde una perspectiva antimonopolística, el uso de expresiones como "una ralentización" o "una pausa" puede despertar más sospechas que la actividad real a la que se refieren: desarrollar formas de garantizar que los modelos avanzados de IA no se salgan de control. Una desaceleración acordada colectivamente sin ningún propósito concreto podría ser interpretada por los reguladores como un acuerdo anticompetitivo para reducir el comercio.
"En cierto modo, se han metido en un callejón sin salida con la forma en que formulan las cosas", afirma John Bergmayer, asesor jurídico de la organización sin fines de lucro Public Knowledge.
"Normalmente, en materia de defensa de la competencia, uno de los aspectos que analizan los economistas es si se está reduciendo la producción", explica Bergmayer; es decir, si dos o más empresas están llegando a un pacto para "tomárselo con calma". En lugar de presentar la iniciativa como una forma de frenar el desarrollo, las empresas de IA podrían haber puesto el énfasis en trabajar juntas para crear protocolos de seguridad frente a riesgos catastróficos. La ralentización en el lanzamiento de nuevos modelos habría quedado entonces como una consecuencia de esas medidas, y no como el objetivo principal.
Otros CEO no están precisamente de acuerdo
El CEO de Meta, Mark Zuckerberg, cuya empresa ha eludido recientemente una demanda antimonopolio a gran escala presentada por la Comisión Federal de Comercio (FTC), se pronunció sobre la propuesta de ralentización sin respaldar en absoluto una "ralentización" explícita. En su lugar, Zuckerberg argumentó que los laboratorios de IA tienen un fuerte incentivo natural para hacer que los agentes de IA se comporten mejor, ya que los consumidores no quieren que los modelos hagan cosas que las personas no pretenden, lo que en la jerga del sector de la IA se conoce como "desalineación", y que las empresas que no se tomen el tiempo necesario para lograr una alineación adecuada "se quedarán atrás" en términos de competitividad. Es la diferencia entre que dos fabricantes de automóviles digan "hemos acordado no fabricar mejores autos durante un tiempo" y que digan "no vamos a fabricar vehículos más rápidos hasta que descubramos cómo hacerlos seguros, porque nadie los comprará si matan a gente".
David Lawrence, hasta hace poco director de políticas de la División Antimonopolio del Departamento de Justicia (DOJ), escribió en LinkedIn que los acuerdos que previenen riesgos catastróficos, en realidad, "aumentan la producción y fomentan la competencia", y ya están protegidos por la ley en virtud de lo que se conoce como la "doctrina de las restricciones accesorias".
"Al fin y al cabo, sin competencia no habría humanidad", comentó un abogado especializado en antimonopolio de la FTC bajo la publicación.
En todo caso, el acuerdo colectivo para no implementar medidas de seguridad podría exponer a los laboratorios de IA a acusaciones de "manipulación de la calidad", afirma Roger Alford, profesor de la Facultad de Derecho de Notre Dame y exsubdirector de la División Antimonopolio del DOJ. Esto ocurre cuando las empresas acuerdan mutuamente no mejorar sus propios productos. Alford cita un caso antimonopolio europeo en el que las compañías automovilísticas colaboraron para desarrollar tecnología de reducción de emisiones, pero acordaron no competir en mejoras que fueran más allá de lo exigido por la ley. Finalmente, tuvieron que pagar una multa equivalente a aproximadamente mil millones de dólares.
La autorregulación no es algo nuevo. Bergmayer señala que los sectores ya pueden limitar su responsabilidad en materia de defensa de la competencia a través de la Ley Nacional de Investigación y Producción Cooperativa de 1993, que les permite crear una organización de desarrollo de normas siempre que presenten una notificación a la FTC y al DOJ.
Ahora que tantas noticias y servicios relacionados con la IA están en boca de todos, ¿hay algún término que aún no entiendas del todo? WIRED compila 33 palabras clave que conviene conocer.
Presiones del mercado
Los defensores de la competencia suelen mostrarse escépticos ante las exenciones antimonopolio, ya que afirman que acaban haciendo que los grandes actores se hagan aún más grandes e impiden que las empresas más nuevas ganen terreno en el mercado. Otros también han puesto en duda la solicitud, entre ellos David Sacks, copresidente del Consejo Asesor Presidencial sobre Ciencia y Tecnología. Sacks acusó a Anthropic y OpenAI de constituir un duopolio y afirmó que la solicitud de exención antimonopolio era una "operación psicológica en plena campaña electoral" y una excusa para "formar un cártel".
Sin embargo, muchos empleados de las principales empresas de IA han expresado su preocupación por la rapidez con la que sus lugares de trabajo están produciendo nuevos modelos, posiblemente a costa de la seguridad.
"A veces, las empresas buscan la regulación como una estrategia para protegerse. Pero en realidad, a veces sienten que el mercado las presiona para actuar de una manera que consideran inapropiada", afirma Bergmayer. Añade: "Psicológicamente, tal vez los laboratorios de IA sienten que no cuentan con el respaldo de los mercados, ni con el de su próxima salida a bolsa, ni con ninguna otra circunstancia que les permita tomar medidas unilaterales de ese tipo".
Este verano, tanto Anthropic como OpenAI presentaron documentación confidencial para sus ofertas públicas iniciales y cada una alcanza una valoración cercana o superior al billón de dólares. Se espera que Anthropic salga a bolsa el próximo mes, mientras que el CEO de OpenAI, Sam Altman, declaró que la compañía retrasaría su salida a bolsa hasta 2027 debido a las recientes preocupaciones sobre seguridad. Según CNBC, el director financiero de OpenAI ya había comunicado a los empleados que la empresa cotizaría en bolsa en 2027. El índice Ramp AI, que mide las tasas de adopción de la IA, sugiere que los modelos de ambas compañías tienen tasas de uso similares y compiten codo con codo por el primer puesto. Ninguna de las compañías respondió a la solicitud de comentarios para este artículo.
"Creo que quieren una exención porque piensan que necesitan coordinarse para reducir el ritmo, ya que no quieren desarmarse unilateralmente mientras los demás siguen avanzando a una velocidad vertiginosa", cuenta Alford.
También existe presión política para seguir avanzando lo más rápido posible. Tras conocerse la noticia sobre la propuesta de ralentización, el presidente Donald Trump publicó en las redes sociales que el gobierno ya tiene "¡un enorme poder PENAL y REGULADOR sobre estas empresas!" y que "¡QUIEN GANE EN IA, GANA!".
La cuenta del director de tecnología del Departamento de Defensa (DOD) también ha estado publicando memes "anti-catastrofistas", aparentemente en respuesta a la idea de una desaceleración.
La División Antimonopolio del DOJ tampoco está al margen de las presiones políticas. Alford fue destituido de la agencia el año pasado después de acusar a la dirección del Departamento de Justicia de corrupción por aprobar una fusión entre dos empresas de infraestructura tecnológica, operación que más tarde calificó de "escándalo" en un discurso público.
Además, un periodista de The Wall Street Journal informó que Andrew Ferguson, presidente de la FTC, dijo durante una conferencia sobre competencia que Trump "decidiría cualquier política sobre IA".
Si el gobierno federal iniciara una investigación antimonopolio sobre una ralentización de la IA, se trataría de una investigación sobre posibles prácticas anticompetitivas. A diferencia de la revisión de una fusión, que está sujeta a plazos estrictos, este tipo de investigación puede prolongarse durante años. Las empresas de IA podrían verse obligadas a entregar millones de páginas de documentos, mientras que directivos y otros empleados clave podrían tener que declarar. Los dispositivos de cientos de trabajadores también podrían quedar sujetos a conservación por motivos legales, incluso si el gobierno concluye finalmente que no hay motivos para presentar cargos.
Sin nuevas regulaciones a la vista y sin que parezca probable que se conceda una exención antimonopolio, los laboratorios pioneros en IA tendrán que redactar ellos mismos las normas de funcionamiento y, posiblemente, esquivar alguna que otra investigación en el camino.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.