Si un negacionista patológico como Donald Trump niega algo, vale sospechar que eso sí podría suceder: “Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una patraña”, posteó en Truth Social, en respuesta al clamor mundial por la necesidad urgente de regular el desarrollo de la IA. Agregó que “hay una conspiración enfermiza en marcha contra la IA y los centros de datos, y el único feliz con ello es China”. Y clamó: ¡No maten a la gallina de los huevos de oro!”. Ya con tono de profeta, se juzgó a sí mismo: “La Administración Trump ha impedido que la ‘gente’ de la IA haga cosas malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora finge ser un ‘angelito perfecto’”. Y remató ungiéndose El Mesías: “El único control o valla de contención que necesita la IA es un presidente fuerte e inteligente (¡de alto coeficiente intelectual!) ¡Y EE.UU. lo tiene de sobra!”. Por ahora, lo están buscando. Y en paralelo, científicos informáticos y de ciencias sociales del mundo –además de políticos, religiosos, ONG y los mismos tecno-popes de la IA — opinan exactamente lo contrario.
El actual vendaval informativo y político sobre la IA lo desató la semana pasada Jacob Coxon, un matemático de alto vuelo en Anthropic --empresa creadora de la IA Claude— al renunciar por razones éticas, advirtiendo que su exempleador y OpenIA compiten por alcanzar un sistema de superinteligencia artificial tan avanzado, que se les está yendo de las manos: al punto de poder borrarnos de la faz de la Tierra en diez años. Agregó que sus directores son conscientes del riesgo, pero no se detienen.
Pues ayer, estos CEO comenzaron a reaccionar, al menos de la boca para afuera. Y se consolidaron posturas críticas como la del Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, quien pidió una “acción urgente” para regular a la IA: “Estamos al borde de un cambio irreversible que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad. Insto a los Estados y las empresas a movilizarse urgentemente en el marco de instancias multilaterales. Los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”. Lamentó que “dependamos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad”. Y pidió que las empresas líderes en el desarrollo de la IA “ubicadas principalmente en la República Popular China y en EE.UU., tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos”.
“A mí que me controlen”Sam Altman, CEO de OpenAI, declaró que “acogería con satisfacción un marco federal que establezca requisitos de seguridad uniformes para la IA de vanguardia”. Pero agregó que “necesitaremos la ayuda de nuestro gobierno para la coordinación internacional. Pero primero debemos hacer lo que podamos por nuestra cuenta”. Y tanto él como el jefe de Google DeepMind --Demis Hassabis-- y el creador de SpaceX, Elon Musk, apoyaron la declaración de Darío Amodei –CEO de Anthropic-- sobre su disposición a ralentizar el desarrollo de la IA a partir de un texto publicado el domingo, donde propone que aceptará “evaluadores externos con acceso permanente a nuestros sistemas al nivel de un empleado para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante la capacitación”.
Pero hubo voces críticas dentro del mundo de la IA como el empresario Brian Roemmele, quien advirtió que las anteriores palabras serían un discurso comercial, lanzado semanas antes de la probable salida de Anthropic a la bolsa, buscando posicionarse como la vanguardia, el lugar ideal para invertir en acciones. Roemmele satirizó el discurso de Amodei, quien estaría diciendo algo así como: “Somos una empresa responsable; somos la cura; compren la prima de seguridad”.
Analistas del sector de las big-tech acusaron a Anthropic de buscar que las autoridades públicas regulatorias consoliden con nuevas reglas, la jerarquía de la empresa en la cúspide de la IA: “Dejen de fingir que la motivación para frenar es puramente altruista”, dijo David Sacks, exasesor de IA de Donald Trump.
Acuerdos, pero con límitesAmodei propone limitar esta coordinación de un avance más lento de la IA, solo para los “países democráticos”: excluye a China. Sam Altman –OpenAI— advirtió que hay dos escenarios a evitar: que la humanidad “pierda el control del futuro a manos de la IA” y que se genere un mundo con “demasiada concentración de poder; cuando hablamos de ‘ritmo’, no nos referimos a ‘detenerse’, sino que el progreso “debería ser más lento de lo que podría ser de otro modo”. “Estamos firmemente del lado de la humanidad, y la IA siempre debe estar al servicio de las personas”.
El lunes hubo reacciones en un grupo de parlamentarios y lores británicos: advirtieron que ningún país tiene leyes suficientes para contener los peligros de la IA. Y exigieron mayores restricciones al poder de la IA y sus consecuencias “potencialmente nefastas”. En respuesta, OpenAI instó a los legisladores británicos a imponer leyes que limiten esta tecnología. La empresa creadora de ChatGPT afirmó que el gobierno británico debería actuar de inmediato, tras el llamamiento de su principal rival, Anthropic, para que se frene el desarrollo de la IA: “Apoyamos una normativa británica más estricta”.
El gobierno británico ya tiene un Instituto de Seguridad de la IA que evalúa a las empresas con pruebas de seguridad, pero no tiene la potestad de obligar a desarrolladores de IA como Anthropic a someter su tecnología a escrutinio. La semana pasada, se informó de que Anthropic se negó a enviar su último modelo para su evaluación.
El director del grupo francés de seguridad informática Thales pidió a los gobiernos que asuman la responsabilidad de regular la IA. Y en EE.UU. legisladores demócratas están reclamando nuevas medidas de protección ante el problema.
Las voces que dudan de la honestidad de ciertas posturas reclamando que sus propias empresas sean reguladas, llegan desde lugares impensados: Jim Reid –funcionario de Deutsche Bank— afirmó: “La carrera competitiva entre empresas y países sigue siendo intensa, y es difícil imaginar que las empresas retrocedan voluntariamente mientras sus rivales siguen avanzando. Es difícil imaginar que China se quede quieta. Si los altos ejecutivos hablan abiertamente de los riesgos que conllevan los sistemas cada vez más potentes, podría tratarse de un intento por transmitir lo transformadora que creen que puede llegar a ser la tecnología y, de paso, promocionar el potencial de su producto. En lugar de indicar una reducción del gasto, podría ser simplemente que una mayor proporción de la inversión en IA se destine a la seguridad, la monitorización y la gobernanza, junto con el continuo desarrollo de la infraestructura informática.”
Microsoft promete que esta vez, va a cambiarMicrosoft publicó el lunes un “código de conducta” que aplicará al entrenamiento de sus nuevos modelos de IA, limitando la capacidad de sus algoritmos. Mustafa Suleyman, director ejecutivo de Microsoft AI, publicó: “La IA debe estar subordinada y siempre al servicio de las personas. Los temores sobre una posible pérdida de control son reales”. Y su empresa comunicó: “El propósito de la tecnología es servir a la humanidad y acelerar su desarrollo. Cualquier tecnología que no lo logre, es un fracaso y debe ser rechazada. Ese es el punto de partida de nuestro enfoque en Microsoft AI, donde estamos construyendo una IA humanista, una que sea subordinada, alineada y controlada”.
Según el código de conducta, los modelos de IA de Microsoft no deben considerar solicitudes relacionadas con el desarrollo de armas, producir contenido violento o sexualmente explícito ni colaborar en la adquisición de sustancias peligrosas. Sin embargo, un informe de Francesca Albanese --relatora especial de la ONU— denunció que software de Microsoft fue usado para el genocidio en Gaza.
Rahm Emanuel, excongresista y jefe de gabinete de Barack Obama, tuiteó: “Les puedo asegurar que nunca antes un CEO o una industria en general pidió ser regulada. Eso es lo que hace que la carta de Darío Amodei sea tan impactante: es una admisión de que estamos conduciendo por un camino oscuro y sinuoso sobre pavimento mojado con las luces apagadas. ¿Y dónde está el presidente Trump? Parece que se volvió a quedar dormido”.
Alex Bores, defensor de la regulación de la IA, cuya fallida candidatura al Congreso generó un gasto millonario por parte de las empresas tecnológicas para que no fuese votado, advirtió que el lobby de la IA a menudo busca socavar la legislación, mientras afirma apoyar la regulación. “A todos aquellos que realmente desean una regulación real de la IA, por favor, no caigan en sus trampas”, publicó en X.
La mirada de una economistaCecilia Rikap -- –autora del libro Teoría de la dependencia digital (Caja Negra) y jefa de Investigación en el Instituto de Innovación y Propósito Público de la University College London-- habló ayer en Londres frente a un grupo de parlamentarios ingleses y luego declaró a Página/12: “Los gobiernos del mundo no pueden esperar a que EE.UU. se decida a regular la IA. Incluso si la regulara. ¿Quién dice que esa regulación es la que necesita el resto del mundo? Debemos pensar una coordinación internacional en favor de mínimos regulatorios para reducir el impacto socioecológico de los centros de datos. No se puede confiar tampoco en que los modelos de pesos abiertos de China sean la solución: no son lo mismo que el software libre, ya que, al desconocerse los datos con que fueron entrenados, sigue siendo una caja negra que continúa generando dependencias. ¿Por qué el resto del mundo tiene que aceptar que las decisiones y las prioridades del tipo de tecnología que se produce en China y EE.UU. sean los que mejor responden a sus problemas y necesidades? Cada vez más gobiernos del mundo quedan obnubilados frente a una tecnología que está generando más problemas que soluciones y se cree en las narrativas del miedo que salen de las propias empresas. El resto de los gobiernos del mundo tiene que avanzar coordinadamente en regular a esta tecnología, y al mismo tiempo pensar a mediano y largo plazo, cómo resolver los lazos de dependencia cada vez más profundos hacia las tecnologías estadounidenses e incluso a sus formas de vida, al creerse que un puñado de empresas y un gobierno autoritario como el de EE.UU. puede ofrecer algún tipo de solución”.

chip chino Imagen WebChina y EE.UU. regulan distintoTodo esto genera debates en la academia argentina. Y en diálogo con Página/12, Hernán Borisonik –doctor en Ciencias Sociales, quien hizo un estudio sobre el tema en la Universidad de Fudan en Shanghái-- analizó el temor de Trump a que un frenazo de la IA, permita a China superarlos. Y cree que esa preocupación no es absurda: “La competencia ya involucra capacidad de cómputo, chips, energía, infraestructura, datos, despliegue industrial y capacidad de incorporar la IA a la economía. EE.UU. viene conservando ventajas en la frontera tecnológica y en cómputo, pero China reduce distancias y tiene ventajas en eficiencia, integración industrial y escala. Pero el problema es el nexo que hace Trump entre la existencia de´una competencia´ y la conclusión de ´eliminar las regulaciones´. Porque si se organiza la política tecnológica bajo la lógica geopolítica, todo queda subsumido a ella. Y todo límite a las big tech será presentado como una ventaja para el adversario”.
Según Borisonik, China tiene una arquitectura regulatoria para la IA generativa desde 2023, mucho antes que EE.UU. En China no hay una secuencia lineal a la manera occidental en que primero aparece una innovación, surge un “problema” y el Estado regula. Por el contrario, hay una relación mucho más estrecha entre Estado, empresas y Partido Comunista: “China puede regular determinados aspectos y simultáneamente acelerar otros --de hecho está haciendo ambas cosas-- dentro del contexto de la relación del Estado con la IA. Por eso, la regulación y la expansión tecnológica no son necesariamente términos contradictorios.
Rodrigo Martin-Iglesias --arquitecto y doctor en diseño, y profesor titular de Diseño de Futuros (UBA)--opina que el escenario más interesante sería si la superinteligencia nunca llega, en el contexto de esta industria que necesita hablar del futuro como si fuera un hecho consumado: “Están invirtiendo cifras extraordinarias, construyendo centros de datos y reorganizando políticas públicas alrededor de una tecnología cuya llegada nadie puede fechar. Mientras tanto, las empresas de IA necesitan encontrar un modelo de negocio capaz de sostener costos gigantescos. La profecía cumple una función; cuanto más inevitable parece la superinteligencia, más razonable parece invertir hoy para no quedarse afuera mañana. El apocalipsis puede ser verosímil y, a la vez, económicamente productivo”.
Para Martin-Iglesias, aquí aparece la gran contradicción de los profetas de la IA: “dicen que la tecnología podría extinguirnos, pero continúan desarrollándola porque, si no lo hacen ellos, la desarrollará otro. Es la lógica de la carrera nuclear, donde el peligro del adversario se convierte en la razón para aumentar nuestra propia capacidad. Pero esta carrera puede estar justificándose a sí misma. El riesgo exige acelerar para no perder; la aceleración aumenta el riesgo; el riesgo exige más regulación y control; y la regulación puede terminar concentrando el desarrollo solo en quienes ya tienen los modelos, los chips, los datos y los centros de cómputo. No hace falta una conspiración, basta con que el miedo produzca poder. Y quizás la verdadera carrera no sea solo por construir la superinteligencia, sino por convencer al mundo de que su llegada es inevitable.
Para Iglesias-Martin, China introduce una diferencia mucho más profunda que la de un simple competidor: “Tal vez EE.UU. y China no estén corriendo la misma carrera. Y detrás de ellos hay dos formas distintas de producir tecnología. Una depende de empresas privadas que necesitan capital, crecimiento, mercado y una narrativa de valorización futura; la otra --en Oriente-- puede movilizar recursos estatales e industriales en función de una estrategia nacional, aunque la rentabilidad inmediata se pueda posponer. Entonces la pregunta deja de ser quién llegará primero a la superinteligencia y pasa a ser qué sistema será capaz de producir la próxima gran infraestructura tecnológica. Y acá aparece la paradoja final: quizá los profetas occidentales del apocalipsis no sólo estén advirtiendo sobre una máquina que podría escapar al control humano. También están defendiendo la idea de que hay que correr porque el futuro pertenece a quien controle esa máquina. Tal vez el verdadero objeto de la carrera sea el derecho a definir, quién puede diseñar el futuro”.