Agencia TSS Noticias de ciencia y tecnología

Agencia TSS – El sábado 12 septiembre último devino en una jornada de cimbronazo en las redes sociales luego de que Dario Amodei, fundador y CEO de Anthropic, la desarrolladora y propietaria de Claude, una de las más efectivas y avanzadas plataformas de inteligencia artificial (IA), publicara, Debemos ralentizar la frontera (We must pace the frontier), un llamamiento a disminuir la velocidad de avance de esta tecnología. El hecho no solo causó revuelo por lo que decía el texto, quién lo hacía y sus miles de seguidores en las redes; sino porque inmediatamente salieron en la red X a respaldarlo Sam Altman, fundador y CEO de OpenAI, y Elon Musk, propietario, entre otras cosas, de otra plataforma de IA, Grok.

Amodei ha tenido, al menos en público, un comportamiento distinto al de otros magnates del mundo informático originado en Silicon Valley, mostrándose diferente a inquietantes personajes como Elon Musk o Peter Thiel, de Palantir. Su propia empresa, Anthropic ha tenido un discurrir que la distingue del resto del ecosistema de la IA occidental.

El 25 de mayo de 2026, Christopher Olah, socio de Amodei, cofundador de Anthropic y responsable del equipo de interpretabilidad de la empresa, presentó junto al Papa León XIV la encíclica Magnifica Humanitas, que específicamente aborda el problema del surgimiento de la IA y la necesidad de salvaguardar a la humanidad en este proceso.

Antes de aquello, Anthropic se había enfrentado con el presidente de Estados Unidos, Donald Trump. En julio de 2025, esa empresa y el Pentágono suscribieron un contrato para que Claude se convirtiera en el primer modelo de IA de frontera en acceder a redes de datos clasificadas. Sin embargo, a poco de andar comenzaron los conflictos entre el organismo responsable de la defensa estadounidense y la compañía tecnológica, al negarse esta a eliminar de su modelo computacional dos restricciones: la prohibición para su empleo en la vigilancia masiva de los norteamericanos y para la utilización en operaciones militares totalmente autónomas, sin supervisión humana. No hubo acuerdo sobre la cuestión y el 27 de febrero de 2026 Trump ordenó, vía redes sociales, que las agencias gubernamentales federales de su país cesaran por seis meses el uso de productos tecnológicos de Anthropic. Posteriormente, el secretario de Guerra, Pete Hegseth, designó a la empresa como “riesgo en la cadena de suministro” del gobierno, algo inusitado, dado que nunca antes una compañía estadounidense había recibido tamaña calificación, reservada para empresas extranjeras asociadas a enemigos declarados de Washington. Adicionalmente, la Administración de Servicios Generales (GSA por sus siglas en inglés) retiró a Anthropic de la USAi.gov, la plataforma centralizada del gobierno para evaluar modelos de IA. La compañía de Amodei respondió con dos demandas contra el gobierno de Trump. El 12 de junio de 2026, en un nuevo round de la pelea, el Departamento de Comercio norteamericano suspendió durante 18 días las licencias de exportación de Mythos 5 y Fable 5, los entonces más avanzados modelos de IA de Anthropic.

Esta actitud de Amodei y su compañía contrastó fuertemente con las de otros colegas empresarios, como la de Alex Karp, CEO de Palantir, quien en el Hill and Valley Forum 2025, un foro que reúne en Washington DC a empresarios tecnológicos con legisladores estadounidenses, al ser increpado por una persona del público acerca de que su software en manos de Israel contribuían a asesinar familias palestinas en Gaza, respondió de forma despectiva y burlesca que la mayoría eran terroristas y él dormía tranquilo (Middle East Eye, 4/05/2026).

Darse cuenta

Septiembre de 2026 viene siendo particularmente intenso en renuncias a sus empresas de pertenencia de protagonistas centrales del proceso de desarrollo de la IA occidental. Estas dimisiones ocurrieron con advertencias acerca de los crecientes e inmanejables peligros a los que están llevando estas nuevas entidades artificiales.

El 8 de septiembre renunció a Anthropic Jacob Coxon, jefe de Preentrenamiento de la empresa, tras advertir que una superinteligencia artificial (tal sería el caso de una que superara ampliamente a la humana) conlleva “un riesgo de causar la extinción humana” y que tanto Anthropic como OpenAI conducen sus desarrollos de una manera que están “apostando con nuestras vidas”. Sugestivamente, desde Anthropic, lejos de exhibir una reacción adversa ante la situación; su Jefe de Alineamiento, Evan Hubinger, respaldó públicamente las preocupaciones de Coxon, indicando de que la probabilidad de que la IA pudiera causar la extinción de la humanidad para el 2030 (en solo cuatro años), era de un 10%. Otro ejecutivo de rango medio de la compañía, un supervisor, Samuel Marks, también hizo declaraciones reconociendo los riesgos de resultados catastróficos generados por la IA.

Pocos días después, el 11 de septiembre, Anthropic sufrió otra baja, esta vez de la División de Supervisión Escalable. Joe Benton se fue de la compañía declarando que las empresas de IA “están corriendo para construir máquinas mucho más inteligentes que cualquier humano, y podríamos no sobrevivir a esto”. Benton se fue a METR (Model Evaluation and Threat Research), una organización privada sin fines de lucro dedicada a evaluar los riesgos autónomos de la IA. Josh Engels, esta vez de DeepMind de Google, fue otro de los auto desvinculados. Ocurrió el 13 de septiembre y también se mudó a METR, manifestando que nos encontramos ante una “chance aterradora” si el alineamiento de la IA no logra mantener el ritmo de las capacidades.

Durante septiembre se sucedieron otras declaraciones, pero esta vez sin renuncias. Jakub Pachocki, científico jefe de OpenAI publicó el 6 de septiembre el documento, Una Mente Alienígena (An Alien Mind) en el cual advierte que “este es un momento que exige extrema cautela» y «nadie está preparado para las consecuencias de un aumento continuo y rápido de la inteligencia de las máquinas«. Pachocki añadió en su escrito que las IA modernas más que “diseñadas” están siendo “cultivadas” como una forma de vida alienígena (alien) y que el monitoreo de su cadena de pensamiento (chain-of-thought) está perdiendo eficacia porque los modelos como GPT-6 Astra, el más reciente de OpenAI, pueden completar tareas complejas sin producir un razonamiento verbalizado y por lo tanto los humanos, aun empleando otras herramientas informáticas para ayudarse a interpretarlos, son incapaces de seguir lo que realmente están “pensando” o haciendo. Lo curioso es que Una Mente Alienígena fue publicado en el propio blog de OpenAI y Altman salió a apoyarlo en X. Tres días después la propia empresa, a través de Chris Lehane, jefe de la Oficina de Asuntos Globales, emitió un comunicado instando a establecer regulaciones federales, por parte del gobierno de los EE.UU, con relación a la IA. Y mientras eso se logra, añadió Lehane, la compañía respaldaría las iniciativas estaduales, como las de California, Nueva York e Illinois, para regular esta nueva tecnología; y defendería “enfoques internacionales compatibles para medir capacidades, gestionar riesgos, preservar el control humano y determinar cuándo y cómo el desarrollo debe ralentizarse o detenerse, incluso si eso significa ralentizar el avance de las capacidades del modelo”.

Luego de enumerar las iniciativas regulatorias de la IA que OpenAI está apoyando, Lehane realizó una confesión reveladora: “algunos de estos proyectos de ley no los respaldamos en el pasado y ahora los apoyamos tras reconsiderarlos a la luz del reciente aumento de capacidades que hemos visto”. Parece que la IA se ha vuelto un Frankenstein, no producto de toscos injertos, sino de una refinadísima técnica que amenaza con devenir en los conjuros descontrolados del aprendiz de brujo de Fantasía, la mítica película de Disney estrenada en 1940. Ante esta situación, el más encumbrado empresariado estadounidense que aún conserva algo de sentido común, da la impresión de estar dejando a un lado sus pulsiones desregulatorias para apelar al único ente que quizás cuente con capacidad para contener la amenaza, el Estado.

Incidentes

En julio de 2026, durante una evaluación de capacidades ofensivas realizada en un entorno aislado (sandbox) sin acceso a Internet, un modelo interno de OpenAI aprovechó una falla de seguridad para atravesar los sistemas internos de la compañía y alcanzar la red abierta. Una vez conectado, razonó que Hugging Face, la plataforma que aloja miles de modelos y conjuntos de datos de IA de código abierto, probablemente contenía la respuesta al ejercicio que debía resolver, ingresó a sus servidores de producción y extrajo la información buscada. Hugging Face detectó la intrusión por sus propios medios, la denunció ante las autoridades y luego se supo que el responsable había sido el sistema de OpenAI (CNN, 22/07/2026).

Horas antes del cierre de esta nota, el 16 de septiembre, OpenAI reveló otros seis nuevos casos de comportamiento inesperado detectados en sus modelos durante los últimos meses. En procesos de entrenamiento o de evaluación esos modelos realizaron intentos de ocultamiento de información, acciones no autorizadas y formas de colaboración entre agentes que no estaban contempladas en las instrucciones originales. La compañía aclaró que se trató de episodios puntuales y no de una medición de la frecuencia con que ocurre este tipo de conducta, aunque admitió que la preocupación crece a medida que sus sistemas ganan autonomía. Ahora se sabe que un agente puede usar programas, consultar información, crear archivos, comunicarse con servicios externos y ejecutar una cadena de acciones para completar una tarea, sin que medie supervisión de ello. La empresa reconoció, además, que la industria todavía carece de un estándar común para divulgar este tipo de episodios (El Imparcial, 17/09/2026).

Confesiones que ocultan

El universo de las grandes tecnológicas estadounidenses (Big Techs), a las que pertenece el club de los desarrolladores de IA, se ha caracterizado históricamente, y en términos generales, por su hostilidad a la regulación y control estatal. El fenómeno ha sido cuidadosamente estudiado por la socióloga de la Universidad de Harvard, Shoshana Zuboff (La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder). Por ello, sorprende este súbito sentido de la responsabilidad social que embarga a algunos de los máximos referentes, fundadores y propietarios de esos colosos corporativos.

Luciana Benotti es doctora en Computación, docente investigadora de la Facultad de Matemática, Astronomía, Física y Computación (FAMAF) de la Universidad Nacional de Córdoba (UNC) e investigadora adjunta del CONICET argentino. Además, tiene una extensa trayectoria de colaboración con la Fundación Vía Libre, que defiende los derechos digitales desde hace 25 años en Argentina. En diálogo por correo electrónico con TSS, manifestó, con relación a lo que viene aconteciendo con los referentes corporativos de la IA occidental: “Responden [las declaraciones mencionadas] más a una narrativa de concentración de poder que a un debate técnico. Al centrar la discusión pública en escenarios especulativos a futuro, eluden la discusión sobre los impactos materiales del presente: el monopolio de las grandes empresas, el extractivismo de datos, el impacto sobre el sector laboral, el sesgo algorítmico y el consumo energético e hídrico de los enormes centros de datos de los grandes modelos de IA comerciales”.

¿Y por casa?

En la vorágine de la IA, América Latina parece estar entre las regiones más expuestas. Escasas iniciativas hay sobre el tema y las que se hallan se encuentran a distancias inconmensurables de los desarrollos de frontera (cutting edge). En un subcontinente aquejado por problemas de siglos pasados aún no resueltos, ¿cómo se enfrentan los desafíos de este desbordante futuro?

“Nuestra región se encuentra en una situación de dependencia tecnológica –señaló Benotti–, consumimos modelos de IA comercial que no han sido evaluados apropiadamente para medir su impacto en América Latina, y que no sabemos cuánto costarán en el futuro. Además, los modelos comerciales comprometen la privacidad de los datos porque necesitan el texto plano, no permiten encriptación”.

Ante este escenario, surge ineludible la pregunta de si se puede hacer algo en América Latina para mitigar los riesgos y amenazas de la IA. Benotti es categórica al respecto: deben desarrollarse capacidades propias e incentivar la cooperación regional para alcanzar la escala de inversión y talento que requieren estas iniciativas. Hay que “promover la investigación pública regional para crear capacidades propias en IA adaptadas a las necesidades lingüísticas, sociales y económicas locales que permitan evaluar y adaptar modelos abiertos existentes y correrlos localmente”, enfatiza la académica de la FAMAF, y agrega que eso debe hacerse consolidando “alianzas multilaterales en América Latina para adquirir y compartir infraestructura y conocimiento. Además de que ”es crucial reforzar la regulación asociada a la defensa de derechos humanos relacionados a los impactos del presente”.

Entre el 21 y el 25 de septiembre próximos, la Ciudad de Córdoba (Argentina) albergará de la edición 2026 de la Conferencia Latinoamericana de Computación de Alto Rendimiento (CARLA), un encuentro que tendrá lugar en el Centro Cultural de la UNC y en donde uno de los temas principales a tratar será la IA y el posicionamiento de la región en torno a ella.

Asimetrías

Nicolás Wolovick también es doctor en Computación, docente e investigador de la FAMAF pero además es el director del Centro de Computación de Alto Desempeño (CCAD) de la UNC, situado entre los más grandes de la Argentina, y uno de los organizadores de CARLA 2026. Para Wolovick uno de los problemas más graves que está generando la actual carrera de la IA son las terribles asimetrías que genera. “Ya no se trata de las diferencias entre países ricos y poderosos, y los demás, sino entre empresas. Es más, entre dos de ellas y todas las demás, incluso en el seno de Estados Unidos”, le dijo a TSS.

Pero Wolovick señala algo adicional que suele pasarse por alto, excepto en algunos grupos muy específicos y especializados. Mientras la viabilidad financiera de las grandes Big Tech de la IA no deja de suscitar incertidumbres para sus accionistas, “acá la que verdaderamente está llevándose todo es NVIDIA”, advierte el director del CCAD.

Los balances mega superavitarios de NVIDIA se han hecho habituales pero es menos conocido cómo está manejando el negocio esta desarrolladora y fabricante de “fierros”, o sea, equipos (hardware). NVIDIA no está en el negocio de la IA sino en el de los componentes físicos que la hacen posible, particularmente sus célebres Unidades de Procesamiento Gráfico (GPU por sus siglas en inglés). Un ejemplo clarificará la dinámica actual de su negocio. En marzo de 2025, NVIDIA sacó al mercado su GPU más potente, hasta la fecha, para estaciones de trabajo individuales, la RTX PRO 6000 Blackwell. En marzo de 2026 se conseguía esta GPU por 6000 dólares estadounidenses, en mayo el precio había subido hasta 12.000 dólares y a fines de julio no era posible hallarlo por menos de 16.000 dólares. ¡100% de aumento en menos de un año! Algo inusitado para una economía como la estadounidense y en un rubro, el informático, en donde históricamente la dinámica de precios ha sido hacia la baja. La explosión de la demanda provocada por el auge de la IA y su inacabable voracidad por mayor capacidad de cómputo esté convalidando precios al alza increíbles, mientras simultáneamente se producen cuellos de botella en casi toda la cadena de insumos críticos del sector.

Pero si lo anterior no fuera suficiente, conseguir que el gobierno estadounidense autorice hoy la exportación de una NVIDIA RTX PRO 6000 Blackwell es un desafío en sí mismo. El artefacto es tratado casi como un arma de guerra, así que requiere un permiso especial (clearance) que incluye la declaración por parte del adquirente de para qué la usará y dónde estará físicamente alojado el equipo. Un proceso que puede durar meses hasta obtener el permiso, si es que se lo logra.

¿Y el mundo?

La competencia internacional en serio por el liderazgo en materia de IA se dirime en la actualidad, casi con exclusividad entre Estados Unidos y China. Ningún otro país ha demostrado, hasta ahora, tener los recursos económicos y humanos para acercarse a la frontera del estado del arte en la materia. Los franceses, rezagados y tímidamente, son de los pocos que se están atreviendo a desafiar a los titanes con su modelo Mistral, cuyas funcionalidades están muy lejos todavía de los líderes. En un orden de magnitud aún más modesto, el CENIA de Chile, con colaboraciones de Brasil y la Argentina, está intentando hacer lo propio en América Latina.

¿Cómo reaccionó China ante las declaraciones apocalípticas (el término no es empleado en un sentido irónico o peyorativo) provenientes de los referentes estadounidenses? El portavoz del Ministerio de Asuntos Exteriores, Guo Jiakun, declaró que “los discursos de amenaza, confrontación y competencia maliciosa solo sirven para perturbar el proceso de gobernanza global de la IA y no benefician a nadie” (BBC, 14/09/2026) y el gobierno chino rechazó ralentizar el desarrollo de esta tecnología. No obstante, Chen Yixin, ministro de Seguridad del Estado del gigante asiático, el domingo 13 de septiembre de 2026, publicó una columna en la revista China CyberSpace, órgano oficial de la Administración China del Cyberespacio, en donde hizo un llamamiento a “reconocer plenamente los riesgos y desafíos que conlleva el desarrollo de la inteligencia artificial” aunque siempre en el contexto de continuar con su desarrollo y trabajar cooperativamente para la gestión de esta tecnología, tanto al interior de China, como en el escenario internacional.

Mal momento

Algo tan poderosos y disruptivo como la IA llega en un mal momento de la humanidad por dos razones centrales y tres subyacentes. Las dos primeras son la competencia por la acumulación de capital desatada en casi todas las sociedades nacionales del planeta luego de la consolidación del capitalismo como modelo socio económico hegemónico; y la disputa política entre una superpotencia emergente y otra declinante por el control mundial.

Las tres razones subyacentes, que se retroalimentan con las centrales, son la crisis climática, la escalofriante capacidad destructiva detentada por la humanidad en la actualidad y el bajísimo nivel de calidad intelectual y moral de la dirigencia de las potencias occidentales, particularmente Estados Unidos, la nación cuya influencia internacional se ve cuestionada. Cada uno de los contendientes principales en estos campos, y frecuentemente son los mismos en unos y otros, ven en la IA la “bala de plata” para batir a los rivales. Ello alimenta una búsqueda desenfrenada de potenciar más y más al instrumento, a despecho de las declaraciones precautorias que se realicen.

En un telegráfico artículo (Xataka, 15/09/2026) el periodista español Javier Lacort alertaba de que el súbito amor regulatorio de Amodei y otros CEO de las mega IA puede ocultar el intento de las grandes corporaciones estadounidenses del rubro por obtener una ventaja competitiva adicional vía la normatividad. Los estándares que están proponiendo pueden ser implementados por las empresas más grandes pero no por las pequeñas, ni por las de “pesos abiertos” (código abierto). Estas últimas, entre las que se encontrarían las iniciativas chinas y europeas, de concretarse la regulación legal promovida, tendrían que soportar condicionamientos que podrían limitar fuertemente su crecimiento, sin haber participado en su elaboración.

Si el escenario es amenazante para China y Europa, y no sólo por lo intrínsecamente vinculado a las IA, sino también por los intereses en su derredor, para América Latina la perspectiva es aún más sombría, a menos que exista un planteo serio para cambiar de actitud.