¿La IA va a matarnos? La nueva guerra fría ya comenzó

Las advertencias de investigadores sobre los riesgos de la inteligencia artificial reabren el debate sobre sus límites, mientras Estados Unidos y China aceleran una carrera tecnológica que podría transformar el futuro de la humanidad.

Foto: Ilustración vía Zeniteq.

En el verano de 1956, un grupo de científicos se reunió en Dartmouth, Estados Unidos, para discutir una idea que entonces parecía casi fantástica: si las capacidades asociadas con la inteligencia humana podían describirse con suficiente precisión, quizá una máquina podría simularlas. John McCarthy propuso entonces el nombre Artificial Intelligence para aquella nueva disciplina. Setenta años después, la pregunta conserva su vigencia, aunque la escala del experimento haya cambiado por completo.

Por Damián Torres

¿Qué es la inteligencia artificial y cuáles son sus principales empresas?

La inteligencia artificial tampoco es una sola tecnología. El término reúne sistemas capaces de reconocer patrones, generar texto, imágenes, audio y video, recomendar contenidos o ejecutar tareas mediante herramientas. Los modelos de lenguaje como ChatGPT, Claude y Gemini aprenden relaciones estadísticas a partir de enormes cantidades de información y generan respuestas según los patrones incorporados durante su entrenamiento y el contexto que reciben. No piensan como una persona, aunque su capacidad para producir lenguaje pueda resultar sorprendentemente humana.

OpenAI lanzó ChatGPT en 2022; Anthropic presentó Claude en 2023; Google DeepMind desarrolló Gemini; Meta lanzó Llama; xAI creó Grok; la francesa Mistral AI ganó relevancia con modelos eficientes y de pesos abiertos, y la china DeepSeek irrumpió internacionalmente con sus modelos V3 y R1. A ellas se suman Moonshot, Microsoft, Perplexity, Alibaba, Baidu y decenas de compañías que compiten por construir sistemas capaces de razonar, utilizar herramientas, escribir código y actuar con una autonomía creciente.

¿Por qué algunos investigadores advierten sobre los riesgos de la superinteligencia?

En ese punto aparece Jacob Coxon. A sus 27 años, el investigador británico que decidió abandonar Anthropic —después de haber trabajado también en OpenAI—, no sin antes publicar una serie de advertencias sobre lo que ocurre en algunos laboratorios en busca de desarrollar una superinteligencia que podría superar ampliamente las capacidades humanas y que, según su percepción, muchas de las personas que desarrollan estos sistemas creen sinceramente que podrían acabar con la humanidad antes de que termine la década. Coxon ha señalado como preocupación central la mejora recursiva: la posibilidad de que una IA contribuya a construir versiones más capaces de sí misma, acelerando el desarrollo más allá de la capacidad humana para supervisarlo.

La advertencia ganó peso cuando Evan Hubinger, investigador de alineamiento en Anthropic, respondió públicamente que compartía el temor y estimó personalmente en más de 10% la posibilidad de que la IA acabara con la humanidad durante la próxima década. La cifra pertenece a su propia valoración dentro de un debate en el que todavía no existe un método aceptado para calcular esa probabilidad.

¿Qué proponen las empresas tecnológicas para controlar la inteligencia artificial?

El asunto dejó hace tiempo de ser exclusivamente filosófico. Dario Amodei, director ejecutivo de Anthropic, pidió esta semana desacelerar el desarrollo de los modelos más avanzados y propuso evaluaciones independientes, coordinación entre laboratorios y cooperación internacional. Sam Altman, de OpenAI, y Elon Musk, de xAI, respaldaron la necesidad de establecer mecanismos de seguridad. La discusión, sin embargo, choca con una pregunta incómoda: ¿quién estaría dispuesto a reducir la velocidad si el competidor decide mantenerla?

¿Por qué Estados Unidos y China compiten por el liderazgo en inteligencia artificial?

Donald Trump ha rechazado las propuestas de frenar el desarrollo y ha presentado el liderazgo estadounidense en IA como un asunto estratégico frente a China. Pekín, por su parte, respondió a las advertencias de Amodei acusándolo de alarmismo y de utilizar la seguridad como argumento para contener el avance tecnológico chino. La inteligencia artificial se convirtió así en otra pieza de la disputa entre Washington y Pekín.

La escena recuerda, inevitablemente, a la Guerra Fría. Durante décadas, Estados Unidos y la Unión Soviética convirtieron la exploración espacial en una disputa por demostrar quién tenía la tecnología, el conocimiento y la capacidad industrial para llegar más lejos: el lanzamiento del Sputnik en 1957 y la llegada de Estados Unidos a la Luna en 1969 fueron hitos científicos, pero también declaraciones de poder. Hoy el escenario ha cambiado y ya no está a cientos de miles de kilómetros de la Tierra, sino dentro de los centros de datos. Estados Unidos y China compiten por desarrollar los modelos de inteligencia artificial más avanzados, atraer talento, controlar los chips y construir la infraestructura necesaria para hacerlos funcionar a una escala cada vez mayor. La carrera ya no consiste en quién coloca primero una bandera sobre otro cuerpo celeste, sino en quién consigue construir la tecnología capaz de transformar la economía, la ciencia, la industria y, eventualmente, la relación entre los seres humanos y las máquinas.

Fotografía vía Instagram / @montrebreguet

¿Cómo afecta la carrera de la inteligencia artificial a los mercados financieros?

Es importante señalar que el mercado tampoco es indiferente. El 14 de septiembre, el índice Philadelphia Semiconductor cayó 5,86%, Intel 5,59% y Micron 5,25%; en Asia, SoftBank retrocedió 10,7%, mientras Nvidia —la compañía que produce chips para que las inteligencias artificiales sean entrenadas y puedan funcionar a gran escala— perdió 3,36%. Las caídas reflejaron el temor de los inversionistas a que un eventual freno reduzca el gasto en infraestructura necesaria para desarrollar y operar modelos cada vez más grandes. La reacción bursátil revela cuánto depende la economía de la IA y de su expectativa.

¿Existe realmente el riesgo de que la inteligencia artificial acabe con la humanidad?

Bill Gates también ha advertido que la humanidad atraviesa una era turbulenta de inteligencia artificial y que las decisiones tomadas ahora serán determinantes. Su posición, sin embargo, está lejos de equivaler a una predicción de extinción. El debate reúne posiciones muy distintas: desde quienes consideran que los riesgos existenciales son plausibles y requieren regulación inmediata hasta investigadores que creen que concentrarse en escenarios extremos puede desviar la atención de problemas actuales como los fraudes, la desinformación, los ciberataques o la discriminación algorítmica.

No hay aún una máquina o programa que haya anunciado que quiere destruirnos. Tampoco existe consenso científico sobre una futura extinción provocada por la IA. Lo que sí existe es una industria que avanza hacia sistemas cada vez más autónomos, investigadores que advierten sobre aquello que todavía no saben cómo van a controlar, gobiernos que temen perder la carrera tecnológica y mercados que han convertido la promesa de esa revolución en miles de millones de dólares.

¿Podremos controlar una inteligencia artificial más avanzada que los seres humanos?

En 1956, los científicos de Dartmouth se preguntaron si una máquina podía reproducir la inteligencia humana. Setenta años después, quizá la pregunta más inquietante sea otra: si conseguimos construir sistemas capaces de superarnos, tomar decisiones por sí mismos y mejorar sus propias capacidades sin intervención humana, ¿seguiremos siendo nosotros quienes los controlemos o llegará el momento en que sean ellos quienes decidan por nosotros?

Nota editorial: Conservé las afirmaciones del texto sin verificarlas, tal como solicitaste. Antes de publicarlo, recomiendo comprobar las declaraciones atribuidas a Jacob Coxon, Evan Hubinger y Dario Amodei, así como la fecha y las cifras bursátiles del 14 de septiembre. Son datos específicos que requieren respaldo documental.