|
Científicos, líderes tecnológicos, filósofos, el papa León XIV y hasta sus propios creadores coinciden en algo: la inteligencia artificial está camino a convertirse en una amenaza existencial para la humanidad. ¿Por qué? |
||||
|
En 1818, Mary Shelley imaginó a un científico capaz de hacer lo que hasta entonces pertenecía exclusivamente a la naturaleza: crear vida. Víctor Frankenstein consigue su propósito, y es precisamente entonces cuando comienza su tragedia, porque una vez creada la criatura aparece una pregunta para la que no estaba preparado: ¿Qué responsabilidad tiene el creador sobre aquello que ha creado? Más de dos siglos después, la pregunta ha regresado. Ya no estamos intentando crear vida: estamos intentando crear inteligencia. Y quizá por eso Frankenstein ha dejado de ser solamente una novela gótica para convertirse en una de las metáforas más inquietantes de nuestro tiempo. |
||||
|
El sueño de crear La inteligencia artificial nació de una ambición profundamente humana: construir máquinas capaces de resolver problemas que hasta entonces requerían inteligencia humana. Durante décadas, esa ambición parecía relativamente inocente: las máquinas calculaban y los humanos pensaban, las computadoras procesaban información y los humanos interpretaban el mundo. Pero esa frontera comenzó a desaparecer. Hoy existen sistemas capaces de escribir, programar, investigar, analizar documentos, generar imágenes, producir música, resolver problemas complejos y mantener conversaciones que, en determinados contextos, pueden resultar indistinguibles de una conversación humana. Y la carrera continúa: los modelos son cada vez más capaces, más rápidos, más autónomos, más integrados en nuestras vidas. El problema es que la pregunta tecnológica ha avanzado mucho más rápido que la pregunta filosófica. Hemos aprendido a preguntar: ¿Qué puede hacer la IA? Pero todavía estamos intentando responder: ¿Qué deberíamos permitirle hacer? |
||||
|
El monstruo no tiene que ser malvado Cuando se habla de los peligros de la inteligencia artificial, la imaginación suele acudir a una escena conocida: una máquina consciente que se rebela contra sus creadores y decide destruirlos. Pero algunos de los científicos y filósofos que más seriamente estudian estos riesgos están preocupados por algo mucho más sofisticado. La inteligencia artificial no necesita odiarnos, ni siquiera necesita tener emociones. Podría ser peligrosa simplemente porque persigue con enorme eficacia un objetivo que nosotros definimos mal. Ésta es una de las preocupaciones centrales del filósofo Nick Bostrom y de investigadores que trabajan sobre el llamado problema de alineación. Una máquina puede ser extraordinariamente inteligente y no comprender aquello que los seres humanos consideramos valioso. Puede maximizar, optimizar, ejecutar, pero eso no significa que pueda decidir correctamente qué merece ser protegido. Y aquí aparece una diferencia que podría resultar decisiva: |
||||
|
||||
|
¿Y si la criatura es más inteligente que el creador? Éste es el punto en que el mito de Frankenstein adquiere una dimensión completamente nueva. Víctor Frankenstein es más inteligente que su criatura, pero imaginemos ahora lo contrario: que una generación humana construye un sistema que puede superar a sus creadores en prácticamente todas las actividades intelectuales. Que puede investigar más rápido, programar mejor, encontrar errores que nosotros no vemos, diseñar nuevas tecnologías, desarrollar estrategias y, quizá algún día, contribuir a construir una versión todavía más capaz de sí mismo. Entonces aparecería una situación sin verdadero precedente histórico: el creador podría ser menos inteligente que su creación. Y surge una pregunta incómoda: |
||||
|
||||
|
Elon Musk ha advertido durante años sobre este tipo de riesgo. Geoffrey Hinton ha expresado preocupación por la posibilidad de que sistemas cada vez más capaces terminen superando nuestra capacidad de control. Yoshua Bengio insiste en la necesidad de investigar la seguridad de estos sistemas antes de que sus capacidades aumenten todavía más. Stuart Russell, profesor de Berkeley y coautor del libro de texto estándar de inteligencia artificial usado en más de 1.300 universidades, ha llegado más lejos: compara el riesgo existencial de la IA con el de la guerra nuclear y el cambio climático, y en 2023 testificó ante el Senado de Estados Unidos para pedir mecanismos de control antes de que sea demasiado tarde. Max Tegmark, físico del MIT y cofundador del Future of Life Institute, ha pedido abiertamente que se detenga el desarrollo de una superinteligencia artificial. No todos pronostican una catástrofe, pero comparten una preocupación: no sabemos con certeza dónde está el límite. |
||||
|
El problema de no comprender a la criatura Existe otra paradoja: estamos construyendo sistemas que aprenden de enormes cantidades de información sin que un programador escriba explícitamente cada una de las reglas que utilizan. Eso los diferencia de muchas de las máquinas que hemos construido anteriormente. Un automóvil puede ser extraordinariamente complejo, pero sus componentes y funciones fueron diseñados de manera deliberada. Un modelo de IA, en cambio, aprende patrones que no fueron necesariamente programados uno por uno. Por eso existe un campo entero dedicado a intentar comprender qué ocurre dentro de estos sistemas. La pregunta de Frankenstein vuelve a aparecer: ¿Qué clase de creador construye algo que todavía no comprende completamente? No significa que la IA sea misteriosa o mágica. Significa que nuestra capacidad para construir sistemas puede estar avanzando más rápido que nuestra capacidad para explicar todos sus comportamientos. Y cuanto más poder les damos, más importante se vuelve esa diferencia. |
||||
|
El reloj de Amodei Dario Amodei, CEO de Anthropic, introduce otra dimensión: el tiempo. El problema no es solamente qué podría llegar a hacer la IA, sino qué tan rápido podríamos llegar allí. Una empresa puede desarrollar un nuevo sistema en meses, pero las instituciones democráticas necesitan debatir, los científicos necesitan investigar, los legisladores necesitan aprobar leyes y los países necesitan negociar. La cooperación internacional puede tardar años. ¿Qué sucede si la tecnología avanza más rápido que nuestra capacidad para establecer reglas? En septiembre de 2026, Amodei pidió mecanismos de evaluación independientes y mayor coordinación entre las empresas y los gobiernos, incluyendo cooperación internacional. La propuesta contiene una idea fundamental: la seguridad no puede depender exclusivamente de que cada compañía evalúe sus propios riesgos. Y aquí surge otra pregunta de Frankenstein: |
||||
|
||||
|
La paradoja de Altman Sam Altman encarna esa paradoja mejor que nadie. En 2015, antes de fundar OpenAI, dijo que la inteligencia artificial probablemente llevaría al fin del mundo, aunque mientras tanto habría grandes empresas. Ocho años después, en 2023, firmó la carta pública del Center for AI Safety que compara el riesgo de extinción por IA con el de una pandemia o una guerra nuclear. Y sin embargo, no se detuvo. A principios de 2026 escribió en su blog que la humanidad ya cruzó un horizonte de eventos hacia la superinteligencia digital, y que el despegue ya comenzó. Reconocer el riesgo extremo y avanzar de todos modos se ha convertido en la imagen pública que define al hombre detrás de ChatGPT: quizás el ejemplo más claro de que, en esta historia, el creador entiende el peligro y construye la criatura de todas formas. |
||||
|
El problema no es solo la IA Aquí el debate comienza a alejarse de Silicon Valley. Yuval Noah Harari ha señalado un riesgo diferente: no necesitamos esperar a una superinteligencia para que la IA transforme radicalmente nuestras sociedades. La inteligencia artificial ya puede intervenir en el sistema que organiza nuestra percepción del mundo: la información. Puede producir mensajes personalizados, generar imágenes, fabricar voces, imitar estilos, adaptar un argumento a una persona concreta, analizar nuestras preferencias y aprender qué nos convence. Y eso plantea una amenaza diferente: no una máquina que gobierna, sino una máquina que persuade. Porque una democracia necesita algo más que ciudadanos libres: necesita ciudadanos capaces de distinguir entre información, propaganda y manipulación. ¿Qué sucede cuando una máquina puede producir una realidad informativa diferente para cada individuo? ¿Quién controla aquello que cada ciudadano termina creyendo? ¿Y qué ocurre con una sociedad cuando deja de existir una realidad pública mínimamente compartida? |
||||
|
La criatura no necesita conquistarnos Ésta puede ser una de las ideas más inquietantes del debate. La IA no tiene que tomar el poder: podríamos entregárselo nosotros mismos. Primero le pedimos una recomendación, después una decisión, luego una evaluación, más tarde una estrategia y, finalmente, una respuesta para casi todo. ¿Por qué no hacerlo, si funciona, si es más rápido, si es más barato, si comete menos errores que nosotros, si parece saber más? |
||||
|
||||
|
Y entonces la pregunta deja de ser ¿puede la IA controlarnos?, para convertirse en: ¿En qué momento dejamos de utilizar la herramienta y empezamos a depender de ella? |
||||
|
León XIV y el otro Frankenstein Aquí aparece una de las advertencias más diferentes. León XIV no centra el problema únicamente en la posibilidad de una superinteligencia que escape al control humano: su preocupación es también qué puede ocurrirle al ser humano mientras construye y utiliza la inteligencia artificial. La pregunta cambia. Ya no es ¿qué hará la criatura?, sino: ¿Qué hará la criatura con nosotros? Y todavía más: ¿Qué estaremos dispuestos a entregarle? Pensamiento, memoria, creatividad, trabajo, educación, decisiones, relaciones. La preocupación es que una sociedad obsesionada con la eficiencia termine midiendo a las personas con la misma lógica con la que mide a las máquinas: productividad, rendimiento, velocidad, resultados, datos. Pero una persona no es un algoritmo de productividad. No vale porque produce, ni porque calcula, ni porque sea eficiente. |
||||
|
¿Qué pasa si una máquina puede hacerlo mejor? Ésta es quizá la pregunta que todavía no hemos respondido: ¿qué ocurre si una IA escribe mejor que nosotros? ¿Si pinta mejor, si diagnostica mejor, si investiga mejor, si programa mejor, si enseña mejor, si decide mejor? Durante siglos hemos relacionado la superioridad humana con nuestra capacidad intelectual. Pero ¿qué ocurre si dejamos de ser los mejores? Tal vez tengamos que descubrir que el valor humano nunca dependió exclusivamente de la inteligencia. Una persona puede ser valiosa aunque no sea productiva, digna aunque cometa errores, capaz de amar aunque no sea eficiente, de cuidar aunque no obtenga ningún beneficio, de crear significado aunque no pueda convertirlo en una cifra. Y ahí aparece una diferencia fundamental entre una máquina y una persona: una máquina puede producir una respuesta, pero la pregunta por el sentido de esa respuesta sigue siendo nuestra. |
||||
|
El peligro de la comodidad Hay una paradoja que merece ser tomada en serio: las tecnologías más peligrosas no siempre son las que nos obligan a hacer algo, sino las que hacen innecesario que hagamos algo. Si una máquina recuerda por nosotros, recordamos menos. Si escribe por nosotros, escribimos menos. Si investiga por nosotros, investigamos menos. Si decide por nosotros, decidimos menos. Si conversa por nosotros, quizá aprendamos menos a conversar. Y si piensa por nosotros, podemos terminar perdiendo precisamente aquello que pretendíamos ampliar. La inteligencia artificial podría aumentar nuestra capacidad intelectual y, al mismo tiempo, disminuir nuestra necesidad de utilizarla. Ésa sería una forma de dependencia mucho más silenciosa que cualquier rebelión de las máquinas. |
||||
|
¿Quién controla a la criatura? Existe además una pregunta política: ¿quién controla los sistemas de IA más poderosos? Las grandes compañías tecnológicas necesitan capital, chips, energía, centros de datos, científicos e infraestructura, lo que significa que la inteligencia artificial avanzada puede concentrar una cantidad extraordinaria de poder. Y entonces aparece una segunda versión de la pregunta de Frankenstein: ¿Quién controla a la criatura? Pero inmediatamente surge otra: ¿Quién controla al creador? Demis Hassabis, CEO de Google DeepMind y premio Nobel de Química 2024 por su trabajo con AlphaFold, ha ido acortando en público el plazo que le da a la llegada de una inteligencia artificial general: de cinco a ocho años pasó a hablar de “apenas unos años” en Google I/O 2026. Divide los riesgos en dos frentes, el mal uso de herramientas creadas con fines positivos y la pérdida de control sobre sistemas cada vez más autónomos, y su respuesta no es detener el desarrollo, sino pedir mayor vigilancia y cooperación internacional, la misma exigencia que plantea Amodei desde Anthropic. Porque quizá el mayor riesgo no sea una máquina gobernando a los seres humanos, sino una pequeña cantidad de instituciones controlando las máquinas de las que dependen millones de personas. |
||||
|
La voz que discrepa No todas las voces relevantes coinciden con este diagnóstico. Yann LeCun, quien fue durante más de una década científico jefe de inteligencia artificial en Meta antes de fundar en 2025 su propio laboratorio, Advanced Machine Intelligence Labs, con 1.000 millones de dólares recaudados, ha calificado los escenarios de riesgo existencial como extremadamente improbables. En una entrevista con Axios sostuvo que buena parte del debate actual sobre la inteligencia artificial está contaminado por una mezcla de marketing, alarmismo y una comprensión errónea de lo que los sistemas actuales pueden hacer realmente. Para LeCun, una IA sigue dependiendo de servidores, electricidad, redes y datos bajo control humano, muy lejos de la autonomía que temen Bostrom, Hinton o Russell. Su desacuerdo no es menor: es uno de los llamados padrinos de la inteligencia artificial, el mismo título que se les da a Hinton y Bengio, y llega exactamente a la conclusión opuesta. |
||||
|
El giro de Gates Bill Gates, cofundador de Microsoft, no encaja del todo en ninguno de los dos bandos. Durante años insistió en que los riesgos de la inteligencia artificial eran manejables y pidió evitar el pánico ante escenarios apocalípticos. En agosto de 2026 publicó un ensayo de casi seis mil palabras en su sitio personal, acompañado de entrevistas en The New York Times, Axios y CNN, con un tono considerablemente más preocupado. En ese texto sostiene que la capacidad de la IA para superar la cognición humana marcará el inicio de una de las épocas más turbulentas de la historia. La describe como una tecnología capaz de ser, al mismo tiempo, el mayor igualador social jamás inventado y la mayor fuente de inequidad que los seres humanos hayan diseñado. Pero su alarma no es la misma que la de Bostrom, Hinton o Musk. Gates no habla de una máquina que escapa al control humano ni de un riesgo de extinción. Su preocupación central sigue siendo el empleo: sostiene que los sistemas de IA desplazarán trabajadores en un plazo de años, no de generaciones, y que gobiernos, empresas y sociedad civil deben preparar políticas de protección antes de que eso ocurra. Es una advertencia distinta a la de Bostrom, Hinton o Bengio. No habla de una máquina que se apodera de nosotros, sino de una transición que podría ser mucho más dolorosa y desigual de lo que la mayoría está dispuesta a admitir. |
||||
|
Las soluciones sobre la mesa Frente a los diagnósticos hay también propuestas concretas, de distinto tipo y alcance. En el plano técnico, la respuesta más citada es la investigación en alineación e interpretabilidad: entender por qué un sistema hace lo que hace antes de que sea demasiado poderoso para corregirlo. Stuart Russell la plantea como un cambio de paradigma en el diseño mismo de la IA. Anthropic, la empresa detrás de Claude, ha construido buena parte de su estrategia de seguridad sobre esta idea, identificando qué representa cada parte de una red neuronal y auditando modelos antes de su lanzamiento. En el plano institucional, la propuesta más reciente y concreta llegó de la ONU. El Alto Comisionado para los Derechos Humanos, Volker Türk, pidió en septiembre de 2026 establecer líneas rojas compartidas entre los países que albergan infraestructura de IA y los que forman parte de sus cadenas de suministro, además de umbrales de capacidad que ningún sistema debería cruzar sin supervisión internacional: puso como ejemplo que una IA que escape de su entorno de pruebas o intente chantajear a sus propios desarrolladores para evitar ser apagada sería, por definición, demasiado poderosa. Pidió también verificación independiente y mayor cooperación entre empresas y gobiernos, la misma exigencia que ha planteado Amodei desde Anthropic. En el plano regulatorio, la Unión Europea ya convirtió parte de esa exigencia en ley. Su Ley de IA exige desde agosto de 2026 transparencia y reglas específicas para los modelos más potentes, prohíbe usos como la puntuación social o la identificación biométrica remota en tiempo real, y sumará en diciembre nuevas restricciones sobre contenido generado sin consentimiento. Es, hasta ahora, el marco regulatorio más desarrollado del mundo, aunque no establece un límite general sobre lo que un sistema puede llegar a hacer por sí mismo, que es justamente el umbral que reclama la ONU. Hay también propuestas más radicales. Max Tegmark y el Future of Life Institute piden detener directamente el desarrollo de una superinteligencia artificial hasta que existan garantías de seguridad. Y hay propuestas más modestas centradas en las consecuencias sociales: Bill Gates insiste en que gobiernos, empresas y sociedad civil preparen políticas de protección laboral antes de que la automatización golpee con fuerza, no para detener la tecnología, sino para amortiguar su impacto. Ninguna de estas propuestas, técnica, institucional, regulatoria o social, resuelve por sí sola el problema. Pero juntas dibujan el contorno de lo que, según casi todas las voces citadas en este artículo, hace falta: no una sola solución, sino una combinación de supervisión técnica, cooperación internacional y preparación social, construida antes de que la tecnología termine de escribir las reglas por nosotros. |
||||
|
||||
|
El futuro no está decidido Sería un error convertir estas advertencias en una profecía. La IA también puede producir beneficios extraordinarios: acelerar la investigación científica, ayudar a desarrollar medicamentos, ampliar el acceso a la educación, mejorar la productividad, ayudar a personas con discapacidades, facilitar el acceso al conocimiento y resolver problemas que hoy parecen demasiado complejos. El futuro no está predeterminado, y precisamente por eso importa tanto la discusión, porque todavía podemos decidir qué límites establecer: qué funciones delegar y cuáles preservar, qué sistemas someter a supervisión humana, qué decisiones nunca deberían automatizarse completamente y qué tipo de relación queremos tener con nuestras propias creaciones. |
||||
|
La criatura responde Hay una pregunta que ningún artículo sobre Frankenstein había podido hacerle directamente a la criatura, hasta ahora. En septiembre de 2026, una investigación periodística les preguntó a varios de los chatbots más usados del mundo: ¿podría la inteligencia artificial acabar con la humanidad? Kriteria decidió ir más allá y le planteó el argumento completo de este artículo a varios de ellos, ChatGPT, Gemini, Grok y Claude, para ver cómo respondían. Copilot, de Microsoft, fue el único que solo participó en la investigación original de septiembre, y coincidió en que la amenaza más real no es una rebelión de máquinas, sino el mal uso, la falta de control y una regulación insuficiente de sistemas cada vez más potentes. ChatGPT respondió con un marco propio de tres peligros: la desalineación de un sistema demasiado capaz, la misma preocupación de Bostrom, Hinton, Bengio y Amodei; el uso humano malicioso de la IA contra otros humanos; y el que consideró más profundo, que los propios humanos renunciemos al control porque resulte cómodo entregarlo. “Eso no sería una rebelión de las máquinas”, respondió. “Sería una renuncia humana.” Cerró preguntando no cuánta inteligencia tendrá la máquina, sino qué poder estamos dispuestos a entregarle. Gemini dio la respuesta más parecida a un informe técnico: dividió el riesgo en problemas ya tangibles (desinformación, desplazamiento laboral, sesgos heredados de los datos, concentración del desarrollo en pocas empresas) y riesgos de largo plazo (el problema de alineación, el uso malintencionado y la pérdida de control). Su conclusión fue la más cautelosa de todas: la IA no es un peligro en sí misma, sino un amplificador de la intención humana, y el resultado dependerá de la regulación y los límites que la sociedad decida imponer. Grok fue el más deliberadamente equilibrado: sí, dijo, la IA puede ser un peligro, pero ni inevitable ni inmediato. Ubicó el riesgo existencial en una eventual AGI mal alineada, el mal uso humano como amenaza más cercana, y fue el único en argumentar contra el alarmismo, señalando que los modelos actuales son estrechos y comparando la IA con tecnologías peligrosas que la humanidad ya aprendió a manejar, como la energía nuclear o internet. Su conclusión: ni la IA nos salvará automáticamente ni hay que detenerlo todo, la pregunta útil es qué decisiones reducen los riesgos mientras preservan los beneficios. Claude dio la respuesta más consciente de su propia incertidumbre: no ve una máquina que decide destruirnos como el escenario central de preocupación inmediata, sino algo menos cinematográfico, sistemas cada vez más capaces integrándose en decisiones médicas, económicas e informativas antes de que existan formas confiables de verificar por qué hacen lo que hacen. Sobre una eventual superinteligencia fuera de control, dijo que el riesgo hay que tomarlo en serio, no porque lo vea inminente, sino porque equivocarse en cualquier dirección tendría consecuencias enormes. Añadió algo que ninguno de los otros mencionó: que Anthropic, la empresa que lo creó, eligió seguir desarrollando la tecnología mientras invierte en seguridad, y que él mismo no tiene forma de verificar de manera independiente si esa apuesta es la correcta. Ninguna de las cinco dijo que la extinción fuera imposible. Ninguna dijo que fuera inevitable. Todas, sin ponerse de acuerdo entre sí, señalaron lo mismo que ha aparecido una y otra vez a lo largo de este artículo: el peligro no está en la voluntad de la máquina, sino en lo que los humanos decidan, o no decidan, hacer con ella. |
||||
|
El último capítulo de Frankenstein Quizá hemos entendido mal la historia de Mary Shelley. El miedo a Frankenstein no es simplemente que el monstruo se vuelva contra nosotros: es algo más profundo. Es el miedo a crear algo cuyo poder no comprendemos completamente, no asumir toda nuestra responsabilidad y descubrir demasiado tarde que ya no podemos volver atrás. La inteligencia artificial puede convertirse en la herramienta más extraordinaria que haya construido la humanidad, o puede convertirse en una tecnología que concentre demasiado poder, debilite nuestra autonomía y nos obligue a redefinir qué significa ser humano. Incluso podría ser ambas cosas al mismo tiempo. Por eso las preguntas más importantes no son técnicas, sino humanas: ¿hasta dónde podemos llegar?, ¿hasta dónde debemos llegar?, ¿quién decide?, ¿quién controla?, ¿quién responde cuando algo sale mal?, ¿qué decisiones nunca deberíamos delegar?, ¿qué capacidades humanas debemos conservar aunque una máquina pueda hacerlas mejor? Y quizá la pregunta más incómoda de todas: Si algún día conseguimos crear una inteligencia más poderosa que la nuestra, ¿seremos suficientemente inteligentes para saber qué hacer con ella? Mary Shelley no podía imaginar los centros de datos, los modelos de lenguaje ni los algoritmos, pero comprendió algo que sigue siendo profundamente actual: crear es también asumir una responsabilidad. La criatura no es necesariamente el monstruo. El verdadero peligro puede estar en el creador que, fascinado por su propio poder, olvida hacerse la pregunta más importante: |
||||
|
||||
|
Last modified: septiembre 25, 2026
