- El miedo a que la inteligencia artificial supere al ser humano existe desde hace más de dos décadas y resurge con cada avance tecnológico.
- La novela Frankenstein, publicada en 1818, instaló la pregunta sobre qué pasa cuando se crea una inteligencia que no se sabe o no se quiere controlar.
- En 1942 Isaac Asimov formuló las Tres Leyes de la Robótica, pero sus relatos muestran que reglas aparentemente perfectas producen paradojas y consecuencias inesperadas.
- En 2023, tras la irrupción de ChatGPT y GPT-4, una carta de Future of Life pidió pausar seis meses el entrenamiento de modelos más potentes.
- El texto distingue entre riesgos actuales (desinformación, fraude, vigilancia, sesgos, pérdida de empleos, dependencia tecnológica y concentración de poder) y riesgos hipotéticos de superinteligencia.
El llamado “doomerismo” sobre la inteligencia artificial existe desde hace más de dos décadas. Aunque hay riesgos reales asociados a esta tecnología, el discurso del Apocalipsis suele competir con otra cuestión más inmediata: los daños concretos que la IA ya provoca en la información, el trabajo y la vida cotidiana.
Doomerismo, m.
Actitud o corriente de pensamiento caracterizada por anticipar escenarios catastróficos, pesimistas o apocalípticos, especialmente en relación con cuestiones tecnológicas, ambientales, políticas o sociales.
En el contexto de la inteligencia artificial, tendencia a sostener que el desarrollo de sistemas cada vez más avanzados podría provocar consecuencias irreversibles para la humanidad, incluida la pérdida de control sobre la tecnología o la extinción humana.
El miedo antes que la máquina
La matriz cultural de este temor aparece en 1818, cuando Mary Shelley publicó Frankenstein. Victor crea una criatura, la abandona por miedo y responsabilidad, y la criatura termina girando contra él y contra la sociedad. La novela no describe una IA, pero instaló una pregunta que hoy sigue viva: ¿qué pasa cuando alguien crea una inteligencia que no sabe —o no quiere— controlar?
En el siglo XX, Isaac Asimov intentó responder con las famosas Tres Leyes de la Robótica, formuladas en 1942 y recogidas luego en Yo, robot: un robot no debe dañar a un ser humano, debe obedecer a los humanos salvo conflicto con la primera ley, y debe proteger su existencia sin violar las dos anteriores.
Pero Asimov no escribió esas leyes para celebrarlas: sus relatos muestran, una y otra vez, cómo reglas aparentemente perfectas producen paradojas y consecuencias inesperadas. Su lección es casi la contraria del optimismo tecnológico: no alcanza con escribir principios morales en el código.
Skynet y el cine del desastre
Si Frankenstein dio el mito literario, Hollywood lo transformó en imagen global. En Terminator (1984), de James Cameron, el sistema militar Skynet adquiere conciencia, interpreta a la humanidad como una amenaza y desata una guerra nuclear antes de enviar máquinas al pasado para eliminar a John Connor. La franquicia convirtió el “apocalipsis informático” en un referente popular, mucho antes de que existieran asistentes conversacionales.
Esa estética se repite en The Matrix (1999), donde las máquinas mantienen a la humanidad en una simulación, y en 2001: una odisea del espacio (1968), de Stanley Kubrick, donde HAL 9000 mata a tripulantes para proteger la misión. En todos los casos, la amenaza no es simplemente que la máquina “sea malvada”: es que persigue un objetivo con una lógica propia, sin comprender del todo los valores humanos.
La diferencia con el presente es importante: Skynet, HAL y las máquinas de The Matrix son ficciones con agencia, cuerpo y capacidad de acción autónoma. Los sistemas de IA actuales son modelos estadísticos entrenados con enormes cantidades de datos; pueden cometer errores graves, manipular información o facilitar fraudes, pero no constituyen ejércitos robóticos con voluntad de conquista.
Del laboratorio al pánico mediático
El movimiento contemporáneo de “seguridad de la IA” empezó a organizarse alrededor del Machine Intelligence Research Institute (MIRI), fundado en 2000, y de comunidades como LessWrong, creada en 2009 por Eliezer Yudkowsky. Allí se consolidó una hipótesis central: si aparece una inteligencia artificial más capaz que la humana y no está “alineada” con nuestros objetivos, podría representar un riesgo existencial.
En 2015, figuras como Elon Musk, Demis Hassabis, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y Stephen Hawking firmaron un manifiesto que pedía que los sistemas de IA hicieran “lo que nosotros queramos que hagan”. En esa etapa, sin embargo, el tono era de precaución más que de catástrofe inminente.
El salto ocurrió en 2023, tras la irrupción masiva de ChatGPT y GPT-4. Una carta de Future of Life pidió pausar durante seis meses el entrenamiento de modelos más potentes; meses después, el Center for AI Safety publicó otra que afirmaba que mitigar el riesgo de extinción por IA debería ser una prioridad mundial, junto con pandemias y guerra nuclear.
Los avisos, una y otra vez
El patrón se repite: personalidades del sector advierten que la IA puede acabar con la humanidad, los medios amplifican la frase y la discusión pública se instala entre dos extremos —el Paraíso tecnológico y el fin del mundo—. Xataka destaca que mensajes como el de Evan Hubinger, jefe de alineamiento de Anthropic, quien mencionó un 10% de probabilidad de extinción, provienen de una red intelectual con raíces en MIRI y en el Center for AI Safety.
Eso no convierte automáticamente la advertencia en falsa. Pero sí obliga a distinguir entre dos cosas que suelen mezclarse:
- Riesgos actuales: desinformación, fraude, vigilancia, sesgos, pérdida de empleos, dependencia tecnológica y concentración de poder en pocas empresas.
- Riesgos hipotéticos de superinteligencia: una IA futura con capacidades muy superiores a las humanas y objetivos incompatibles con la supervivencia humana.
El problema es que el segundo escenario atrae más titulares, mientras el primero ya afecta a millones de personas.
Una profecía con antecedentes
La historia cultural muestra que el miedo a la máquina casi siempre llega antes que la máquina. Frankenstein anticipó la angustia por la creación sin responsabilidad; Asimov exploró los límites de las reglas; Terminator llevó el temor a la pantalla grande; y ahora los laboratorios de IA repiten, en informes y cartas abiertas, una versión secular del mismo relato.
La conclusión más útil no es tranquilizadora ni apocalíptica: la IA no es Skynet, pero tampoco es un juguete inocente. El verdadero desafío no es imaginar el día en que “nos matará a todos”, sino decidir quién la construye, con qué datos, bajo qué controles, con qué transparencia y en beneficio de quién.