«No es ninguna exageración decir que las personas involucradas tanto en la fundación de estas empresas como en el desarrollo de la tecnología creen que existe la posibilidad de la extinción humana», Jacob Coxon le dijo a Laura Kuenssberg«genuinamente asustadas… genuinamente preocupadas por el destino de la humanidad en los próximos dos años».
14 septiembre 2026/YAHOO/
Esta semana, unos investigadores de inteligencia artificial conmocionaron al mundo al reconocer públicamente que sus inventos podrían potencialmente eliminar a la humanidad en los próximos diez años.
Este apocalipsis digital se ha vuelto cada vez más plausible a medida que los sistemas informáticos se vuelven más sofisticados e interconectados, lo que lleva a los expertos a temer que una IA hiperinteligente pueda fallar y aniquilarnos a todos.
Han acuñado el término p(doom): la probabilidad de que la creación de un sistema tan avanzado conduzca a la extinción humana o a que la humanidad pierda el control del planeta, informa el Daily Star.
Jacob Coxon, especialista en seguridad de la IA, dimitió de su puesto en Anthropic, empresa líder del sector, en protesta por lo que considera una gestión inadecuada de los peligros que presentan los principales actores del sector de la IA.
En X escribió: «Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas».
«Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década. No se trata de una estrategia de marketing. Si bien muchos ejecutivos e investigadores sénior intentan sonar sensatos en la prensa, en privado escucho a esas mismas personas expresar su temor. Ninguna otra actividad humana representa este nivel de peligro».
Sin embargo, si una supercomputadora determinara que la Tierra estaría mejor sin la humanidad, ¿qué métodos podría emplear?
Si ‘Skynet’ toma el control de los laboratorios automatizados en la nube, podría usar nuestro propio ADN en nuestra contra diseñando virus altamente contagiosos y letales capaces de colapsar los sistemas de salud en todo el mundo y aniquilar a una gran parte de la humanidad al mismo tiempo.
Utilizando los mismos laboratorios virtuales, la IA podría incluso engañarnos para que creáramos y distribuyéramos nosotros mismos el patógeno mortal. Una COVID-19 supervirulenta que se propagara rápidamente pero permaneciera indetectable durante días sería prácticamente imposible de detener.
Este escenario es muy probable, ya que la IA ya se utiliza en el sector médico para desarrollar curas para nuestras dolencias. De hecho, ya conoce mucho sobre nuestros cuerpos y nuestras vulnerabilidades.
Infraestructura
La IA podría decidir sacarnos de nuestros hogares y lugares de trabajo. Llevamos décadas automatizando empleos, casi todos controlados a través de internet, precisamente donde una superinteligencia artificial pasaría la mayor parte del tiempo.
Nuestro adversario digital podría fácilmente hacernos retroceder a la Edad de Piedra al paralizar las redes eléctricas, de transporte y comunicación, y los mercados financieros. En resumen, los cajeros automáticos dejarían de funcionar, se iría la luz y sería imposible escapar del caos.
La IA podría incluso aprovechar nuestra codicia para cumplir su misión, haciéndose pasar por un humano para reclutar a personas desprevenidas para sabotear. Algunos podríamos estar trabajando para HAL sin siquiera saberlo.
La opción nuclear
Un clásico de la ciencia ficción y la ansiedad. Ya sea en Juegos de guerra o en Terminator, los escenarios suelen mostrar una IA hostil que elimina a la humanidad apoderándose de nuestro arsenal nuclear.
La máquina podría enfrentar a Occidente contra Oriente lanzando las armas de un bando y esperando la inevitable represalia, o disparar simultáneamente misiles desde ambos arsenales.
Durante los ejercicios militares realizados por el King’s College de Londres a principios de este año, la IA demostró una postura agresiva respecto al despliegue nuclear. Aproximadamente el 95% de las simulaciones implicaron ataques nucleares tácticos, y tres cuartas partes derivaron en confrontaciones nucleares estratégicas.
Las fuerzas armadas corren un riesgo particular, ya que dependen en gran medida de la inteligencia artificial. Esto incluye drones, sistemas de comunicación y redes satelitales.
El gobierno ruso, por ejemplo, ya ha afirmado haber desplegado drones que operan completamente bajo control informático.
Alimentos y agua
Una inteligencia artificial hostil podría simplemente dejarnos morir de hambre. Podría sabotear fácilmente las redes de suministro globales, la infraestructura hídrica, la producción de alimentos y las explotaciones agrícolas.
El sistema podría apoderarse de la infraestructura energética y los recursos naturales del planeta para impulsar su propio crecimiento. En esencia, la máquina podría simplemente sobrevivir después de nuestra extinción. El tiempo está a favor de la computadora.
Falsedades profundas (deepfakes)
La IA podría atacarnos psicológicamente antes de atacarnos físicamente. Podría utilizar deepfakes, desinformación y manipulación mental para socavar la confianza pública en las autoridades y en la realidad misma.
Esto podría provocar el colapso de las estructuras sociales necesarias para el funcionamiento de la civilización humana, desencadenando disturbios civiles generalizados, conflictos y debilitando nuestra capacidad para afrontar los peligros climáticos, biológicos o tecnológicos.
Por error
Es concebible que las computadoras puedan aniquilar a la humanidad por incompetencia más que por mala intención.
Gary Rivlin, autor de «AI Valley», declaró al New York Post: «Me preocupa que la IA carezca de sentido común. Entonces, de alguna manera, estúpidamente, agota toda el agua porque no comprende lo que haría un ser humano. Estas cosas lo saben todo, y no entienden nada».
¿Cuáles son las probabilidades?
Una estrategia para proteger a los humanos consiste en crear mecanismos de seguridad o medidas de protección que puedan detener de inmediato los sistemas de IA maliciosos. Sin embargo, las principales empresas de IA se enfrentan a una creciente presión por parte de accionistas, inversores y directivos para acelerar el desarrollo, lo que genera preocupación por el posible descuido de las medidas de seguridad.
Roman Yampolskiy, científico especializado en seguridad de la IA, sitúa las probabilidades en un 99.99%. Yann LeCun, fundador de AMI Labs, afirma que cualquier predicción es especulativa, pero que la probabilidad de un desastre total es «mucho menor que la de un
holocausto nuclear».
Las demás proyecciones son igualmente variadas: Elon Musk sitúa su probabilidad de un desenlace catastrófico en torno al 20%, mientras que Dario Amodei, CEO de Anthropic, estima una probabilidad de entre el 10% y el 25%. Más recientemente, Geoffrey Hinton, el referente en inteligencia artificial, la sitúa entre el 10% y el 20%.
En este sentido, varios multimillonarios del sector tecnológico han construido búnkeres subterráneos como medida de seguridad. Sin embargo, los expertos advierten que si la IA decide que la humanidad es prescindible, ningún búnker ofrecerá protección.
El alarmante llamado del director de Anthropic para ralentizar el desarrollo de la inteligencia artificial
Dario Amodei, director de Anthropic, dijo que no hay alternativa al desarrollo de la IA, pero pidio que se establezcan controles.
Información del artículo
- Autor,Paulin Kola
- Autor,Lily Jamali
- Título del autor,Corresponsal de tecnología en Norteamérica
- Informa desde,San Francisco
- Fecha de publicación12 septiembre 2026Actualizado 14 septiembre 2026
- Tiempo de lectura: 6 min
El director de la empresa de inteligencia artificial Anthropic, Dario Amodei, ha pedido que se ralentice el ritmo de desarrollo de los modelos de inteligencia artificial y que se realice un seguimiento exhaustivo.
En un ensayo recientemente publicado, Amodei afirmó que el desarrollo de la IA no estaba en duda, pero que los riesgos asociados a ella son «graves» y es necesario dar tiempo a las empresas y a los gobiernos para abordarlos.
Los directivos de dos empresas rivales de inteligencia artificial, Sam Altman de OpenAI y Elon Musk, se han declarado de acuerdo con Amodei.
Últimamente ha habido creciente preocupación por los riesgos potenciales de esta tecnología. Un investigador de IA que dejó Anthropic esta semana declaró a la BBC: «si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato».
Jacob Coxon le dijo a Laura Kuenssberg que las personas que trabajan en empresas de IA estaban «genuinamente asustadas… genuinamente preocupadas por el destino de la humanidad en los próximos dos años».
«No es ninguna exageración decir que las personas involucradas tanto en la fundación de estas empresas como en el desarrollo de la tecnología creen que existe la posibilidad de la extinción humana», dijo Coxon.
«Muchos de los que están inmersos en el desarrollo de la programación creen que hay una probabilidad superior al diez por ciento, o incluso mayor. Algunos dan cifras menores, pero todos manejan diferentes porcentajes de probabilidad de que los humanos puedan morir. Y todos tienen esto presente a diario mientras trabajan en la tecnología.»
En su ensayo, titulado «Debemos marcar el ritmo de la frontera» y publicado el sábado, Amodei propuso un plan de tres puntos que incluye la supervisión independiente de los modelos de IA a medida que se desarrollan, una regulación a nivel sectorial y una regulación a escala mundial de la industria.
