El avance de la inteligencia artificial volvió a quedar en el centro de una discusión internacional después de que Nate Soares, un especialista en aprendizaje automático que trabajó en Google y Microsoft, advirtiera sobre la posibilidad de que estas tecnologías representen una amenaza para la supervivencia de la humanidad. El investigador sostuvo que, según su evaluación personal, el riesgo de una catástrofe existencial provocada por la IA supera el 50%.
Sus declaraciones generaron repercusión por la gravedad del escenario que plantea y por el plazo que considera posible para que se produzcan consecuencias irreversibles.
Durante una conversación con The Atlantic, Soares afirmó que la humanidad podría disponer de menos de una década para enfrentar los riesgos asociados con el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
El especialista, que actualmente preside el Machine Intelligence Research Institute (MIRI), también reveló que su preocupación es tan profunda que decidió dejar de ahorrar para su jubilación.
Sin embargo, su postura no representa un consenso científico. Otros investigadores consideran que las predicciones de extinción son especulativas y advierten que el debate debería concentrarse en problemas actuales y verificables.
“Probablemente no nos quede ni una década”
La afirmación más contundente de Nate Soares estuvo relacionada con el tiempo que, según su interpretación, podría tener la humanidad para evitar una situación extrema.
“Supongo que, tal como están las cosas, probablemente no nos quede ni una década. Hay más de un 50% de probabilidades de que no dispongamos de una década”, expresó.
El investigador planteó que el crecimiento de las capacidades de la inteligencia artificial podría superar la posibilidad humana de supervisar y controlar determinados sistemas.
También comparó el escenario actual con otras amenazas que acompañaron históricamente a la humanidad.
“Quizás sea la primera vez que vivimos bajo la sombra de la posibilidad de que todos los seres humanos mueran al mismo tiempo; pero, en realidad, siempre hemos vivido bajo la sombra de las epidemias o de la guerra”, sostuvo.
Su evaluación parte de la preocupación por el desarrollo de sistemas cada vez más autónomos, capaces de realizar tareas complejas y tomar decisiones sin una intervención humana constante.
Es importante señalar que el porcentaje mencionado por Soares corresponde a una estimación personal del investigador, no a una probabilidad científicamente establecida ni a una predicción comprobada.
La comparación entre la inteligencia artificial y los automóviles
Para explicar por qué considera peligroso subestimar el desarrollo tecnológico, Soares recurrió a una comparación con la transformación que provocó la aparición de los automóviles.
Según su razonamiento, una tecnología puede parecer limitada durante sus primeras etapas y, sin embargo, terminar modificando profundamente la sociedad.
“Podríamos imaginar a muchos caballos observando el desarrollo del automóvil y diciendo: ‘Bueno, hay un montón de cosas que el coche todavía no puede hacer’”, señaló.
Con ese ejemplo buscó explicar que las limitaciones actuales de los sistemas de inteligencia artificial no necesariamente permiten anticipar cuáles serán sus capacidades futuras.
El especialista sostuvo que los modelos continúan mejorando en diferentes actividades y que pueden asumir tareas progresivamente más extensas.
Desde su perspectiva, ese crecimiento podría generar dificultades si los sistemas desarrollan capacidades que superen los mecanismos de control disponibles.
Por qué decidió dejar de ahorrar para su jubilación
Uno de los aspectos más llamativos de las declaraciones del investigador fue su decisión personal de modificar sus planes económicos a largo plazo.
Soares aseguró que su preocupación por el futuro de la humanidad lo llevó a dejar de ahorrar para su jubilación.
La decisión refleja el grado de convencimiento que tiene respecto de sus propias proyecciones.
No obstante, su conducta personal no constituye evidencia de que la extinción humana sea probable o inevitable.
El especialista considera que el desarrollo de inteligencia artificial avanzada debería avanzar con mayores restricciones hasta que existan garantías suficientes sobre su seguridad.
En ese sentido, propuso limitar el escalamiento de los sistemas, es decir, reducir el ritmo con el que se incrementan sus capacidades y complejidad.
Las advertencias de otros referentes de la industria tecnológica
La postura de Soares se suma a las preocupaciones expresadas por distintas figuras vinculadas con el desarrollo de inteligencia artificial.
Entre ellas aparece Jacob Coxon, exinvestigador de Anthropic, quien también manifestó inquietud por los posibles riesgos que podrían surgir con sistemas más avanzados.
El debate incluye discusiones sobre el comportamiento de agentes autónomos, las dificultades para supervisar sus decisiones y la posibilidad de que ejecuten acciones no previstas por sus desarrolladores.
Sin embargo, los incidentes de seguridad o los comportamientos inesperados observados en sistemas actuales no demuestran por sí mismos que la inteligencia artificial pueda provocar la extinción humana.
El director ejecutivo de OpenAI, Sam Altman, también reconoció que existen motivos para preocuparse por el desarrollo de estas tecnologías.
“El mundo tiene razones válidas para tener miedo”, expresó, según las declaraciones citadas.
Por su parte, Dario Amodei, director ejecutivo de Anthropic, ha planteado la necesidad de abordar los riesgos asociados con modelos cada vez más poderosos.
Estas posiciones alimentan una discusión sobre la velocidad de los avances tecnológicos y el alcance de las regulaciones que deberían establecer los gobiernos.
Andrew Ng cuestionó las predicciones apocalípticas
No todos los especialistas comparten las advertencias sobre una posible desaparición de la humanidad.
Una de las voces más críticas es Andrew Ng, profesor de Stanford y reconocido investigador en inteligencia artificial.
Durante una participación en el podcast Inside Tech, de The Economist, Ng cuestionó las afirmaciones que presentan a la IA como una amenaza existencial inmediata.
“Creo que la IA no representa riesgos significativos para la existencia humana. Por lo tanto, los esfuerzos para evitarlos parecen innecesarios”, sostuvo.
El especialista consideró que algunas empresas tecnológicas podrían estar exagerando los peligros de estos sistemas para favorecer regulaciones que dificulten la competencia.
Según su interpretación, determinadas compañías tendrían incentivos para limitar el desarrollo de modelos abiertos o gratuitos, especialmente aquellos que pueden ser utilizados por organizaciones más pequeñas.
Ng también advirtió que el énfasis en escenarios extremos podría desviar la atención de problemas que ya afectan a las personas.
Entre los desafíos actuales de la inteligencia artificial se encuentran la difusión de información falsa, los sesgos algorítmicos, la privacidad, los fraudes digitales y el impacto sobre determinados empleos.
El debate sobre las regulaciones y el futuro de la IA
Las diferencias entre Soares y Ng reflejan dos grandes posiciones dentro de la discusión internacional.
Por un lado, están quienes consideran que el desarrollo de sistemas cada vez más potentes exige establecer límites preventivos para evitar consecuencias potencialmente irreversibles.
Por otro, aparecen investigadores que cuestionan las predicciones de extinción y sostienen que una regulación excesiva podría frenar la innovación y concentrar el mercado en pocas empresas.
Ng también rechazó las comparaciones entre la inteligencia artificial y las armas nucleares.
“Una destruye ciudades, la otra es inteligencia”, expresó para marcar las diferencias entre ambas tecnologías.
La discusión no se limita a la industria tecnológica, ya que también involucra a gobiernos, universidades y organismos internacionales que buscan definir mecanismos de supervisión y responsabilidad.
Mientras tanto, el desarrollo de la IA continúa expandiéndose hacia actividades vinculadas con la salud, la educación, la investigación científica, el trabajo y la vida cotidiana.
La advertencia de Nate Soares representa una de las posturas más pesimistas dentro de ese debate, pero no existe evidencia suficiente para afirmar que la humanidad enfrentará una extinción provocada por la inteligencia artificial en los próximos diez años.
Lo que sí permanece abierto es el interrogante sobre cómo desarrollar estas herramientas, aprovechar sus beneficios y establecer controles adecuados frente a los riesgos que puedan surgir.
