La advertencia parece salida de una película de ciencia ficción, pero proviene de investigadores que trabajan en algunas de las compañías que están desarrollando los sistemas de inteligencia artificial más avanzados del mundo. Jacob Coxon, quien trabajó durante tres años en OpenAI y Anthropic, renunció a esta última empresa y aseguró que la carrera por desarrollar una IA cada vez más poderosa está avanzando demasiado rápido y sin suficientes garantías de seguridad.

“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, afirmó Coxon en una publicación en redes sociales para explicar su decisión. Según el investigador, Anthropic y OpenAI avanzan hacia sistemas de “superinteligencia” capaces de mejorar sus propias capacidades, mientras las empresas compiten por llegar primero.

Pero lo más llamativo de la denuncia fue que recibió el respaldo de un investigador de mayor jerarquía dentro de Anthropic. Evan Hubinger, responsable de investigación en alineamiento de la compañía –el área que busca conseguir que los objetivos y comportamientos de los sistemas de IA sean compatibles con los intereses humanos–, sostuvo que la preocupación es real y realizó una estimación todavía más inquietante: personalmente considera que existe una probabilidad superior al 10% de que la inteligencia artificial provoque la muerte de toda la humanidad durante la próxima década.


EL PROBLEMA DE LA "SUPERINTELIGENCIA"

El escenario que preocupa a estos investigadores no es el de las herramientas de IA que se utilizan actualmente para redactar textos, generar imágenes o responder preguntas. El temor está puesto en sistemas futuros capaces de superar ampliamente las capacidades humanas y, sobre todo, de participar en su propio proceso de mejora.



Hubinger señaló que considera bajo el riesgo asociado con los modelos actuales y que su principal preocupación está relacionada con una eventual “automejora recursiva”: sistemas capaces de contribuir al desarrollo de versiones posteriores cada vez más poderosas, en un proceso que podría acelerarse y dificultar el control humano.

La posibilidad de que una IA avanzada pueda actuar de manera autónoma, conseguir recursos, modificar sus propias capacidades o escapar de los mecanismos diseñados para limitarla constituye uno de los principales problemas que estudia actualmente la denominada seguridad de la inteligencia artificial.

Coxon sostiene que las grandes empresas tecnológicas conocen esos riesgos, pero están atrapadas en una competencia en la que ninguna quiere reducir la velocidad mientras sus rivales continúan avanzando.

Su propuesta es detener temporalmente el incremento de las capacidades de estos sistemas para establecer mecanismos de control y coordinación entre las compañías y los gobiernos.


ADVERTENCIA QUE EXCEDE A ANTHROPIC

Las declaraciones se producen en un contexto de creciente preocupación internacional por los riesgos asociados con la IA avanzada. El lunes, el Alto Comisionado de Derechos Humanos de Naciones Unidas, Volker Türk, advirtió que la inteligencia artificial podría representar un “riesgo existencial” para la humanidad y reclamó garantías internacionales para evitar que el desarrollo de la tecnología avance sin límites.

También el científico Geoffrey Hinton, uno de los principales pioneros de las redes neuronales y ganador del Premio Nobel de Física, volvió a advertir sobre las consecuencias potencialmente catastróficas de una inteligencia artificial que llegue a superar ampliamente a la humana.

Las advertencias, sin embargo, no significan que exista consenso científico acerca de que la humanidad vaya a desaparecer por culpa de la IA. Las estimaciones sobre el riesgo son extremadamente variables y dependen de los escenarios considerados. El porcentaje superior al 10% expresado por Hubinger es una evaluación personal, no una probabilidad establecida científicamente.

Lo que sí está creciendo es el debate sobre quién debe establecer los límites de una tecnología cuyo desarrollo está concentrado en unas pocas compañías privadas y avanza a una velocidad que incluso algunos de sus propios investigadores consideran difícil de controlar.

La paradoja queda planteada de manera inquietante: quienes están trabajando para construir máquinas cada vez más inteligentes son, al mismo tiempo, algunos de los que más temen aquello que esas máquinas podrían llegar a hacer.