(París, Francia). Un movimiento significativo ha tomado forma, con la participación de más de 700 individuos destacados en los campos de la ciencia, la política y el entretenimiento. Entre ellos se encuentra el príncipe Harry, quienes, el pasado miércoles, hicieron un llamado urgente para que se detenga el avance de la inteligencia artificial (IA) que tiene el potencial de superar las capacidades humanas. Este esfuerzo colectivo refleja una creciente preocupación sobre los posibles riesgos asociados con el desarrollo descontrolado de tecnologías avanzadas.
“Exigimos que se detenga el desarrollo de la superinteligencia hasta que haya un consenso científico para construirla de forma controlada y segura, y hasta que haya apoyo popular”, se señala en el sitio web de la iniciativa del Future of Life Institute, una organización sin fines de lucro que opera desde Estados Unidos. Este instituto se dedica a resaltar los peligros que podría acarrear la IA si no se maneja con precaución y responsabilidad. La declaración enfatiza la necesidad de un enfoque cauteloso para garantizar un futuro seguro para la interacción entre humanos y máquinas inteligentes.
El respaldo a esta causa proviene de notables figuras que han estado en la vanguardia del desarrollo de la IA moderna. Firmantes como Geoffrey Hinton, quien fue galardonado con el Premio Nobel de Física en 2024, Stuart Russell, un respetado profesor de informática en la Universidad de California en Berkeley, y Yoshua Bengio, un académico influyente en la Universidad de Montreal, están entre los más destacados.
Además, se suman personajes importantes del ámbito tecnológico, tales como Richard Branson, el fundador del Virgin Group, y Steve Wozniak, cofundador de Apple. También encontramos firmas de figuras políticas como Steve Bannon, exasesor del presidente Donald Trump, y Susan Rice, quien fue asesora de seguridad nacional durante la administración de Barack Obama. Entre los firmantes también se encuentran líderes religiosos como Paolo Benanti, un asesor del Papa y experto en IA en el Vaticano, así como celebridades como el conocido cantante will.i.am y la pareja real, el príncipe Enrique y su esposa Meghan Markle.
Que no supere al hombre
La mayoría de las grandes corporaciones de inteligencia artificial se encuentran en la búsqueda de crear inteligencia artificial general (AGI), que es una etapa crucial que podría equiparar todas las capacidades intelectuales humanas. Sin embargo, también existe el temor de que se desarrolle una superinteligencia que podría superar ampliamente las habilidades humanas.
Sam Altman, el director ejecutivo de OpenAI —la empresa detrás de ChatGPT—, ha mencionado que el umbral para alcanzar la superinteligencia podría ser alcanzado en un plazo de cinco años, según sus declaraciones de septiembre. Esto genera inquietud, ya que muchos creen que debemos ser proactivos en la gestión de estos avances.
Max Tegmark, presidente del Future of Life Institute, expresó su acuerdo, manifestando que «no importa si es dentro de dos o quince años, construir algo como esto es inaceptable.» Desde su perspectiva, es esencial que las empresas tecnológicas no se dediquen a proyectos de este tipo «sin ningún marco regulatorio». Esto resalta la necesidad urgente de establecer regulaciones y parámetros éticos en el desarrollo de tecnologías avanzadas.
Asimismo, Tegmark insistió en que «se puede estar a favor del desarrollo de herramientas de inteligencia artificial más potentes, como aquellas que ayudan en la lucha contra el cáncer, y al mismo tiempo estar en contra de la superinteligencia.» Este equilibrio es fundamental para garantizar que la humanidad no se exponga a riesgos innecesarios a medida que avanzamos hacia el futuro tecnológico.
