Demis Hassabis, CEO de Google DeepMind, ha intensificado sus advertencias sobre la proximidad de la Inteligencia Artificial General (AGI), una IA capaz de igualar o superar las capacidades cognitivas humanas. En un reciente ensayo, Hassabis describe este momento como "fundamental en la historia humana", señalando que la AGI podría estar a "pocos años de distancia" y que estamos "en las estribaciones de la singularidad". Lo más apremiante es su llamado a la "acción urgente" para abordar los riesgos que surgirán a medida que nos acerquemos a la AGI, destacando la "preciosa ventana" que tenemos para actuar.
Las preocupaciones de Hassabis se centran en los desafíos que los modelos de frontera ya plantean para la ciberseguridad, y advierte sobre el surgimiento de otras amenazas, incluyendo riesgos nucleares y biológicos, a medida que las capacidades de la IA continúan avanzando. En este sentido, ha propuesto la creación de un organismo de estándares de IA liderado por EE.UU., una coalición que revisaría los modelos más avanzados para garantizar su seguridad antes de su lanzamiento público. Este organismo podría funcionar de manera similar a la Autoridad Reguladora de la Industria Financiera (FINRA), financiada por la industria pero independiente.
La postura de Hassabis contrasta en parte con el optimismo declarado por Sam Altman, aunque ambos coinciden en la inmensidad del cambio que la IA traerá. La insistencia de Hassabis en la gobernanza y la preparación refleja una creciente ansiedad en la industria, donde los propios desarrolladores reconocen que el ritmo del progreso tecnológico está superando la capacidad de la sociedad para adaptarse y gestionar sus consecuencias. La propuesta de un "Cuerpo de Estándares" es una respuesta directa a la necesidad de un enfoque "dinámico, adaptable y riguroso" para probar las capacidades de los modelos de IA de frontera.
Las implicaciones de esta iniciativa son considerables. Si se implementa, un organismo de este tipo podría establecer un precedente global para la regulación de la IA, influyendo en cómo se desarrollan, prueban y despliegan los sistemas avanzados en todo el mundo. Esto no solo afectaría a los laboratorios de investigación y a las empresas tecnológicas, sino también a los gobiernos que buscan aprovechar el potencial de la IA mientras mitigan sus peligros. El llamado de Hassabis subraya que el futuro de la IA no puede dejarse solo en manos de los tecnólogos; requiere un esfuerzo concertado de toda la sociedad para definir cómo se desarrollará la próxima fase de la civilización.
En conclusión, el mensaje de Demis Hassabis es claro: la AGI está cerca, y la ventana para establecer salvaguardias efectivas se está cerrando rápidamente. Su propuesta de un organismo de estándares liderado por EE.UU. es un intento de canalizar el desarrollo de la IA hacia un camino más seguro y beneficioso para la humanidad, antes de que las capacidades de la tecnología superen nuestra capacidad de control.