Demis Hassabis, CEO de Google DeepMind, ha presentado una propuesta para establecer un organismo de revisión independiente centrado en la inteligencia artificial de frontera (frontier AI). Esta entidad, modelada a partir de la Autoridad Reguladora de la Industria Financiera (FINRA) de Estados Unidos, tendría como objetivo desarrollar protocolos de evaluación y colaborar con agencias federales y laboratorios nacionales para realizar pruebas rigurosas en áreas críticas para la seguridad nacional.
La propuesta de Hassabis surge en un momento de intensa competencia comercial y geopolítica en el desarrollo de IA. El CEO de Google DeepMind enfatiza que los avances en la frontera de la IA están superando la capacidad de los marcos de gobernanza actuales, lo que hace imperativa la creación de mecanismos de supervisión más robustos y proactivos.
El organismo propuesto operaría como una asociación público-privada o una organización autorregulada, integrando a expertos técnicos líderes independientes y representantes de la comunidad de código abierto. Su misión sería garantizar que los modelos de IA más potentes se sometan a evaluaciones de seguridad exhaustivas antes de su despliegue comercial, mitigando así los riesgos potenciales.
La iniciativa de Hassabis busca abordar la carrera armamentista en IA y asegurar que el desarrollo tecnológico se alinee con el beneficio global. Reconoce el potencial inmenso de la IA para resolver desafíos humanos, pero también advierte sobre los riesgos inherentes a su rápida progresión, especialmente en el camino hacia la inteligencia artificial general (AGI).
Esta propuesta representa un paso significativo hacia una gobernanza más estructurada de la IA, sugiriendo que la industria misma debe jugar un papel clave en la definición de estándares de seguridad y alineación, complementando los esfuerzos regulatorios gubernamentales.