Sam Altman, el influyente CEO de OpenAI, ha vuelto a poner de manifiesto sus profundas preocupaciones sobre el futuro de la inteligencia artificial, destacando dos riesgos existenciales que, a su juicio, la sociedad debe abordar con urgencia. En una reciente entrevista, Altman expresó su temor a que la IA alcance un nivel de evolución tal que supere la capacidad de control y supervisión humana, haciendo que los sistemas actuales sean incapaces de garantizar una intervención efectiva.
Su segunda gran preocupación radica en la concentración del poder de decisión sobre la IA en manos de un pequeño grupo de compañías, modelos o personas. Altman considera que este escenario sería "muy antihumano" y limitaría drásticamente la capacidad de la sociedad para definir su propio destino tecnológico. En su visión, el desarrollo de la IA debe ir acompañado de un proceso participativo donde la sociedad en su conjunto decida qué límites y usos está dispuesta a aceptar.
Altman se distancia de la idea de que la solución pase únicamente por reforzar la regulación o sacrificar libertades en aras de la seguridad. En cambio, defiende que "sociedad y modelos van a evolucionar juntos" y advierte que sería un error dejar todas las decisiones sobre el futuro de la IA en manos de las grandes tecnológicas. Esta postura contrasta con la de otros líderes del sector, como Dario Amodei, CEO de Anthropic, quien aboga por enfoques regulatorios más estrictos.
Las advertencias de Altman no son aisladas; coinciden con las preocupaciones expresadas por figuras como Geoffrey Hinton, uno de los "padrinos" del aprendizaje profundo, quien también ha señalado la dificultad de comprender los procesos internos de los modelos más complejos y el riesgo de que una IA superior actúe contra los intereses humanos. Este debate pone de manifiesto la necesidad imperante de construir nuevas reglas de gobernanza que eviten tanto la pérdida de control como la centralización del poder.
La discusión actual sobre la gobernanza, la ética y la transparencia en el desarrollo de la IA es crucial. Altman enfatiza que el objetivo no es simplemente temer a la IA, sino asegurar que su evolución potencie las capacidades humanas y no las restrinja. El camino a seguir implica una fusión de innovación con responsabilidad, involucrando a gobiernos, empresas, científicos y ciudadanos para garantizar que la inteligencia artificial beneficie a la mayoría y no se convierta en un riesgo existencial.