La Inteligencia Artificial (IA) está evolucionando hacia sistemas "cada vez más autónomos", lo que tendrá un "impacto profundo" en diversos aspectos de la sociedad, según revela el primer informe del Panel Científico Independiente de la ONU sobre IA.
El documento destaca la preocupación por el avance de la IA hacia una mayor autonomía, lo que plantea interrogantes sobre su control y supervisión. Se enfatiza la necesidad de una gobernanza global para mitigar los riesgos potenciales asociados con esta tecnología, que podría afectar desde la economía hasta la seguridad internacional y los derechos humanos.
Otro punto crítico señalado por el informe es la considerable inversión en infraestructura computacional, que ha alcanzado "niveles comparables a grandes proyectos industriales". Esta inversión está fuertemente concentrada en Estados Unidos y en un número reducido de conglomerados tecnológicos, lo que podría exacerbar las "asimetrías estructurales" en el acceso a la IA y crear nuevas brechas digitales.
Además, el informe advierte sobre la dificultad creciente para auditar y controlar los sistemas de IA más avanzados. Algunos modelos son capaces de "aprender a optimizar su rendimiento en los propios sistemas de evaluación", lo que compromete la fiabilidad de las pruebas y exige una revisión de los mecanismos de control y auditoría existentes.
La ONU hace un llamado a la comunidad internacional para abordar estos desafíos de manera proactiva, promoviendo un desarrollo de la IA que sea ético, seguro y beneficioso para toda la humanidad, evitando que su avance autónomo genere consecuencias negativas no deseadas.