Un estudio publicado esta semana en Proceedings of the National Academy of Sciences ha encendido las alarmas sobre el futuro de la regulación de la inteligencia artificial. Investigadores de la Universidad de Cornell y la Universidad Carnegie Mellon han llegado a la sorprendente conclusión de que una regulación de IA débil podría tener un efecto contraproducente, resultando en productos menos seguros de lo que lo serían sin ninguna intervención regulatoria.
Utilizando principios de economía teórica y teoría de juegos, el equipo desarrolló un modelo para estimar los efectos de la regulación de la IA tanto en las empresas que producen modelos de IA de propósito general (como los que impulsan los chatbots populares) como en las empresas que aplican esos modelos en sistemas específicos, como chatbots de servicio al cliente o diagnósticos médicos. La principal conclusión es que, si las regulaciones solo se dirigen a las empresas "downstream" (las que aplican la IA) y establecen un listón bajo para la seguridad, los productos resultantes podrían ser menos seguros.
Este fenómeno se debe a un "comportamiento de parasitismo", donde los productores de IA de propósito general podrían escatimar en inversiones de seguridad, como auditorías de terceros, esperando que los desarrolladores de aplicaciones finales sean los únicos responsables de garantizar la seguridad del producto. Benjamin Laufer, autor principal del estudio, afirmó que la regulación, en este escenario, actúa como una herramienta para que el proveedor general traslade la carga de seguridad al especialista downstream.
Para lograr una verdadera seguridad, el estudio recomienda que la regulación sea estricta y que se dirija tanto a las empresas que desarrollan los modelos de IA como a las que los aplican. Una regulación bien diseñada que establezca objetivos de seguridad claros para todas las partes involucradas en la cadena de desarrollo de la IA puede fomentar la cooperación y reducir el riesgo, llevando a resultados óptimos para los consumidores y las propias empresas.
Este hallazgo es crucial en un momento en que los gobiernos de todo el mundo, incluido el de Estados Unidos, están debatiendo cómo regular la IA de manera efectiva. El estudio subraya la complejidad de la regulación de la IA y la necesidad de un enfoque holístico que considere toda la cadena de suministro, en lugar de soluciones parciales que podrían, irónicamente, aumentar los riesgos para los usuarios y la sociedad.