En un momento de intenso debate dentro de la industria de la inteligencia artificial sobre el futuro de los modelos de código abierto, Dario Amodei, CEO de Anthropic, ha buscado disipar las percepciones erróneas sobre la postura de su empresa. Amodei afirmó en una publicación de blog que Anthropic "nunca ha abogado por una prohibición de los modelos de código abierto (open-weights models)", contradiciendo las críticas que sugerían que la compañía intentaba ejercer un control excesivo sobre el desarrollo de la IA.
Las declaraciones de Amodei llegan después de que una coalición de empresas como Nvidia, Microsoft, Meta y Palantir firmara una carta instando a los legisladores a evitar "restricciones prematuras" sobre los modelos de código abierto. El CEO de Anthropic, sin embargo, delineó un camino regulatorio distinto, centrado en la seguridad y el control estratégico. Sus preocupaciones principales se dirigen a evitar que "chips potentes caigan en manos autoritarias", detener la "destilación a escala industrial" (donde modelos más pequeños se entrenan utilizando la salida de modelos más grandes), y requerir "pruebas de seguridad para todos los modelos suficientemente capaces, ya sean abiertos o cerrados".
Este enfoque subraya la división creciente en Silicon Valley sobre cómo equilibrar la apertura, la innovación y la seguridad en el ámbito de la IA. Amodei defendió que las prohibiciones proteccionistas no abordarían sus preocupaciones más serias de seguridad nacional. En su opinión, los modelos de código abierto que no poseen capacidades peligrosas son un bien público, ya que facilitan el acceso, impulsan la competencia y otorgan control a los usuarios. Sin embargo, también enfatizó que cualquier modelo capaz podría ser "armado" con fines maliciosos, como la creación de virus a nivel de pandemia, mientras que el desarrollo de defensas llevaría mucho más tiempo.
Las implicaciones de esta postura son significativas para el futuro de la regulación de la IA. Amodei sugiere que, en lugar de prohibiciones generales, se necesitan marcos legales dirigidos a "cuellos de botella" críticos en la tecnología, como las exportaciones de chips avanzados y la supervisión de la "destilación" de modelos. Este debate está influyendo directamente en los legisladores estadounidenses, quienes están considerando proyectos de ley que podrían imponer límites federales a los modelos de código abierto. La claridad de Anthropic busca posicionar a la empresa como un actor proactivo en la configuración de una regulación responsable, evitando la percepción de que su objetivo es simplemente sofocar la competencia.
El argumento de Amodei resalta la complejidad de la gobernanza de la IA, donde la línea entre la promoción de la innovación y la mitigación de riesgos es delicada. Su propuesta de centrarse en puntos de control específicos y en pruebas rigurosas de seguridad podría sentar un precedente para futuras normativas, buscando salvaguardar la tecnología sin frenar por completo su potencial de desarrollo.