El gobernador de California, Gavin Newsom, habla con la prensa antes del debate presidencial entre la vicepresidenta estadounidense y candidata presidencial demócrata Kamala Harris y el expresidente estadounidense y candidato presidencial republicano Donald Trump en el Centro Nacional de la Constitución en Filadelfia, Pensilvania, el 10 de septiembre de 2024.
Mateo Hatcher | AFP | Imágenes falsas
El gobernador de California, Gavin Newsom, vetó el domingo un proyecto de ley de seguridad de la inteligencia synthetic muy controvertido, después de que la industria tecnológica presentara objeciones, diciendo que podría expulsar a las empresas de inteligencia synthetic del estado y obstaculizar la innovación.
Newsom dijo que el proyecto de ley “no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales” y aplicaría “estándares estrictos incluso a las funciones más básicas, siempre que un sistema grande lo implementa”.
Newsom dijo que había pedido a destacados expertos en IA generativa que ayudaran a California a “desarrollar barreras de seguridad viables” que se centren “en el desarrollo de un análisis de trayectoria empírico y basado en la ciencia”. También ordenó a las agencias estatales que ampliaran su evaluación de los riesgos de posibles eventos catastróficos relacionados con el uso de la IA.
La IA generativa, que puede crear texto, fotografías y movies en respuesta a indicaciones abiertas, ha generado entusiasmo y temores de que pueda hacer que algunos trabajos queden obsoletos, alterar las elecciones y potencialmente dominar a los humanos y tener efectos catastróficos.
El autor del proyecto de ley, el senador estatal demócrata Scott Wiener, dijo que la legislación period necesaria para proteger al público antes de que los avances en IA se volvieran difíciles de manejar o incontrolables. La industria de la IA está creciendo rápidamente en California y algunos líderes cuestionaron el futuro de estas empresas en el estado si el proyecto de ley se convirtiera en ley.
Wiener dijo el domingo que el veto hace que California sea menos segura y significa que “las empresas que buscan crear una tecnología extremadamente poderosa no enfrentan restricciones vinculantes”. Añadió que “los compromisos voluntarios de la industria no son ejecutables y rara vez funcionan bien para el público”.
“No podemos darnos el lujo de esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público”, dijo Newsom, pero agregó que no estaba de acuerdo “debemos conformarnos con una solución que no esté informada por un análisis empírico de la trayectoria de los sistemas de IA y capacidades.”
Newsom dijo que trabajará con la legislatura sobre la legislación sobre IA durante su próxima sesión. Se produce cuando la legislación en el Congreso de Estados Unidos para establecer salvaguardias se ha estancado y la administración Biden está avanzando en propuestas regulatorias de supervisión de la IA.
Newsom dijo que “un enfoque exclusivo de California bien podría estar justificado, especialmente en ausencia de una acción federal por parte del Congreso”.
La Cámara del Progreso, una coalición de la industria tecnológica, elogió el veto de Newsom diciendo que “la economía tecnológica de California siempre ha prosperado gracias a la competencia y la apertura”.
Entre otras cosas, la medida habría exigido pruebas de seguridad para muchos de los modelos de IA más avanzados cuyo desarrollo costó más de 100 millones de dólares o aquellos que requieren una cantidad definida de potencia informática. Los desarrolladores de software program de IA que operan en el estado también habrían necesitado delinear métodos para apagar los modelos de IA, lo que efectivamente sería un interruptor de apagado.
El proyecto de ley habría establecido una entidad estatal para supervisar el desarrollo de los llamados “Modelos Frontera” que superan las capacidades presentes en los modelos más avanzados existentes.
El proyecto de ley enfrentó una fuerte oposición de una amplia gama de grupos. Google de Alphabet, OpenAI respaldado por Microsoft MSFT.O y Meta Platforms META.O, todos los cuales están desarrollando modelos generativos de IA, habían expresado sus preocupaciones sobre la propuesta.
Algunos demócratas en el Congreso de Estados Unidos, incluida la representante Nancy Pelosi, también se opusieron. Entre los defensores se encontraba el director ejecutivo de Tesla, Elon Musk, que también dirige una empresa de inteligencia synthetic llamada xAI. Anthropic, respaldada por Amazon, dijo que los beneficios del proyecto de ley probablemente superen los costos, aunque agregó que todavía hay algunos aspectos que parecen preocupantes o ambiguos.
Newsom firmó por separado una legislación que exige que el estado evalúe las amenazas potenciales que plantea la IA generativa a la infraestructura crítica de California.
El estado está analizando los riesgos de la infraestructura energética y los proveedores del sector eléctrico previamente convocados y realizará la misma evaluación de riesgos con los proveedores de infraestructura de agua el próximo año y más tarde con el sector de las comunicaciones, dijo Newsom.
