Gobernador de California veta proyecto de ley que regula la inteligencia artificial

Manténgase informado con actualizaciones gratuitas

Sólo regístrate para inteligencia artificial myFT Digest: entregado directamente a su bandeja de entrada.

El gobernador de California, Gavin Newsom, vetó un controvertido intento de regular la inteligencia artificial, citando preocupaciones de que el proyecto de ley podría sofocar la innovación tras la intensa presión de las empresas de tecnología.

Newsom, un demócrata, esperó hasta las 11 a. m. después de las elecciones para anunciar su decisión. factura Fue aprobada por la legislatura estatal a finales de agosto.

El proyecto de ley obligaría a los desarrolladores de los modelos de IA más potentes a cumplir con reglas estrictas, incluida la implementación de interruptores de apagado para evitar daños catastróficos.

Las principales empresas de IA, incluidas Google, OpenAI y Meta, se opusieron al proyecto de ley, diciendo que una legislación prematura podría sofocar el desarrollo de la IA y amenazar el papel de liderazgo de California en el desarrollo tecnológico. Hubo un fuerte movimiento de oposición. Elon Musk, propietario de Anthropic, respaldada por Amazon, y de la startup xAI, apoyó el proyecto de ley.

Newsom defendió su veto a la Ley de Innovación Segura para Sistemas Fronterizos de Inteligencia Artificial, conocida como SB 1047, en una carta dirigida al Senado estatal el domingo.

Señaló que California es el hogar de 32 de las empresas de inteligencia artificial más grandes del mundo y dijo que el marco podría “sofocar la innovación que impulsa el progreso a favor del interés público”.

En particular, dijo que centrarse en los modelos por tamaño (el proyecto de ley requeriría pruebas de seguridad y otras medidas de seguridad para los modelos cuyo desarrollo cuesta más de 100 millones de dólares) es un indicador equivocado. Si “modelos más pequeños y más especializados pudieran surgir como igual o más peligrosos”, podría dar al público “una falsa sensación de seguridad sobre el control de esta tecnología que avanza rápidamente”.

El senador Scott Wiener, quien patrocinó el proyecto de ley, dijo: “El veto es una herramienta poderosa para todos los que creen en la supervisión de las grandes corporaciones que están tomando decisiones importantes que afectan la seguridad y el bienestar de nuestros ciudadanos y el futuro de nuestro planeta. “Es un revés para nosotros.”

“Las empresas que busquen desarrollar tecnologías extremadamente poderosas necesitarán el apoyo vinculante de los responsables políticos estadounidenses, especialmente dada la continua parálisis del Congreso a la hora de regular la industria tecnológica de manera significativa”, afirmó.

Pero Newsom argumentó que el proyecto de ley no tiene en cuenta si los sistemas de IA se “implementan en entornos de alto riesgo, implican la toma de decisiones críticas o implican el uso de datos confidenciales”.

“En cambio, este proyecto de ley aplica estándares estrictos incluso a las funciones más básicas de los grandes sistemas, siempre que estén implementados. Este es el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología. No lo creo.

En los últimos 30 días, Newsom firmó una legislación destinada a introducir y regular tecnologías de inteligencia artificial generativa (los tipos que crean texto e imágenes), incluidos deepfakes, marcas de agua de inteligencia artificial y desinformación.

Los expertos en esta tecnología también están colaborando con el gobierno parabarandilla viable”, dijo, contribuyendo a la introducción de la IA generativa respaldada por evidencia empírica y científica.

El grupo de expertos Artificial Intelligence Policy Institute criticó el veto del gobernador, calificándolo de “equivocado, imprudente y fuera de sintonía con las personas encargadas de gobernar”.

“El señor Newsom tuvo la oportunidad de servir como líder en la regulación de la gobernanza democrática del desarrollo de la IA, un camino que ha tomado en otras industrias, pero decidió quitar las manos del volante. “El desarrollo de la IA podría desviarse incontrolablemente”, dijo Director Ejecutivo Daniel Colson.

“Newsom y los legisladores deben regresar a Sacramento el próximo Congreso y llegar a un acuerdo sobre una serie de medidas que pongan barreras sensatas al desarrollo de la IA”.