Un controvertido proyecto de ley que exige que los desarrolladores de modelos avanzados de IA adopten medidas de seguridad está un paso más cerca de convertirse en ley.
El proyecto de ley, SB 1047, requeriría que los desarrolladores de futuros modelos avanzados de IA creen barreras para evitar que la tecnología sea utilizada indebidamente para llevar a cabo ataques cibernéticos contra infraestructuras críticas, como plantas de energía.
Los desarrolladores deben presentar sus planes de seguridad a los fiscales generales, quienes pueden exigirles responsabilidades si los modelos de IA que controlan causan directamente daños o amenazas directas a la seguridad pública.
El proyecto de ley presentado por el senador Scott Wiener (D-San Francisco) fue aprobado por la Asamblea estatal el miércoles, con 41 votos a favor y nueve votos en contra. El jueves, la medida fue aprobada por el Senado estatal mediante votación oral. El proyecto de ley pasará ahora a la oficina del gobernador Gavin Newsom, aunque no está claro si Newsom firmará o vetará el proyecto de ley.
“La innovación y la seguridad pueden ir de la mano, y California está liderando el camino”, dijo Wiener en un comunicado.
Un portavoz de Newsom dijo que el gobernador evaluaría el proyecto de ley cuando llegue a su escritorio.
El proyecto de ley de Wiener fue objeto de acalorados debates en la comunidad tecnológica del Área de la Bahía. Este proyecto de ley recibió el apoyo de Centro de seguridad de IA, Elon Musk, director ejecutivo de Tesla. Consejo editorial del LA Times y Anthropic, la startup de inteligencia artificial con sede en San Francisco.
Sin embargo, los líderes demócratas del Congreso y varios actores destacados de la IA, incluidos Meta y OpenAI, se opusieron a la ley, quienes expresaron su preocupación sobre si la ley sofocaría la innovación en California.
Líderes demócratas del Congreso, incluida la ex presidenta de la Cámara de Representantes, Nancy Pelosi, la representante. Ro Khanna (D-Fremont) y el Rep. Zoe Lofgren (D-San José), también se opuso al proyecto de ley e instó a Newsom a vetarlo. Argumentan que la ley podría dañar a California floreciente industria de la IAhogar del fabricante de ChatGPT, OpenAI, y citó los esfuerzos del Congreso relacionados con la IA.
“Existe un riesgo real de que la empresa decida constituirse en otra jurisdicción o no lanzar el modelo en California”, escribieron Khanna, Lofgren y otros seis representantes demócratas en el Congreso en una carta a Newsom.
“Si bien queremos que California sea líder en el campo de la IA de una manera que proteja a los consumidores, los datos, la propiedad intelectual y más, la SB 1047 haría más daño que ayuda en esos esfuerzos”, dijo Pelosi en un comunicado.
Wiener y otros legisladores que apoyan el proyecto de ley no están de acuerdo, argumentando que fomentaría la innovación y al mismo tiempo protegería al público.
“Hay que poner barreras”, dijo el asambleísta Devon Mathis (R-Visalia) antes de la votación de la Asamblea el miércoles por la tarde. “Tenemos que asegurarnos de que sean jugadores responsables”.
Los partidarios de la SB 1047 dicen que la ley exige que los desarrolladores sean responsables de la seguridad de los modelos avanzados de IA que controlan, lo que podría ayudar a prevenir eventos catastróficos de IA en el futuro.
“Me preocupa que las empresas de tecnología no resuelvan por sí solas los importantes riesgos asociados con la IA porque están atrapadas en una competencia por la participación de mercado y la maximización de ganancias”, dijo Yoshua Bengio, profesor de la Universidad de Montreal y fundador y director científico de Mila – Instituto de Inteligencia Artificial de Quebec, en una conferencia de prensa esta semana. “No podemos dejar que califiquen sus propios deberes y esperen lo mejor”.
Los defensores también dicen que la IA debería regularse de manera similar a otras industrias que plantean riesgos potenciales para la seguridad.
“Es una decisión difícil y molestará a algunas personas, pero, considerando todo, creo que California probablemente debería aprobar el proyecto de ley de seguridad de la IA SB 1047”, escribió Musk en X el lunes. “Durante más de 20 años, he sido partidario de regular la IA, del mismo modo que regulamos cualquier producto/tecnología que plantee riesgos potenciales para la sociedad”.
A principios de este mes, el proyecto de ley fue aprobado por un comité del Senado estatal después de que Wiener lo redactara. cambios significativosincluida la eliminación de sanciones por perjurio y el cambio de estándares legales para los desarrolladores con respecto a la seguridad de sus modelos avanzados de IA.
El director ejecutivo de Anthropic, una startup de inteligencia artificial con sede en San Francisco, Dario Amodei, dijo que cree que los “beneficios probablemente superen sus costos” del proyecto de ley en una carta del 21 de agosto a Newsom. La carta no respalda el proyecto de ley, pero transmite las opiniones de la empresa sobre sus pros y sus contras.
“Queremos dejar claro… que la SB 1047 aborda cuestiones reales y serias relacionadas con el riesgo de catástrofe en los sistemas de IA”, escribió Amodei. “Los sistemas de IA están experimentando rápidos avances en capacidades, lo que ofrece grandes promesas para la economía de California, así como grandes riesgos”.
Pero algunas empresas de tecnología, incluida OpenAI, dijeron que se oponen al proyecto de ley incluso después de los cambios.
“El impacto amplio y significativo de la IA en la competitividad y la seguridad nacional de Estados Unidos requiere que se establezca e implemente una regulación de los modelos fronterizos a nivel federal”, escribió Jason Kwon, director de estrategia de OpenAI, en una carta a Wiener el 21 de agosto. “Un conjunto de políticas de IA impulsadas por el gobierno federal, en lugar de una serie de leyes estatales, fomentaría la innovación y posicionaría a Estados Unidos para liderar el desarrollo de estándares globales”.
Wiener dijo que agradecería una legislación federal sólida sobre seguridad de la IA que preceda a su proyecto de ley.
“Si la experiencia pasada sirve de indicación, implementar una política de este tipo [federal] “Esta legislación será una batalla cuesta arriba”, dijo Wiener en un comunicado. “Mientras tanto, California debe seguir liderando políticas como la SB 1047 que fomenta la innovación y al mismo tiempo protege a las comunidades”.
La SB 1047 es una alrededor de 50 proyectos de ley relacionados con la IA en la Legislatura discutiendo varios aspectos del impacto de la tecnología en el público, incluidos empleos, deepfakes y seguridad.
