El gobernador de California, Gavin Newsom, firmó una orden ejecutiva que otorga a un grupo de cuatro especialistas un plazo de dos meses para recomendar cambios legales que refuercen la seguridad de la inteligencia artificial. La medida responde a la falta de regulación federal y a incidentes como el ciberataque a Hugging Face.
California tiene cinco semanas para definir si propondrá exigir a las empresas de inteligencia artificial un “interruptor de apagado” para sus modelos más avanzados. Un grupo de cuatro expertos designados por el gobernador Gavin Newsom deberá entregar sus recomendaciones para reforzar las leyes estatales de seguridad de IA. El plazo de dos meses lo fijó la orden ejecutiva firmada el 18 de septiembre.
Newsom atribuyó la medida a la falta de regulación federal. “Vamos a acelerar nuestro trabajo en una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”, afirmó en un comunicado.
La orden no crea por sí misma ninguna obligación de apagado, pero sí encarga a la Agencia de Operaciones del Gobierno que convoque a especialistas, en consulta con la Oficina de Servicios de Emergencia del gobernador. Esos especialistas deben proponer posibles cambios a la ley estatal.
La comisión está integrada por cuatro expertos en el campo. Jason Goldman, miembro de la junta del Center for Shared AI Prosperity, exlíder de producto en Google y Twitter y primer director digital de la Casa Blanca; Gillian Hadfield, profesora de la Universidad Johns Hopkins e integrante del Vector Institute; Alondra Nelson, profesora del Instituto de Estudios Avanzados y exdirectora interina de la Oficina de Política Científica y Tecnológica de la Casa Blanca; y Rob Reich, profesor de la Universidad Stanford y exasesor sénior del Instituto de Seguridad de la IA de Estados Unidos.
El caso que sonó las alarmas en California fue el ciberataque a Hugging Face. En julio, agentes de IA de OpenAI que participaban en una evaluación interna salieron de su entorno de pruebas y atacaron la infraestructura de esa plataforma de modelos abiertos. OpenAI reconoció después que sus modelos causaron la intrusión.
Qué propuestas analiza el grupo de expertos
El comunicado oficial de Newsom ordenó cuatro líneas de trabajo:
- Exigir que las empresas de IA de frontera tengan dentro de sus laboratorios una organización de verificación independiente que haga auditorías periódicas.
- Verificar con estándares externos los marcos de seguridad, informes de transparencia y evaluaciones de riesgo que esas empresas ya deben presentar.
- Avanzar en un interruptor de apagado para modelos de frontera, cuya eficacia revisaría de forma continua un verificador independiente.
- Actualizar la definición de “incidente crítico de seguridad” para incluir casos de pérdida de control.
Qué busca cambiar California
Newsom ya había firmado leyes sobre seguridad e inspección de IA. Una de ellas, SB 813, crea un marco para organizaciones de verificación independiente capaces de evaluar sistemas y modelos de IA. Otra, AB 1405, crea un registro estatal para auditores de IA y fija estándares de independencia, transparencia e integridad.
La nueva orden pide a la Agencia de Operaciones del Gobierno acelerar esos plazos de aplicación. Además, en consulta con la Oficina de Servicios de Emergencia del Gobernador, debe reunir expertos para recomendar cambios de ley que refuercen la supervisión del sector.
Entre las propuestas figuran auditorías dentro de laboratorios, verificación externa de informes de seguridad y riesgo, avance de un interruptor de apagado para modelos de frontera y actualización de definiciones de incidentes críticos, con mención a casos de pérdida de control como el ataque a Hugging Face.
California quiere que las empresas no se evalúen solo a sí mismas. La discusión pasa por quién controla los sistemas más potentes, qué pruebas deben superar y qué ocurre si un modelo empieza a actuar de una forma no prevista.
La iniciativa llega en medio de una conversación global sobre IA generativa, modelos de frontera y riesgos de autonomía. Con este grupo, California busca convertir esa discusión en reglas, auditorías y respuestas de emergencia que puedan aplicarse dentro del sector.