Ordenanza de ciberseguridad y ética de IA de Berkeley
Berkeley, California está desarrollando orientación municipal sobre prácticas de ciberseguridad y el uso ético de la inteligencia artificial en las operaciones de la ciudad. Este artículo resume el alcance, las oficinas responsables, las vías de cumplimiento y los pasos prácticos para cumplir con la legislación municipal de Berkeley y las políticas administrativas relacionadas.
Alcance y propósito
La ordenanza y las normas administrativas anexas buscan proteger los datos de la ciudad, garantizar revisiones de contratación seguras para sistemas de IA y exigir transparencia en la toma de decisiones automatizada utilizada por los departamentos municipales. Las normas se aplican a las agencias de la ciudad, a los contratistas que manejan datos de la ciudad y a los proveedores que suministran servicios con IA para funciones municipales.
Normas y principios
- Evaluación de riesgos y clasificación de datos para la información en poder de la ciudad.
- Revisión de adquisiciones y divulgaciones de proveedores para sistemas de IA, incluida la documentación de los datos de entrenamiento y las limitaciones del modelo.
- Controles de seguridad: gestión de accesos, cifrado en tránsito y en reposo, y procedimientos de respuesta a incidentes.
- Requisitos éticos: mitigación de sesgos, supervisión humana y gobernanza documentada para decisiones automatizadas.
- Obligaciones de transparencia: aviso público cuando se utilicen sistemas automatizados para decisiones de impacto público significativo.
Sanciones y aplicación
La autoridad legal primaria y las disposiciones aplicables están codificadas en el código municipal de la Ciudad de Berkeley y en las políticas administrativas relacionadas; los importes concretos de las multas y los calendarios no se especifican en la página citada.Berkeley Municipal Code[1]
- Multas: los importes monetarios para sanciones no están especificados en la página del código municipal citada; consulte la orientación del departamento para las sanciones administrativas.
- Escalamiento: el tratamiento de la primera infracción, las reincidencias y las infracciones continuadas no se especifica en la página citada.
- Sanciones no monetarias: órdenes para cesar el uso de un sistema, remediación obligatoria, suspensión de contratos o remisión a tribunales civiles son posibles acciones de ejecución.
- Autoridad ejecutora: la supervisión principal generalmente corresponde al City Manager o al departamento designado, como el Departamento de Tecnología de la Información; comuníquese con el Departamento de TI de la Ciudad de Berkeley para reportar incidentes y consultas de cumplimiento.City of Berkeley IT Department[2]
- Apelaciones y revisiones: existen rutas de apelación administrativa y revisión judicial donde se especifica; los plazos para apelar no se especifican en la página del código municipal citada.
- Defensas y discreción: pueden existir exenciones, variaciones o permisos documentados bajo políticas departamentales; los detalles no se especifican en la página citada.
Solicitudes y formularios
No existe un formulario público único de la ciudad para la gobernanza de IA o certificación de ciberseguridad publicado en la página del código municipal; los departamentos pueden exigir cuestionarios de proveedores, certificaciones de seguridad o cláusulas contractuales durante la contratación. Comuníquese con el Departamento de TI o con el departamento de contratación para obtener formularios e instrucciones de envío.City of Berkeley IT Department[2]
Infracciones comunes
- No completar las evaluaciones de riesgo o evaluaciones de impacto de privacidad obligatorias para sistemas de IA.
- Omitir las divulgaciones requeridas del proveedor durante la contratación.
- Controles de acceso mal configurados que provocan exposición de datos.
Pasos de acción
- Inventariar los sistemas que usan toma de decisiones automatizada y clasificar la sensibilidad de los datos.
- Exigir documentación del proveedor sobre diseño del modelo, conjuntos de datos y mitigación de sesgos antes de la contratación.
- Adoptar planes de respuesta a incidentes y programar evaluaciones de seguridad periódicas.
Preguntas frecuentes
- ¿Quién aplica las normas de ciberseguridad y ética de IA en Berkeley?
- El City Manager y los departamentos designados, como Tecnología de la Información y el departamento de contratación, supervisan la aplicación y el cumplimiento.
- ¿Existen multas específicas por infracciones?
- La página del código municipal no enumera importes concretos para multas; los departamentos establecen recursos administrativos y pueden remitir asuntos para ejecución civil.
- ¿Cómo informo un uso indebido de la IA por parte de la ciudad?
- Informe al Departamento de Tecnología de la Información o a la oficina del City Manager y preserve los registros y las fechas relevantes.
Cómo hacerlo
- Identifique todos los sistemas municipales y los proveedores que usan IA o toma de decisiones automatizada y documente sus propósitos.
- Realice una evaluación de privacidad y riesgos que aborde los flujos de datos, los riesgos de sesgo y los controles de seguridad.
- Envíe divulgaciones de contratación y las certificaciones de seguridad requeridas a la autoridad contratante antes de la adjudicación.
- Implemente supervisión, monitoreo y un plan de remediación para daños identificados.
Puntos clave
- Berkeley exige gobernanza basada en riesgos para ciberseguridad y IA en las operaciones municipales.
- Los departamentos aplican normas; la transparencia del proveedor y las cláusulas contractuales son fundamentales.
- Comuníquese con el Departamento de TI para formularios, informes y orientación de cumplimiento.
Ayuda y apoyo / Recursos
- City of Berkeley Municipal Code - Municode
- City of Berkeley Information Technology Department
- Berkeley Police Department