Reglas de auditoría de ética y sesgo de IA de Glendale - Ordenanzas municipales
En Glendale, California, los funcionarios municipales evalúan cada vez más cómo se usa la inteligencia artificial (IA) en las herramientas y servicios de la ciudad. Esta guía explica dónde buscar ordenanzas vinculantes, qué esperar de las auditorías de ética y sesgo, quién aplica el cumplimiento y pasos prácticos que deben seguir los contratistas y departamentos para reducir el riesgo legal y operativo.
Sanciones y Aplicación
No se localiza una ordenanza explícita sobre ética de IA o auditorías de sesgo en el código municipal de Glendale en esta revisión [1]. Cuando el código o las reglamentaciones administrativas no establecen sanciones específicas, la aplicación suele basarse en las normas existentes de contratación, privacidad, no discriminación y conducta profesional. Se debe verificar el código municipal y las reglamentaciones administrativas oficiales para actualizaciones antes de actuar.
- Multas: no especificado en la página citada.
- Escalado: no se especifican en la página citada los rangos para infracciones iniciales, repetidas o continuas.
- Sanciones no monetarias: órdenes administrativas, recursos contractuales, suspensión o terminación de contratos de la ciudad y remisión a tribunales o al Fiscal de la Ciudad pueden aplicarse, pero los montos y procedimientos no están especificados en la página citada.
- Organismo aplicador: la responsabilidad de la aplicación no figura como una oficina dedicada a la IA en la página citada; los asuntos suelen ser manejados por el Fiscal de la Ciudad, los oficiales de Contratación/Contratos o el departamento que opera la herramienta.
- Apelaciones y revisión: las rutas de apelación formal y los plazos legales no están especificados en la página citada; las partes afectadas deben consultar al Fiscal de la Ciudad o los procedimientos administrativos publicados para conocer los plazos.
- Defensas y discreción: no se detallan expresamente en la página citada las defensas o variantes permitidas; la excusa razonable, los planes de acción correctiva y las medidas de mitigación demostrables son bases habituales para solicitar discreción.
Solicitudes y Formularios
No se publica en la página del código municipal un formulario específico titulado para auditorías de ética o sesgo de IA; los formularios de contratación o cumplimiento específicos pueden estar disponibles a través de la oficina de contratación del departamento o de la oficina legal.
Alcance de los Elementos de Auditoría Típicos
Cuando los municipios adoptan procedimientos de auditoría de IA, las auditorías suelen revisar la procedencia de los datos, la representatividad de los datos de entrenamiento, la desagregación del rendimiento por clases protegidas, las medidas documentadas de mitigación de riesgos, la supervisión humana y la transparencia del proveedor. Los departamentos de Glendale deben integrar estos elementos en los contratos de contratación y las políticas internas.
- Conservación de registros de datos y registros de acceso.
- Informes de pruebas de sesgo y métricas de rendimiento desagregadas por grupo demográfico.
- Declaraciones del proveedor y documentación de actualizaciones del modelo y control de cambios.
- Planes de acción correctiva y cronogramas para problemas identificados.
Violaciones Comunes
- No documentar o conservar los datos de entrenamiento y los registros de auditoría.
- Falta de informes de rendimiento demográfico o pruebas demostrables de sesgo.
- No cumplimiento de las cláusulas de contratación que exigen auditorías de terceros.
Preguntas Frecuentes
- ¿Tiene Glendale una ordenanza que exija auditorías de ética o sesgo de IA para las herramientas de la ciudad?
- No se localiza una ordenanza específica sobre ética de IA o auditorías de sesgo en el código municipal de Glendale en esta revisión. [1]
- ¿Quién aplica el cumplimiento si una herramienta municipal muestra resultados sesgados?
- La aplicación suele ser gestionada por el Fiscal de la Ciudad, el departamento contratante o los funcionarios de contratación; las vías de aplicación específicas para la IA no están especificadas en la página citada.
- ¿Dónde presentan los contratistas materiales de cumplimiento o solicitudes de exención?
- Los puntos de presentación suelen ser el oficial de contratación identificado en el documento de contratación o el departamento que emitió el contrato; no se publica un formulario independiente de auditoría de IA en la página del código municipal.
Cómo hacerlo
- Identifique si su sistema es propiedad de la ciudad o un servicio proporcionado por un proveedor y revise los términos contractuales aplicables.
- Reúna la documentación de los datos de entrenamiento, los registros de cambios del modelo y las métricas de rendimiento desagregadas por grupos relevantes.
- Encargue o realice pruebas de sesgo y documente los planes de acción correctiva con plazos.
- Remita los hallazgos al oficial de contratación y, si el contrato lo requiere, al Fiscal de la Ciudad para revisión.
- Si se propone una medida de ejecución, siga los procedimientos de apelación publicados o solicite una revisión administrativa por escrito al Fiscal de la Ciudad.
Puntos Clave
- Glendale no tiene una ordenanza de auditoría de IA claramente publicada en el código municipal en esta revisión.
- Las cláusulas de contratación y de contrato son la vía práctica para exigir auditorías y remediación.
- Contacte al Fiscal de la Ciudad o al oficial de contratación desde el inicio al desplegar sistemas nuevos de IA.
Ayuda y Recursos
- Fiscal de la Ciudad, City of Glendale
- División de Tecnología de la Información, City of Glendale
- Contratación y Contratos, City of Glendale