Política municipal de ética IA y auditoría de sesgos en Oxnard
Esta guía explica cómo Oxnard, California regula el uso de sistemas de decisión automatizados para herramientas municipales, incluidas exigencias de ética, auditorías de sesgo, transparencia, conservación de registros y presentación de denuncias. El código municipal y los recursos de cumplimiento del municipio rigen la aplicación y las quejas; consulte la referencia al código municipal a continuación.[1]
Alcance y requisitos
La política municipal se aplica a cualquier software, algoritmo o herramienta de decisión automatizada utilizado por un departamento de la ciudad que afecte a residentes, beneficios, aplicación o prestación de servicios. Los requisitos clave suelen incluir auditorías periódicas de sesgo, informes de transparencia públicos, flujos de aprobación definidos, minimización de datos y responsabilidad del proveedor. Los departamentos deben documentar evaluaciones y conservar registros de acuerdo con las normas municipales de archivos.
Sanciones y aplicación
La autoridad de aplicación corresponde a Cumplimiento del Código (Code Enforcement) y al Fiscal de la Ciudad (City Attorney), con supervisión operativa por el departamento pertinente (por ejemplo, Planificación, Policía o Finanzas según la herramienta). Cuando se requieren importes específicos de sanciones o calendarios, se proporcionan en el código municipal o en procedimientos departamentales.
- Multas: no especificado en la página citada.
- Escalamiento: no especificado en la página citada; los departamentos pueden aplicar medidas progresivas para infracciones repetidas o continuas.
- Sanciones no monetarias: órdenes de cese de uso, retirada de herramientas de producción, mandatos de auditoría correctiva y remisión a procedimientos civiles o penales cuando proceda.
- Organismo aplicador y denuncias: Cumplimiento del Código gestiona la recepción de cumplimiento y el Fiscal de la Ciudad gestiona la aplicación legal.[2]
- Recursos y revisiones: las vías de apelación suelen incluir audiencias administrativas seguidas de revisión judicial; los plazos específicos no están indicados en la página citada.
- Defensas o discreción: los departamentos pueden considerar permisos, exenciones o excusas razonables documentadas; la discreción final suele corresponder al departamento aplicador o al Fiscal de la Ciudad.
Solicitudes y formularios
Cuando se requieren formularios o permisos para la aprobación de una herramienta automatizada, la ciudad los publica a través del departamento responsable. Las páginas públicas del departamento no publican un formulario único consolidado para la aprobación de IA; consulte el contacto del departamento para detalles sobre la aplicación y la presentación.
Lista de cumplimiento
- Realizar una evaluación inicial de sesgo e impacto antes del despliegue.
- Preparar una declaración de transparencia que describa el propósito, las entradas de datos y los impactos de decisión.
- Programar auditorías periódicas de sesgo y actualizar registros según las normas de conservación departamentales.
- Proporcionar una vía pública de denuncia y reparación para residentes afectados.
Preguntas frecuentes
- ¿Qué desencadena una auditoría de sesgo para una herramienta municipal?
- Por lo general, se requiere una auditoría para cualquier sistema de decisión automatizada que afecte materialmente a residentes, elegibilidad, aplicación o beneficios públicos; los departamentos deben seguir los procedimientos de evaluación publicados.
- ¿Cómo pueden los residentes presentar preocupaciones o presentar una denuncia?
- Los residentes pueden presentar denuncias ante Cumplimiento del Código o el departamento responsable utilizando las vías y páginas de contacto municipales indicadas en Ayuda y Recursos.
- ¿Están exentos los modelos propietarios de los proveedores?
- No; los proveedores deben facilitar documentación suficiente para auditorías y transparencia, respetando reclamaciones legítimas de confidencialidad sujetas a revisión municipal.
Cómo hacerlo
- Determinar alcance: identifique si la herramienta está dentro del alcance revisando su impacto decisional y la población de usuarios.
- Evaluar y presentar: complete una evaluación de impacto y presente la documentación requerida al responsable departamental para su aprobación.
- Auditar y remediar: coordine una auditoría de sesgo independiente o interna según la política departamental y remedie los riesgos identificados.
- Publicar y conservar: publique las divulgaciones de transparencia requeridas y conserve los registros el tiempo que indiquen las normas de archivos municipales.
- Responder a denuncias: responda a las denuncias de residentes con prontitud y siga los procedimientos de apelación si se impugna la acción de ejecución.
Puntos clave
- Oxnard exige revisiones éticas y auditorías de sesgos para sistemas automatizados usados por la ciudad.
- La aplicación implica a Cumplimiento del Código y al Fiscal de la Ciudad; las multas o plazos exactos no están indicados en las páginas citadas.
Ayuda y soporte / Recursos
- City of Oxnard Municipal Code - Library
- City of Oxnard - Code Enforcement
- City of Oxnard - Planning and Building
- City of Oxnard - City Clerk