Reglas municipales de ética y auditoría de IA en Simi Valley
Simi Valley, California utiliza las normas municipales existentes y procesos administrativos para gestionar la contratación, el manejo de datos y la responsabilidad de los sistemas de decisión automatizada. Esta guía explica cómo los departamentos de la ciudad suelen abordar la ética de la IA y las auditorías de sesgo, qué oficinas hacen cumplir el cumplimiento, qué sanciones pueden aplicarse y los pasos prácticos que departamentos y proveedores deben seguir para documentar, auditar y remediar resultados sesgados en las herramientas de la ciudad.
Alcance y Definiciones
Este artículo interpreta las responsabilidades municipales para los sistemas automatizados de decisión implementados por la ciudad, incluidas las herramientas algorítmicas usadas para permisos, licencias, priorización de servicios y aplicaciones orientadas al público. Cuando Simi Valley aún no ha adoptado ordenanzas específicas sobre IA, se aplican el código municipal y los procedimientos de cumplimiento de código existentes a la contratación, la privacidad de datos y las obligaciones de no discriminación. Para referencias del código municipal consulte el repositorio del código de la ciudad Municipal Code[1] y los recursos de cumplimiento de códigos Code Compliance de Simi Valley[2].
Sanciones y Aplicación
Debido a que Simi Valley no ha publicado una ley de IA independiente en las páginas municipales citadas, la aplicación sigue los procedimientos generales de cumplimiento de código y administrativos para contratos municipales, molestias o violaciones de ordenanzas de la ciudad. Los montos exactos de las multas o los calendarios para infracciones relacionadas con la IA no están detallados en las páginas citadas; consulte el código municipal citado para los capítulos aplicables o los recursos contractuales.
- Multas y sanciones monetarias: no especificado en la página citada; las multas por infracciones relacionadas con ordenanzas están regidas por el código municipal o los términos contractuales.
- Escalamiento: las infracciones iniciales, repetidas y continuas se tramitan según los procedimientos generales de cumplimiento de código o las disposiciones de subsanación/incumplimiento del contrato; el escalamiento específico para herramientas de IA no está especificado en las páginas citadas.
- Sanciones no monetarias: órdenes de cese de trabajo, desactivación de la herramienta, órdenes de acción correctiva o derivación al City Attorney para medidas cautelares pueden aplicarse bajo la autoridad general de aplicación.
- Organismo aplicador: Code Compliance y el departamento correspondiente (por ejemplo, Desarrollo Comunitario, Compras o la Oficina del City Attorney) gestionan investigaciones y aplicación; las quejas pueden presentarse mediante la página de contacto de Code Compliance.
- Vías de inspección y queja: las quejas públicas y las revisiones departamentales proceden a través de la recepción de Code Compliance y los procesos de investigación departamental descritos en el sitio municipal.
Apelación, Revisión y Plazos
Las páginas municipales referenciadas no especifican plazos de apelación específicos para la IA; las apelaciones por cumplimiento de código o decisiones administrativas siguen los procedimientos del código municipal o las reglas departamentales y pueden requerir la presentación dentro de plazos estatutarios u ordenanza, los cuales no están especificados en la página citada.
Defensas y Discreción
Las defensas comunes incluyen la prueba de esfuerzos razonables, el cumplimiento de los términos del contrato, planes de remediación activos o la confianza en permisos o exenciones aprobadas. Cuando la ciudad tiene términos contractuales que asignan riesgos, esas disposiciones contractuales rigen los recursos; las exenciones específicas de IA o defensas estatutarias no están especificadas en las páginas citadas.
Violaciones Comunes
- Uso no divulgado de herramientas de decisión automatizada en servicios públicos.
- Falta de realización de auditorías de sesgo o incumplimiento de planes de acción correctiva.
- Incumplimiento en el manejo, retención o solicitudes de registros públicos.
- Despliegue de herramientas que generan resultados discriminatorios sin mitigación.
Aplicaciones y Formularios
No se identificó en las páginas municipales citadas un formulario de solicitud específico para auditorías de IA; los departamentos suelen aceptar documentación como parte de la contratación, entregables del contrato o respuestas de cumplimiento de código. Para procedimientos y formularios formales relacionados con cumplimiento de código o permisos, consulte el código municipal y las páginas departamentales citadas anteriormente.
Preguntas Frecuentes
- ¿Quién aplica la ética y las auditorías de sesgo de IA en las herramientas de la ciudad de Simi Valley?
- La aplicación se gestiona a través de Code Compliance, el departamento responsable y la oficina del City Attorney; las funciones específicas de aplicación para IA se describen en las páginas municipales citadas.
- ¿Existen multas establecidas por resultados sesgados de herramientas de IA de la ciudad?
- Las multas específicas por resultados sesgados relacionados con la IA no están especificadas en las páginas municipales citadas; las sanciones seguirían las secciones aplicables del código municipal o los recursos contractuales.
- ¿Cómo puede un residente informar preocupaciones sobre un sistema de decisión automatizado?
- Presente una queja ante Code Compliance o el departamento que opera el servicio usando los canales oficiales de contacto en el sitio web de la ciudad; consulte la página de contacto de Code Compliance para detalles de envío.
Cómo hacer
- Identifique la herramienta, las fuentes de datos, los puntos de decisión y los responsables.
- Realice una auditoría de sesgo documentada que incluya conjuntos de datos, métricas y análisis de impacto; conserve registros para la revisión.
- Implemente medidas de mitigación y actualice la herramienta o los procesos; registre los plazos y las partes responsables.
- Si no se resuelve, presente el asunto en Code Compliance o en el departamento pertinente y siga las rutas de apelación administrativas.
Conclusiones clave
- El código municipal y los recursos contractuales existentes rigen las herramientas de IA hasta que se adopten ordenanzas específicas.
- Code Compliance y el departamento operador son los contactos primarios de aplicación.
- Las auditorías de sesgo documentadas y los planes de remediación son esenciales para reducir el riesgo de sanciones.
Ayuda y Soporte / Recursos
- City Clerk - Ordinances
- Municipal Code (Municode)
- Community Development - Planning & Building
- Code Compliance