Reglas de auditoría de ética y sesgo de IA de Naperville

En Naperville, Illinois, los departamentos municipales utilizan cada vez más herramientas algorítmicas y sistemas de decisión automatizados. Esta guía explica cómo las reglas municipales, las prácticas de contratación y los códigos municipales existentes se aplican a las auditorías de ética y sesgo de IA para herramientas usadas por la ciudad, dónde encontrar los requisitos oficiales y pasos prácticos que las agencias y proveedores deben seguir para cumplir.

Alcance y definiciones

Este artículo cubre auditorías de herramientas algorítmicas, conjuntos de datos y modelos suministrados por proveedores utilizados por los departamentos municipales de Naperville para servicios públicos, permisos, análisis de seguridad pública y soporte de decisión interno. "Auditoría de sesgo" significa una evaluación de impactos desiguales, calidad de datos y comportamiento del modelo; "auditoría de ética" incluye gobernanza, transparencia y procesos de responsabilidad.

Requisitos clave y prácticas recomendadas

Naperville aún no publica una ordenanza municipal específica sobre IA; los departamentos deben aplicar las reglas existentes de contratación, no discriminación y registros cuando adquieren u operan herramientas automatizadas. Revise el código municipal primario y las reglas de contratación del departamento para obligaciones aplicables y requisitos de presentación Naperville Municipal Code^[1].

• Documente el propósito de la herramienta, los puntos de decisión y las fuentes de datos usadas en los flujos de trabajo municipales.
• Exija documentación técnica proporcionada por el proveedor e informes de auditoría de terceros cuando los resultados afecten a residentes.
• Incluya cláusulas de auditoría de sesgo y ética en contratos y acuerdos de nivel de servicio durante la contratación.
• Establezca ciclos de revisión regulares (por ejemplo, auditorías anuales o tras actualizaciones importantes del modelo).
• Designe un contacto de cumplimiento departamental y notifique a la oficina de TI de la ciudad para evaluaciones de impacto empresarial City Information Technology^[3].

Sanciones y aplicación

Actualmente no existe una tabla de sanciones específica de Naperville para la IA publicada como una ordenanza separada; por lo tanto, la aplicación se basa en las disposiciones aplicables del código municipal, los recursos contractuales y los procesos administrativos especificados en las regulaciones municipales existentes City Clerk - Municipal Code^[2]. Las multas específicas o sanciones legales para el incumplimiento relacionado con la IA no están especificadas en las páginas citadas.

• Multas monetarias: no especificadas en la página citada; la aplicación puede usar disposiciones generales del código o daños contractuales.
• Escalada: avisos iniciales, remediación obligatoria, violaciones repetidas pueden llevar a la terminación del contrato o remisión a acciones legales; los pasos de escalada exactos no están especificados en la página citada.
• Sanciones no monetarias: órdenes de cumplimiento, suspensión del uso del sistema, restricciones de acceso a datos o suspensión/terminación de contratos.
• Autoridad ejecutora: liderazgo departamental, TI de la ciudad y la Oficina del Fiscal de la Ciudad manejan la aplicación, inspecciones y revisión legal; las quejas pueden dirigirse a los contactos departamentales o al City Clerk.
• Vías de inspección y queja: presente inquietudes al departamento responsable o a la oficina del City Clerk mediante las páginas de contacto oficiales que se enumeran a continuación.
• Apelaciones/revisión: los procedimientos de apelación dependen del instrumento de aplicación (orden administrativa, disputa contractual o aplicación del código); los plazos para apelaciones no están especificados en las páginas citadas.

Solicitudes y formularios

No hay un formulario dedicado de Naperville publicado específicamente para auditorías de ética de IA en los portales municipales. Los departamentos suelen usar formularios de contratación, plantillas de enmienda de contrato y solicitudes de registros. Para acceso oficial al código municipal y ordenanzas, consulte los enlaces del código municipal citados arriba Naperville Municipal Code^[1].

Pasos de acción para departamentos y proveedores

• Incluya requisitos de auditoría en las RFP y contratos especificando alcance, métricas y plazos de remediación.
• Exija auditorías independientes de terceros o autoevaluaciones del proveedor con evidencia verificable.
• Presupueste auditorías y remediación en la planificación de adquisiciones y solicitudes de capital.
• Reporte violaciones o inquietudes al departamento correspondiente usando las páginas de contacto oficiales que se enumeran en Ayuda y Recursos.

FAQ

¿Quién aplica los requisitos de auditoría de IA en Naperville?

El departamento que adquiere u opera la herramienta aplica el cumplimiento, con revisión legal por la Oficina del Fiscal de la Ciudad y asesoría técnica de TI de la ciudad; consulte el código municipal y las páginas departamentales para contactos.

¿Existen multas establecidas por violaciones de sesgo de IA?

Las multas específicas por violaciones relacionadas con la IA no están especificadas en las páginas municipales citadas; la aplicación depende del código existente, los recursos contractuales o las órdenes administrativas.

¿Cómo pueden los residentes reportar inquietudes sobre sistemas de decisión automatizados?

Los residentes deben enviar quejas al departamento de la ciudad correspondiente o a la oficina del City Clerk a través de las páginas de contacto oficiales enumeradas en Ayuda y Recursos.

How-To

1. Identifique el propósito municipal y los puntos de decisión donde se usa la herramienta de IA.
2. Reúna la documentación del modelo, descripciones de datos de entrenamiento y métricas de rendimiento.
3. Contrate a un auditor independiente o ejecute pruebas establecidas de detección de sesgos y elabore un plan de remediación.
4. Implemente la remediación, actualice los contratos y programe reauditorías periódicas.
5. Publique resúmenes y declaraciones de transparencia según lo permitan las reglas de contratación y registros.

Conclusiones clave

• Naperville se basa en marcos de contratación y códigos existentes para auditorías de IA; no se han publicado ordenanzas dedicadas.
• Incluya cláusulas de auditoría y requisitos de documentación en los contratos para garantizar la aplicabilidad.
• Contacte a TI de la ciudad o al departamento que realiza la contratación desde el inicio para alinear requisitos técnicos y legales.

Ayuda y soporte / Recursos

• City Clerk - Municipal Code
• City Information Technology Department
• City of Naperville Finance & Procurement

1. [1] Naperville Municipal Code - Code of Ordinances
2. [2] City of Naperville - City Clerk Municipal Code
3. [3] City of Naperville - Information Technology Department