Ordenanza de Chicago sobre auditorías éticas y de sesgo de IA

Chicago, Illinois exige que las agencias municipales evalúen y auditen los sistemas de decisión automatizada utilizados para servicios municipales. Este artículo resume las obligaciones típicas para revisiones éticas y de sesgo, dónde encontrar las normas oficiales y cómo los departamentos implementan auditorías, informes y obligaciones de registro público para herramientas de la ciudad.

Ámbito y definiciones

Los sistemas automatizados de decisión municipal o herramientas de IA suelen incluir software que toma o ayuda a tomar decisiones sobre servicios de la ciudad, beneficios, cumplimiento, licencias o empleo. Las normas municipales suelen requerir un inventario, una evaluación de impacto previa al despliegue, auditorías periódicas de sesgo y divulgaciones públicas para los sistemas cubiertos.

La supervisión primaria y la orientación técnica la administra el Departamento de Innovación y Tecnología de la Ciudad de Chicago (DoIT). Consulte la página informativa y de orientación de la ciudad sobre Sistemas de Decisión Automatizada para detalles del programa^[1].

Pasos requeridos de cumplimiento

• Crear y mantener un inventario de los sistemas automatizados de decisión cubiertos y de los componentes algorítmicos principales.
• Completar una evaluación de impacto previa al despliegue que describa el propósito, las entradas de datos, las salidas y las poblaciones afectadas.
• Programar auditorías de sesgo internas o independientes en intervalos regulares y tras actualizaciones importantes.
• Publicar los resúmenes requeridos o entradas de registro para los sistemas cubiertos en un portal público.
• Responder a solicitudes de registros públicos y proporcionar documentación de transparencia según lo exija la política de la ciudad.

Se espera que los departamentos de la ciudad coordinen con DoIT sobre estándares técnicos, umbrales de riesgo y medidas de mitigación aceptables; DoIT proporciona plantillas y orientación sobre la implementación^[3].

Sanciones y ejecución

La ejecución generalmente la gestiona la Ciudad de Chicago a través del departamento responsable del sistema cubierto con apoyo técnico de DoIT y con supervisión según la ordenanza o las autoridades del código municipal. Cuando la ordenanza o la guía enumeran sanciones civiles específicas, remítase a las páginas oficiales citadas para conocer las cantidades; si la página citada no indica montos de multas, se indica a continuación.

• Ejecutor: Departamento de Innovación y Tecnología (supervisión técnica) y el departamento que opera el sistema. Para información del programa consulte las páginas de Sistemas de Decisión Automatizada de la ciudad^[1].
• Multas monetarias: no especificado en la página citada^[2].
• Escalada: la ordenanza o la guía pueden prever una ejecución progresiva para infracciones iniciales, repetidas o continuas; los montos y rangos específicos de escalada no están especificados en la página citada^[2].
• Sanciones no monetarias: órdenes de corrección, suspensión del uso del sistema, auditorías de remediación obligatorias y acciones judiciales son posibles remedios según los procedimientos municipales o las normas del departamento; las sanciones exactas varían según el instrumento y no están totalmente enumeradas en la página citada^[2].
• Inspecciones y quejas: las quejas y las consultas de supervisión se canalizan a través de DoIT y el departamento operador; DoIT mantiene páginas de contacto y del programa para informes y orientación^[3].
• Apelaciones y revisión: las vías de apelación y los plazos legales para revisión administrativa o apelación judicial no están especificados en la página citada y pueden regirse por reglas de procedimiento administrativo separadas o por el código municipal^[2].

Solicitudes y formularios

Los formularios específicos para el registro del sistema, evaluaciones de impacto o informes de auditoría pueden ser proporcionados por DoIT o por el departamento operador; las páginas públicas citadas no enumeran un nombre de formulario consolidado ni un calendario de tarifas, por lo tanto, los números de formulario y tarifas específicos no están especificados en las páginas citadas^[1][2].

Pasos de acción para departamentos y proveedores

• Inventario: identifique todos los sistemas que cumplan la definición municipal y regístrelos en el inventario del departamento.
• Evaluar: complete una evaluación de impacto previa al despliegue por escrito y conserve los datos subyacentes utilizados para la evaluación.
• Auditar: programe y documente auditorías de sesgo; contrate revisores independientes cuando sea necesario.
• Remediar: implemente medidas de mitigación, documente los resultados y actualice los resúmenes públicos.
• Contacto: coordine con DoIT para plantillas, informes y preguntas técnicas^[3].

Preguntas frecuentes

¿Qué herramientas municipales están cubiertas?

Las herramientas que automatizan o influyen sustancialmente en las decisiones de la ciudad que afectan beneficios, licencias, cumplimiento o empleo suelen estar cubiertas; consulte la guía de DoIT para definiciones y umbrales.

¿Quién hace cumplir el cumplimiento?

La ejecución se coordina por el departamento operador con supervisión técnica de DoIT; los mecanismos específicos de ejecución se establecen en la ordenanza y las normas departamentales.

¿Hay multas o tarifas publicadas?

Las multas monetarias y los calendarios de tarifas no están especificados en las páginas municipales citadas; consulte el código municipal o las normas del departamento para cualquier cantidad publicada.

Cómo hacerlo

1. Identifique sistemas: identifique cualquier sistema automatizado de decisión en su unidad y registre su propósito, entradas de datos y partes interesadas.
2. Complete la evaluación: complete la plantilla de evaluación previa al despliegue o documentación equivalente y envíela a DoIT o a la oficina de revisión designada.
3. Programe una auditoría: programe una revisión interna o contrate a un auditor independiente aprobado y documente los hallazgos y mitigaciones.
4. Publique el registro: publique las entradas requeridas en el registro y mantenga los resúmenes de transparencia en el portal público.
5. Responda a quejas: si recibe una queja o un aviso de inspección, proporcione la documentación completa y responda dentro de los plazos departamentales.

Puntos clave

• Documente desde el inicio: las auditorías son más sencillas con registros completos de diseño y datos.
• Coordine con DoIT para plantillas y orientación técnica.
• Las entradas de registro público y las evaluaciones de impacto aumentan la transparencia y la confianza.

Ayuda y soporte / Recursos

• City of Chicago - Department of Innovation and Technology
• City Clerk - Ordinances and Records
• Office of Inspector General - City of Chicago

1. [1] City of Chicago Automated Decision Systems guidance
2. [2] Chicago municipal code - library.municode.com
3. [3] City of Chicago - Department of Innovation and Technology