Guía de auditoría de sesgo de IA de la ciudad de Cincinnati
Esta guía explica cómo las autoridades y el personal de Cincinnati, Ohio deben abordar las auditorías de sesgo de IA para herramientas de decisión de la ciudad, qué reglas y departamentos oficiales consultar y pasos prácticos para reducir resultados discriminatorios. Resume referencias del código municipal aplicable, contactos de contratación y relaciones humanas, vías de aplicación y acciones recomendadas para oficinas municipales que implementan sistemas de decisión automatizados.
Marco legal y fuentes oficiales
Las normas municipales que inciden en la toma de decisiones automatizada incluyen el Código de Ordenanzas de Cincinnati (código municipal) y las políticas departamentales de adquisiciones y no discriminación. Para el texto de las ordenanzas y secciones del código, consulte el publicador del código de la ciudad y las reglas municipales de compras para requisitos de contratación y obligaciones de contratistas [1]. Para discriminación, recepción de quejas y aplicación relacionada con programas de la ciudad, comuníquese con la Comisión de Relaciones Humanas o la oficina equivalente [2]. Para contratación y reglas que afectan las obligaciones de los proveedores sobre auditorías o evaluaciones de equidad, consulte las páginas de la oficina de compras de la ciudad [3].
Evaluación de herramientas y alcance
Defina el inventario de herramientas de decisión, las fuentes de datos, las decisiones afectadas y las poblaciones impactadas. Los elementos habituales de la evaluación incluyen procedencia de datos, rendimiento por subgrupos, análisis de errores y documentación de gobernanza y uso previsto.
- Inventariar fuentes de datos y versiones de modelos.
- Ejecutar métricas de rendimiento por subgrupos y pruebas de impacto dispar.
- Documentar gobernanza, flujos de datos y controles con intervención humana.
Sanciones y aplicación
No existe una ordenanza municipal única que prescriba multas específicamente por sesgo de IA en herramientas de decisión municipales; las sanciones y la aplicación derivan de las disposiciones existentes del código municipal sobre discriminación, incumplimiento de adquisiciones y recursos contractuales. Las cantidades específicas de multa o sanciones legales para auditorías de sesgo de IA o resultados sesgados no están especificadas en las páginas citadas [1].
- Multas monetarias: no especificado en la página citada.
- Sanciones no monetarias: recursos contractuales, órdenes correctivas, suspensión de adjudicaciones o remisión al Departamento de Derecho o a los tribunales (no especificado con precisión en las páginas citadas).
- Autoridades ejecutoras: la Comisión de Relaciones Humanas para quejas por discriminación y el Departamento de Derecho de la Ciudad o Compras para violaciones contractuales y de adquisiciones [2][3].
- Vías de inspección y queja: presentar una queja por discriminación o por adquisiciones a través de las páginas de contacto departamentales listadas en Recursos.
- Apelaciones y revisiones: las rutas de apelación dependen de la oficina ejecutora y no están especificadas en las páginas citadas; los plazos y procedimientos los establece el departamento correspondiente o el texto de la ordenanza.
Solicitudes y formularios
No hay un formulario municipal exclusivo publicado para auditorías de sesgo de IA en las páginas citadas de adquisiciones o del código municipal; los procedimientos de cumplimiento suelen usar formularios estándar de adquisiciones o de quejas que mantiene la oficina de compras o la oficina de relaciones humanas, según corresponda [3][2].
Pasos de acción para funcionarios
- Adoptar un alcance y calendario documentado para cada sistema de decisión automatizado.
- Exigir a los proveedores documentación del modelo, rendimiento desagregado por clases protegidas y planes de mitigación.
- Establecer un ritmo de revisión regular y conservación de registros de auditoría para supervisión.
- Proporcionar canales claros de queja e informe a residentes afectados.
Preguntas frecuentes
- ¿Qué leyes se aplican a resultados sesgados de herramientas de decisión de la ciudad?
- Las ordenanzas municipales generales de no discriminación y las reglas de adquisiciones se aplican; no hay una multa única específica sobre IA listada en las publicaciones del código citadas aquí [1][3].
- ¿Quién investiga las quejas de discriminación vinculadas a decisiones automatizadas?
- La Comisión de Relaciones Humanas o la oficina de la ciudad responsable de derechos civiles y de investigaciones de discriminación maneja las quejas relacionadas con impactos discriminatorios de programas de la ciudad [2].
- ¿Existen requisitos publicados para auditorías de proveedores?
- Las obligaciones del proveedor se establecen típicamente en documentos de adquisición y contratos; no hay formularios específicos de auditoría de IA publicados en las páginas de adquisiciones citadas [3].
Cómo hacerlo
- Mapear puntos de decisión e identificar sistemas que afectan materialmente a residentes.
- Recolectar datos, etiquetar atributos protegidos y ejecutar análisis de rendimiento por subgrupos.
- Documentar hallazgos, mitigaciones recomendadas y cronograma de remediación.
- Incluir obligaciones de auditoría y monitoreo en contratos de proveedores y documentos de adquisición.
- Publicar resúmenes y procedimientos de queja para las comunidades afectadas.
Puntos clave
- No existe un calendario municipal único de multas por IA; la aplicación recurre al código y a los recursos contractuales existentes.
- Los contratos de adquisición son el mecanismo principal para exigir auditorías, documentación y remediación a proveedores.
Ayuda y soporte / Recursos
- Comisión de Relaciones Humanas de la Ciudad de Cincinnati
- Código de Ordenanzas de Cincinnati (código municipal)
- División de Compras de la Ciudad de Cincinnati