Directrices de IA y Requisitos de Auditoría de Sesgo de Aurora
Aurora, Illinois está utilizando cada vez más herramientas automatizadas en los servicios de la ciudad. Esta guía explica cómo las normas municipales, las prácticas de contratación y la supervisión de tecnología de la información afectan las directrices de IA y los requisitos de auditoría de sesgo para las herramientas adquiridas u operadas por la Ciudad de Aurora. Resume dónde se publican las normas, quién las hace cumplir, los pasos comunes de cumplimiento y cómo informar preocupaciones o apelar decisiones. Cuando las multas, los plazos o los números de formulario exactos no se publican en las páginas oficiales citadas, el texto lo indica y enlaza las fuentes municipales de control para que pueda verificar el instrumento vigente y sus actualizaciones.
Ámbito y Aplicabilidad
Estos requisitos suelen aplicarse a sistemas de IA utilizados o adquiridos por los departamentos de Aurora para servicios de cara al público, toma de decisiones internas o sistemas suministrados por proveedores que afectan materialmente a residentes. La aplicabilidad la determina el departamento adjudicador, normalmente Compras o Tecnología de la Información, y el código municipal o las normas de contratación pertinentes referenciadas durante la solicitud y el contrato.[1]
Elementos clave de cumplimiento
- Cláusulas contractuales que exigen auditorías de sesgo proporcionadas por el proveedor y documentación del modelo.
- Políticas de manejo y conservación de datos para datos de entrenamiento e inferencia.
- Planes de auditoría interna o de terceros independientes para modelos de alto riesgo.
- Cronogramas de revisión definidos (inicial, periódica y monitoreo post-despliegue).
- Contactos departamentales designados para reportar problemas o solicitar exenciones.
Multas y Aplicación
La responsabilidad de la aplicación suele recaer en el departamento que adjudicó o opera el sistema, comúnmente la División de Tecnología de la Información o Compras/Finanzas, con supervisión del City Manager o del City Attorney para cumplimiento legal. La Ciudad de Aurora aplica las disposiciones del código municipal y los términos contractuales; los importes concretos de sanción y los procedimientos de escalada se documentan en la ordenanza de control, el contrato o las normas de contratación cuando están publicados.[1][2]
- Importes de multas: no especificados en la página citada.
- Escalada: rangos para infracciones iniciales/reincidentes/continuas no especificados en la página citada.
- Sanciones no monetarias: terminación de contrato, órdenes de remediación, mitigación obligatoria y prohibición de uso son remedios típicos bajo normas de contratación municipal; las órdenes específicas están gobernadas por el contrato y el código municipal citado en la adquisición.[2]
- Vías de inspección y queja: las quejas deben presentarse ante el departamento que emitió la contratación o ante el City Clerk; consulte las páginas de contacto departamentales para el procedimiento de envío.[3]
- Apelaciones y revisión: las rutas de apelación dependen del contrato o la ordenanza subyacente; los plazos para apelar no están especificados en la página citada y deben confirmarse en el documento de contratación o la ordenanza de control.[2]
Solicitudes y Formularios
La Ciudad publica materiales de contratación y registro de proveedores a través de sus páginas de Compras/Finanzas y publica ordenanzas a través del City Clerk o el editor del código municipal. Los nombres de formularios específicos, números, tasas y plazos para envíos de auditoría de sesgo de IA no están publicados en las páginas citadas; póngase en contacto con Compras o Tecnología de la Información para la documentación de proveedores vigente y las instrucciones de envío.[2][3]
Cómo suelen exigir los departamentos las auditorías de sesgo
- Inclusión de cláusulas de auditoría y transparencia en las RFP y contratos.
- Documentación técnica suministrada por el proveedor, evaluaciones de riesgo y resultados de pruebas.
- Planes de monitoreo post-despliegue y reevaluaciones programadas.
Preguntas frecuentes
- ¿Quién hace cumplir los requisitos de IA y auditoría de sesgo en Aurora?
- La autoridad de aplicación es el departamento que contrata u opera el sistema (comúnmente Compras o Tecnología de la Información), con supervisión legal del City Attorney; los detalles de contacto están en el sitio web de la Ciudad.[2]
- ¿Existen multas establecidas por incumplimiento?
- Los importes específicos de las multas no están especificados en las páginas citadas; las multas y remedios dependen del código municipal o los términos contractuales publicados en la ordenanza de control o en los documentos de contratación.
- ¿Cómo informo una preocupación sobre una herramienta de IA usada por la ciudad?
- Informe problemas al departamento operador o presente una queja a través del City Clerk o la página de contacto del departamento; consulte la sección de Ayuda y Recursos para los enlaces.
Cómo hacerlo
- Identifique si la herramienta de IA es operada por la ciudad o suministrada por un proveedor y determine el departamento contratante.
- Solicite los documentos de la contratación o el contrato que rigen el sistema para localizar la ordenanza de control, las condiciones y los requisitos publicados.
- Prepare un alcance de auditoría de sesgo: describa el propósito del modelo, las fuentes de datos, las métricas de rendimiento y los impactos potenciales.
- Envíe la documentación requerida con las respuestas de la contratación o al departamento operador según lo indicado en la solicitud o el contrato.
- Si descubre incumplimiento, presente una queja ante el departamento operador y el City Clerk y siga los procedimientos de apelación publicados en el documento de control.
Conclusiones clave
- Incluya requisitos de auditoría de sesgo en las RFP y contratos desde el inicio.
- Verifique las multas, plazos y formularios exactos en la ordenanza o los documentos de contratación de control.
Ayuda y Soporte / Recursos
- City of Aurora Municipal Code and Ordinances
- City of Aurora Purchasing / Procurement
- City of Aurora Information Technology Division