Ética de IA y auditoría de sesgo - Política de Colorado Springs
Colorado Springs, Colorado está evaluando cómo la municipalidad utiliza la inteligencia artificial (IA) en adquisiciones y operaciones para limitar resultados sesgados y asegurar un diseño y despliegue éticos. Esta guía resume los materiales públicos actuales de la ciudad, cómo se manejarían las auditorías o revisiones bajo los procesos municipales existentes, y pasos prácticos para el personal de la ciudad, proveedores y residentes preocupados por decisiones impulsadas por IA. Para el texto legal primario sobre las facultades municipales y la estructura del código, consulte el Código de Ordenanzas de la Ciudad.[1]
Ámbito y aplicabilidad
Actualmente no existe una ordenanza municipal única titulada "Ética de IA" ni un mandato explícito de auditoría en el código municipal consolidado; la orientación y supervisión recae en la adquisición de tecnología, gobernanza de datos y políticas departamentales. Los departamentos de la ciudad que adquieren u operan sistemas de decisión automatizada deben tratar las auditorías como parte de la adquisición, privacidad y revisiones de registros.
Multas y aplicación
Debido a que Colorado Springs no ha publicado una ordenanza específica de auditoría de IA en el código municipal, las multas monetarias y la escalada formal vinculadas específicamente a auditorías de ética de IA no están establecidas en una sección única del Código de Ordenanzas. El código municipal y las reglas departamentales de adquisiciones pueden proporcionar autoridad general de aplicación para el incumplimiento contractual, violaciones de adquisiciones o incumplimiento de las leyes de registros, pero los montos exactos de las multas y la estructura de escalada por fallas en auditorías de IA no están especificados en la página citada.[1]
Los elementos clave de aplicación y proceso que se deben confirmar con las oficinas responsables incluyen:
- Aplicador: probablemente el Departamento de Tecnología de la Información de la Ciudad en coordinación con Adquisiciones y el Abogado de la Ciudad para recursos contractuales y legales.
- Inspección y cumplimiento: las auditorías o revisiones suelen ser realizadas por el personal de TI de la ciudad, auditores externos contratados por la ciudad o por un oficial de cumplimiento asignado.
- Montos de multas: no especificados en la página citada.
- Escalada: procedimientos para primera, repetida o continuada falta no están especificados para auditorías de IA en las páginas citadas.
- Sanciones no monetarias: terminación de contrato, planes de acción correctiva, inhabilitación en adquisiciones y acciones judiciales conforme a las disposiciones generales de adquisiciones o registros de la ciudad.
- Vías de denuncia: presente quejas de adquisiciones o preocupaciones tecnológicas ante la Oficina de Adquisiciones y el Departamento de Tecnología de la Información; consulte Ayuda y Recursos abajo para contactos oficiales.
Solicitudes y formularios
No existe un formulario publicado por la ciudad dedicado a "auditoría de IA" actualmente listado en el código municipal o en las páginas públicas de adquisiciones; los departamentos solicitan auditorías a través de procesos de contratación o flujos de revisión interna según sea necesario.[1]
Pasos recomendados para cumplimiento por departamentos y proveedores
- Incluya requisitos de auditoría de ética y sesgo en RFP y contratos para sistemas de IA, con alcance, entregables y plazos.
- Documente conjuntos de datos, versiones de modelos, procedencia del entrenamiento y métricas de evaluación como parte de los registros de adquisición.
- Programe auditorías periódicas (diseño, predespliegue y posdespliegue) y conserve resultados para retención de registros y transparencia.
- Exija a los proveedores planes de remediación cuando se detecten problemas de sesgo o seguridad.
Violaciones comunes
- Falta de documentación de conjuntos de datos y supuestos del modelo.
- Omitir pruebas independientes de sesgo durante la adquisición.
- Incumplimiento de entregables de auditoría contractuales.
FAQ
- ¿Quién aplica los requisitos de ética de IA en la ciudad?
- El Departamento de Tecnología de la Información, la Oficina de Adquisiciones y el Abogado de la Ciudad manejan típicamente la supervisión y aplicación en adquisiciones tecnológicas y cumplimiento contractual.
- ¿Existen multas por fallar una auditoría de sesgo de IA?
- Los montos específicos de multas vinculadas únicamente a auditorías de IA no están especificados en las páginas municipales citadas; la aplicación dependía de recursos contractuales o disposiciones del código existente.[1]
- ¿Cómo puede un residente denunciar una decisión automática sesgada?
- Denuncie las preocupaciones al Departamento de Tecnología de la Información y al departamento de servicio correspondiente; consulte Ayuda y Recursos para contactos oficiales.
Cómo
- Identifique el sistema y reúna evidencia del resultado o decisión que considera sesgada.
- Contacte al departamento que emitió la decisión y al Departamento de Tecnología de la Información para solicitar una revisión.
- Solicite el contrato de adquisición, la documentación del modelo y cualquier informe de auditoría relacionado con el sistema.
- Si no se resuelve, presente una queja formal ante Adquisiciones o solicite registros a través del City Clerk.
- Siga los plazos de apelación o notificación legal proporcionados por el departamento; si no se proporcionan, solicite un acuse de recibo por escrito con un plazo de respuesta.
Puntos clave
- Colorado Springs actualmente aborda la supervisión de IA a través de adquisiciones y gobernanza de TI en lugar de una única ordenanza de auditoría de IA.
- Los departamentos deben incluir cláusulas de auditoría y remediación en contratos para crear obligaciones exigibles.
Ayuda y soporte / Recursos
- City of Colorado Springs - Information Technology Department
- City of Colorado Springs - City Clerk
- City Code of Ordinances - Municode