Lista de verificación de auditoría de sesgo de IA municipal de El Paso
Los funcionarios de la ciudad y los equipos de supervisión de El Paso, Texas deben garantizar que los sistemas de IA municipales cumplan con las ordenanzas locales, las normas de contratación y las obligaciones de transparencia. Esta lista de verificación explica registros, pasos de revisión, avisos a las partes interesadas y vías de escalamiento para detectar y mitigar el sesgo algorítmico en sistemas operados o contratados por la ciudad. Está diseñada para oficiales de cumplimiento, asesoría legal, adquisiciones y personal de registros que trabajan dentro de las estructuras municipales de El Paso.
Alcance y definiciones clave
Esta auditoría cubre sistemas de IA utilizados para tomar o informar de forma material decisiones municipales (licencias, permisos, ejecución, beneficios, análisis de seguridad pública). Defina entradas de datos, salidas del modelo, umbrales de decisión y roles humanos en el proceso al principio, y registre el versionado y la procedencia de los datos de entrenamiento.
Lista de verificación: Gobernanza y documentación
- Documente la propiedad, las cláusulas contractuales de adquisición y los requisitos de transparencia del proveedor, incluidos los derechos de auditoría y los artefactos fuente.
- Mantenga un inventario de conjuntos de datos con esquema, fechas de recolección, métodos de muestreo y sesgos o lagunas conocidos.
- Registre el versionado del modelo, los procedimientos de entrenamiento, los hiperparámetros y los resultados de prueba para cada implementación.
- Establezca pruebas rutinarias de sesgo (cardinalidad, impacto dispar, tasas de falsos positivos/negativos) y registre las acciones de remediación.
- Defina ciclos de revisión periódicos y desencadenantes para revisiones ad hoc tras incidentes o quejas públicas.
Transparencia y registros públicos
Publique descripciones no sensibles del modelo, criterios de decisión y métricas resumidas de rendimiento en registros públicos o en el portal de datos abiertos de la ciudad cuando sea apropiado para cumplir con las expectativas de transparencia. Para solicitudes de sujetos de datos y envíos de registros, basarse en los procedimientos de información pública de la Ciudad de El Paso[1].
Sanciones y ejecución
Dado que El Paso no publica una ordenanza municipal dedicada a la IA según las páginas citadas, las multas monetarias específicas por sesgo o incumplimiento de transparencia no están especificadas en las páginas citadas; la ejecución normalmente sigue el código existente, los recursos de contratación y los estatutos de registros públicos[2].
- Montos de multas: no especificado en la página citada.
- Escalamiento: no especificado; espere recursos contractuales para proveedores, órdenes correctivas para departamentos y recursos civiles bajo la ley de registros abiertos estatal.
- Sanciones no monetarias: órdenes de divulgación, suspensión del uso del sistema, inhabilitación en adquisiciones o acciones judiciales (no especificado en la página citada).
- Organismo ejecutor: los departamentos responsables incluyen Adquisiciones, el Abogado de la Ciudad y la Secretaría de la Ciudad para registros y quejas; presente quejas o solicitudes de información a través de canales oficiales de la ciudad[1].
- Apelaciones y revisiones: regidas por apelaciones administrativas existentes y revisión judicial; los plazos específicos no están especificados en la página citada.
Solicitudes y formularios
No se publica en las páginas citadas un formulario específico de "registro de sistema de IA" para El Paso; utilice formularios estándar de solicitud de información pública y recursos contractuales de adquisiciones según sea necesario[1].
Pasos técnicos de revisión
- Replicar resultados en conjuntos de prueba y comprobar el rendimiento por subgrupos mediante proxies de clases protegidas.
- Verificar la procedencia de los datos de entrada y las políticas de retención para cumplir con las normas de registros de la ciudad.
- Probar el desplazamiento de datos, sesgo de etiquetado y desequilibrio demográfico; exigir reentrenamiento o ajustes de umbral si las disparidades exceden los límites de política.
Pasos de acción para funcionarios
- Incluya derechos de auditoría de IA en los contratos con proveedores y añada cláusulas de transparencia en las renovaciones.
- Adopte revisiones programadas y auditorías desencadenadas por incidentes con propiedad clara.
- Proporcione un contacto público y una vía de recepción de quejas para que los residentes informen sesgos potenciales; use las páginas oficiales de solicitud de información del City Clerk para registros y recepción de quejas[1].
Preguntas frecuentes
- ¿Quién hace cumplir las reglas de transparencia y sesgo de IA en El Paso?
- La ejecución se realiza mediante la supervisión departamental existente (Adquisiciones, Abogado de la Ciudad, Secretaría de la Ciudad) y los recursos contractuales; las disposiciones específicas sobre IA no están publicadas en las páginas citadas.
- ¿Puede el público solicitar detalles del modelo?
- Sí: presente una solicitud de información pública a través de los procedimientos del City Clerk para solicitar registros no exceptuados y resúmenes del rendimiento del modelo[1].
Cómo hacer
- Identifique los sistemas y los responsables del programa.
- Recoja la documentación: inventarios de datos, artefactos del modelo, contratos y declaraciones del proveedor.
- Ejecute pruebas de sesgo y rendimiento; documente las disparidades y las mitigaciones previstas.
- Informe los resultados a asesoría legal y adquisiciones, implemente remediaciones y publique resúmenes no sensibles en el portal de datos abiertos cuando sea posible.
Puntos clave
- Establezca derechos contractuales de auditoría y cláusulas de transparencia para proveedores.
- Mantenga inventarios de datos y modelos para soportar revisiones oportunas.
- Utilice los canales públicos del City Clerk para registros y recepción de quejas.
Ayuda y soporte / Recursos
- City of El Paso Code of Ordinances
- City Clerk - Public Information Request
- El Paso Open Data Portal
- City Purchasing / Procurement