Guía de ética de IA y auditorías de sesgo en Glendale
Glendale, Arizona está incorporando cada vez más IA y sistemas automatizados en servicios, adquisiciones y operaciones. Esta guía explica cómo las revisiones éticas y las auditorías de sesgo suelen intersectar con la contratación municipal, la supervisión de tecnologías de la información y el código municipal, para que el personal de la ciudad, los proveedores y los residentes sepan cómo solicitar revisiones, plantear preocupaciones y seguir los procedimientos de apelación.
Descripción general de las revisiones éticas y auditorías de sesgo
Una revisión ética de IA es una verificación de gobernanza—política, riesgo y uso previsto—mientras que una auditoría de sesgo evalúa riesgos de discriminación estadística o procedimental en modelos o conjuntos de datos. Para el uso municipal en Glendale, estos procesos surgen con mayor frecuencia durante las contrataciones, la evaluación de adquisiciones y las revisiones de proyectos de tecnología de la información. Los departamentos comúnmente involucrados incluyen Adquisiciones/Contratos y Tecnologías de la Información; las auditorías técnicas pueden solicitarse mediante cláusulas contractuales o alcances de trabajo específicos del proyecto. Cuando exista un requisito municipal formal, aparecerá en los documentos de contratación o en la política de la ciudad en lugar de en una "ley de IA" única. Código municipal de Glendale[1]
Multas y aplicación
Glendale no publica actualmente una ordenanza municipal dedicada que liste multas específicamente por fallas en ética de IA o auditorías de sesgo; las sanciones por incumplimiento de adquisiciones, términos contractuales o del código de la ciudad se aplican bajo el código municipal existente y los recursos contractuales. Los montos exactos de las multas y los programas no están especificados en la página citada. Departamento de Tecnologías de la Información[2]
- Multas monetarias: no especificadas en la página citada; recurso alternativo: daños liquidados en contrato o sanciones generales del código.
- Escalada: la primera infracción y las infracciones continuas normalmente escalan mediante avisos de subsanación, terminación de contrato o citaciones municipales; rangos específicos no especificados.
- Remedios no monetarios: órdenes de suspensión de trabajo, planes de acción correctiva, suspensión o terminación de contratos, acciones judiciales o medidas cautelares.
- Órgano que aplica: jefes de departamento, Servicios de Adquisición y Tecnologías de la Información lideran la supervisión; las quejas suelen remitirse al City Clerk o al oficial de adquisiciones.
- Apelaciones/revisión: las vías de apelación siguen los procesos administrativos de disputa contractual o las disposiciones de apelación del código municipal; los plazos los establece el contrato o el código y no están especificados en la página citada.
Solicitudes y formularios
No existe un formulario único publicado de "auditoría de IA" en las páginas de la ciudad; los requisitos de auditoría y ética suelen incluirse como cláusulas contractuales o anexos al alcance de trabajo. Si existe un formulario o lista de verificación, se publicará con los documentos de licitación o el paquete del proyecto de TI; de lo contrario, "no especificado en la página citada".
Cómo se inician las auditorías
- Durante la contratación: incluya requisitos de auditoría en RFP/RFQ y exija certificaciones del proveedor.
- Por solicitud del departamento: el gerente del proyecto solicita una auditoría de sesgo independiente o una revisión interna.
- Por queja: residentes o personal presentan quejas formales ante el City Clerk o Servicios de Adquisición.
Violaciones comunes
- Falta de divulgación de herramientas impulsadas por IA en servicios públicos visibles al público.
- Incumplimiento contractual: informes de auditoría faltantes o mitigaciones requeridas no implementadas.
- Salvaguardas insuficientes de protección de datos o privacidad para los conjuntos de datos usados en modelos.
Pasos a seguir
- Proveedores: incluya entregables de auditoría en el contrato y conserve evidencia de pruebas de modelos.
- Personal: solicite una revisión ética a través de la gobernanza de TI del departamento e incluya criterios de aceptación claros.
- Residentes: presente una solicitud de registros públicos o una queja de adquisiciones si sospecha decisiones automatizadas perjudiciales.
PREGUNTAS FRECUENTES
- ¿Quién aplica la ética de IA y las auditorías de sesgo en Glendale?
- La aplicación depende del contexto: Servicios de Adquisición hace cumplir los términos contractuales, Tecnologías de la Información supervisa el cumplimiento técnico y el City Attorney aplica las violaciones del código.
- ¿Puedo solicitar una auditoría independiente de un sistema de IA municipal?
- Sí: solicítelo a través de Servicios de Adquisición si el sistema fue contratado, o presente una solicitud de registros públicos para informes de auditoría y documentos de contratación.
- ¿Existen sanciones estándar por fallar una auditoría de sesgo?
- No se publican sanciones específicas para IA; los recursos suelen ser contractuales o gestionados bajo las disposiciones generales del código municipal.
Cómo hacer
- Identifique el sistema y el departamento responsable; reúna contratos y documentos de alcance.
- Solicite informes de auditoría existentes o certificaciones mediante adquisiciones o registros públicos.
- Si no existen, pida al departamento que delimite una auditoría de sesgo independiente y establezca entregables.
- Negocie honorarios y plazos de auditoría mediante adquisiciones o enmiendas contractuales.
- Si no se resuelve, presente una queja de adquisiciones formal o busque una apelación administrativa según los plazos del contrato/código.
Puntos clave
- Glendale aborda los temas de IA a través de las adquisiciones y la gobernanza de TI existentes en lugar de una única ordenanza de IA.
- Solicite auditorías, evidencia y cláusulas contractuales proactivamente cuando la IA afecte servicios públicos.
Ayuda y recursos
- City of Glendale - Information Technology
- City of Glendale - Procurement Services
- City of Glendale - Public Records Request