Reglas de ética y auditoría de sesgo de IA de Scottsdale
Scottsdale, Arizona exige que los departamentos municipales y los proveedores evalúen las herramientas algorítmicas por riesgos de ética y sesgo antes del despliegue y durante la operación. Esta guía resume cómo aborda la ciudad las auditorías, qué departamentos son responsables, los pasos de cumplimiento esperados y dónde obtener los formularios oficiales y soporte. Está dirigida al personal municipal, contratistas y partes interesadas de la comunidad que trabajan con sistemas de decisión automatizados usados en las operaciones de Scottsdale.
Resumen
Las herramientas municipales que utilizan toma de decisiones automatizada o aprendizaje automático deben someterse a revisiones documentadas de ética y sesgo que cubran fuentes de datos, métricas de equidad, rendimiento entre clases protegidas y monitoreo continuo. Cuando la ciudad adopta modelos de terceros, los contratos deberían exigir transparencia, acceso para auditorías y planes de remediación.
Sanciones y aplicación
Scottsdale no publica una ordenanza municipal dedicada exclusivamente a auditorías de IA; la aplicación suele basarse en las disposiciones existentes de adquisiciones, privacidad, no discriminación y el código administrativo. Cantidades monetarias específicas o sanciones estatutarias por no realizar auditorías de ética o sesgo no están especificadas en las páginas citadas.
- Autoridad: adquisiciones, Servicios de Tecnología y la Oficina del Abogado Municipal aplican las obligaciones contractuales y las normas administrativas.
- Escalada: avisos iniciales, planes de acción correctiva, recursos contractuales y posible terminación de contrato; los pasos exactos de escalada no están especificados en las páginas citadas.
- Multas: no están especificadas en las páginas citadas.
- Sanciones no monetarias: órdenes de cese de uso, suspensión o terminación de contrato, auditorías de remediación obligatorias y remisión a acciones civiles o judiciales.
- Inspección y quejas: las quejas suelen canalizarse a través de Adquisiciones o del departamento de Servicios de Tecnología; consulte Ayuda y Recursos para las páginas de contacto.
Apelaciones, revisión y plazos
Las apelaciones o revisiones administrativas de decisiones de adquisiciones o aplicación siguen los procedimientos en las normas de adquisiciones y el código administrativo; los plazos específicos de apelación por incumplimiento de auditorías de IA no están especificados en las páginas citadas. Para protestas y apelaciones de adquisiciones, siga los plazos del portal de adquisiciones de la ciudad y los procesos de la Secretaría Municipal según lo publicado.
Defensas y discreción
- Las defensas pueden incluir pasos de mitigación demostrables, elección razonable de modelos con documentación y exenciones o variaciones aprobadas en los términos contractuales.
- Discreción de la ciudad: los departamentos pueden permitir implementaciones por fases con monitoreo o exigir salvaguardas adicionales en lugar de una retirada inmediata.
Infracciones comunes
- Desplegar modelos sin evaluación documentada de sesgo o validación.
- Cláusulas contractuales que carecen de acceso para auditorías o requisitos de transparencia.
- Mala gobernanza de datos que conduce a impactos desiguales.
Solicitudes y formularios
No existe un formulario único publicado por la ciudad llamado "auditoría de IA"; los departamentos suelen usar documentos de adquisiciones, cláusulas contractuales y plantillas internas de evaluación de riesgos. Para presentaciones relacionadas con adquisiciones, use el portal de adquisiciones de la ciudad y los documentos estándar de la licitación.
Pasos de cumplimiento
- Planifique: incluya la revisión de ética de IA en la planificación temprana del proyecto y en las especificaciones de adquisición.
- Contrato: exija cooperación del proveedor, acceso para auditorías, linaje de datos y obligaciones de remediación.
- Evalúe: ejecute métricas de sesgo, comprobaciones de rendimiento desagregadas y evaluaciones de impacto de privacidad.
- Mitigue: aplique correcciones técnicas, reentrene modelos o limite casos de uso donde persistan los riesgos.
- Monitoree: establezca revisiones periódicas e incidentes de reporte.
Preguntas frecuentes
- ¿Quién es responsable de las auditorías de ética de IA en Scottsdale?
- La responsabilidad principal recae en el departamento que adquiere u opera la herramienta, con el apoyo de Servicios de Tecnología y Adquisiciones; la revisión legal la realiza la Oficina del Abogado Municipal.
- ¿Existen multas fijas por no realizar una auditoría de sesgo?
- No hay multas específicas publicadas en las páginas citadas; la aplicación se basa en recursos administrativos y de adquisiciones.
- ¿Cómo puede un proveedor enviar documentación de auditoría?
- Los proveedores deben enviar documentos a través del portal de adquisiciones o al departamento contratante según lo indique el contrato.
Cómo hacerlo
- Identifique los sistemas: identifique cualquier proceso municipal que use decisión automatizada y liste a los interesados.
- Evaluación inicial: realice una evaluación de riesgos inicial que cubra datos, modelo y riesgos de despliegue.
- Evaluación de sesgo: realice una evaluación documentada de sesgo con métricas de rendimiento desagregadas.
- Protecciones contractuales: incluya acceso para auditorías y obligaciones de remediación en los contratos antes de adjudicar.
- Monitoreo: establezca un cronograma de monitoreo y una cadencia de informes para revisiones post-despliegue.
Conclusiones clave
- Integre revisiones de ética y sesgo en los ciclos de adquisición y del proyecto desde el inicio.
- Los contratos deben exigir transparencia, acceso a auditorías y planes de remediación.
- Documente las evaluaciones y el monitoreo para apoyar la aplicación y la rendición de cuentas pública.
Ayuda y soporte / Recursos
- City of Scottsdale Code of Ordinances
- City of Scottsdale Procurement
- City of Scottsdale Technology Services
- City Attorney, City of Scottsdale