Proceso de auditoría de ética y sesgo de IA - Ordenanzas de la ciudad de Las Vegas
Las Vegas, Nevada, las agencias públicas recurren cada vez más a sistemas automatizados. Esta guía explica un enfoque municipal para auditorías de ética y sesgo de IA para sistemas de la ciudad, describiendo partes aplicables del código municipal, responsabilidades de las agencias, vías de denuncia e inspección, y pasos prácticos que agencias y proveedores deben seguir para reducir el sesgo y cumplir con los requisitos de la ciudad.
Alcance y cuándo auditar
Las auditorías se aplican cuando un sistema automatizado o algorítmico se usa para tomar o informar de forma material decisiones que afectan a residentes, permisos, licencias, cumplimiento, beneficios o seguridad pública. Priorice sistemas que influyan en vivienda, beneficios públicos, apoyo a la aplicación de la ley, inspecciones o resultados de licencias.
Elementos clave de la auditoría
- Registro documentado del linaje y las fuentes de datos, incluidos métodos de recopilación y plazos de retención.
- Protocolos de prueba de sesgo por subgrupo y métricas de rendimiento desagregadas por características protegidas.
- Documentación del modelo (resúmenes de explicabilidad, descripción de datos de entrenamiento, versiones).
- Evaluación de riesgos y plan de mitigación con cronogramas de revisión.
- Controles de acceso, registro y procedimientos de respuesta a incidentes para daños algorítmicos.
Sanciones y cumplimiento
La Ciudad de Las Vegas hace cumplir el código municipal y los requisitos contractuales a través de sus canales de cumplimiento y adquisiciones. No se especifican multas o sanciones monetarias exclusivas para auditorías de ética o sesgo de IA en las páginas municipales citadas; consulte el código municipal y las páginas de políticas departamentales para enfoques de cumplimiento y recursos contractuales[1]. Los departamentos de la ciudad pueden confiar en recursos contractuales, órdenes administrativas o la aplicación del código según corresponda[1].
Componentes de cumplimiento a considerar:
- Multas monetarias o daños liquidados: no especificado en la página citada; a menudo se abordan en contratos de proveedores o en el lenguaje de ordenanza específico[1].
- Órdenes administrativas y cláusulas de terminación contractual aplicadas por el departamento contratante o la oficina del asesor jurídico de la ciudad.
- Órdenes correctivas y planes de mitigación obligatorios emitidos a la oficina responsable o al proveedor.
- Recepción de quejas e inspecciones investigativas gestionadas por el departamento competente (adquisiciones, TI, licencias o cumplimiento del código).
- Recursos de apelación: la revisión administrativa o la apelación judicial dependen del instrumento de aplicación; los plazos y procedimientos están regidos por la ordenanza específica, la cláusula contractual o la norma administrativa y no están especificados en las páginas municipales citadas[1].
Solicitudes y formularios
No figura un "formulario de auditoría de IA" publicado por la ciudad; las agencias suelen exigir entregables de auditoría a través de anexos contractuales o especificaciones de adquisición. Consulte los documentos de adquisición del departamento y las políticas del Departamento de Tecnología de la Información para plantillas o instrucciones de presentación publicadas[2].
Proceso de auditoría - Pasos prácticos
- Definir el alcance: enumerar decisiones, elementos de datos, poblaciones afectadas y limitaciones legales.
- Recopilar documentación: diccionarios de datos, fichas de modelo, registros de entrenamiento e informes de rendimiento anteriores.
- Ejecutar pruebas de sesgo y equidad: desagregar resultados por clases protegidas y documentar impactos desiguales.
- Crear plan de mitigación: reentrenar, reponderar, ajustar umbrales o alterar los flujos de decisión.
- Enviar hallazgos a la oficina responsable de la ciudad y programar acciones correctivas y revisión de seguimiento.
Acceso a datos, privacidad y registros
Las páginas de datos abiertos y gobernanza de datos describen prácticas de registros públicos y políticas de divulgación; las auditorías deben tener en cuenta la privacidad, la redacción y las obligaciones de registros públicos al compartir documentación del modelo o conjuntos de datos[3]. Cuando las normas de privacidad restrinjan la divulgación, proporcione resúmenes redactados y registros de auditoría internos a las unidades de supervisión.
Preguntas frecuentes
- ¿Quién hace cumplir las expectativas de auditoría de IA para los sistemas de la ciudad?
- La aplicación la realiza el departamento contratante, el asesor jurídico de la ciudad o la oficina de supervisión designada; los procedimientos varían según contrato y ordenanza.
- ¿Existen multas estándar por no pasar una auditoría de sesgo de IA?
- No se especifican multas estándar específicas en las páginas municipales citadas; la aplicación suele depender de recursos contractuales o disposiciones de ordenanza aplicables[1].
- ¿Cómo puede un residente denunciar preocupaciones sobre una decisión automatizada?
- Presente una queja ante el departamento de la ciudad correspondiente (licencias, planificación o cumplimiento del código) y ante Tecnología de la Información si el sistema es operado por la ciudad; consulte las páginas de contacto departamentales para formularios y procedimientos[2].
Cómo hacer
- Hacer inventario de todos los sistemas automatizados de la ciudad.
- Priorizar según impacto y vulnerabilidad al sesgo.
- Ejecutar auditorías técnicas y de documentación con pruebas estandarizadas.
- Implementar mitigación, actualizar el lenguaje de adquisiciones y supervisar tras el despliegue.
Puntos clave
- Comience las auditorías de IA durante la adquisición para reducir costos de remediación.
- Mantenga documentación clara: fuentes de datos, versiones de modelos y resultados de pruebas.
Ayuda y soporte / Recursos
- City of Las Vegas - Information Technology Department
- City of Las Vegas Code of Ordinances (Municode)
- City of Las Vegas Open Data