Directrices de auditoría de sesgo de IA de Columbus - Ordenanza municipal
Columbus, Georgia, los departamentos municipales que implementan sistemas de decisión automatizados deben seguir procedimientos claros para el uso de IA, la transparencia y las auditorías de sesgo para proteger a los residentes y garantizar el cumplimiento legal. Esta guía resume las expectativas municipales, las vías de cumplimiento y los pasos prácticos para realizar auditorías de sesgo en los sistemas de la ciudad, con enlaces al código municipal y a la oficina de tecnología de la información de la ciudad para apoyar la implementación operativa.[1] También destaca los canales de denuncia y las normas de conservación de registros referenciadas por la oficina de TI de la ciudad.[2]
Alcance y objetivos
Este documento aborda sistemas municipales usados para administración pública, prestación de servicios, licencias, cumplimiento, beneficios, análisis de seguridad pública y toma de decisiones regulatorias. Recomienda un rastro de auditoría documentado, evaluaciones de impacto algorítmico periódicas y reportes a las partes interesadas cuando los resultados afecten a los residentes.
Principios clave
- Transparencia: publicar resúmenes del uso de decisiones automatizadas cuando la ley lo permita.
- Responsabilidad: asignar un funcionario u oficina responsable por cada sistema.
- Pruebas de sesgo: usar métricas desagregadas para detectar impactos desiguales.
- Documentación: mantener registros versionados de modelos, datos de entrenamiento e informes de auditoría.
Sanciones y aplicación
La autoridad legal para la aplicación municipal de reglas de tecnología, contratación, discriminación o privacidad recae en instrumentos del Gobierno Consolidado de Columbus como el código municipal y políticas implementadas; las sanciones específicas para IA no suelen estar enumeradas en las páginas municipales citadas y, por ello, se describen aquí como expectativas de política en lugar de multas estatutarias.[1]
- Multas: las cantidades específicas en dólares para violaciones relacionadas con IA no están especificadas en las páginas municipales citadas.
- Escalada: advertencias por la primera infracción, planes de remediación obligatorios y posibles sanciones contractuales por infracciones repetidas son habituales; los pasos exactos no están especificados en las páginas citadas.
- Sanciones no monetarias: órdenes de cumplimiento, suspensión del uso del sistema, revocación de acceso de proveedores o remisión al tribunal municipal o revisión del consejo.
- Autoridad: los roles incluyen al Fiscal de la Ciudad, el Departamento de Tecnología de la Información y la Inspección de Códigos; las vías formales de queja e inspección las mantiene la oficina de TI y las páginas de cumplimiento del código.[2]
- Apelaciones: las vías y los plazos de apelación son específicos del caso y no están especificados en las páginas municipales citadas; las partes deben seguir los procedimientos de notificación y apelación en el código municipal o en los términos contractuales.
- Defensas/discreción: la remediación de buena fe documentada, las exenciones aprobadas o los planes de mitigación activos son consideraciones discrecionales habituales, pero no están detalladas en las páginas citadas.
Solicitudes y formularios
No se publica en las páginas citadas un formulario municipal específico para auditorías de IA; los requisitos de documentación se gestionan normalmente a través de adquisiciones, gestión de cambios de TI o solicitudes de registros según lo detallado por el departamento correspondiente o el gestor del contrato.
Pasos de acción para departamentos
- Crear un inventario de sistemas que usen decisión automatizada y clasificar los niveles de riesgo.
- Definir métricas de impacto y pruebas base para equidad y precisión.
- Realizar auditorías de sesgo previas al despliegue y periódicas, conservando artefactos y registros de remediación.
- Documentar cláusulas de adquisición que exijan la cooperación del proveedor para auditorías y acceso a datos.
- Establecer un canal público de informes de preocupaciones y un plan interno de respuesta a incidentes.
Preguntas frecuentes
- ¿Qué es una auditoría de sesgo y cuándo debe realizarla la ciudad?
- Una auditoría de sesgo evalúa si un sistema automatizado produce resultados diferentes entre grupos protegidos; la ciudad debe auditar antes del despliegue y de manera periódica.
- ¿Quién hace cumplir las reglas relacionadas con IA en Columbus?
- Las responsabilidades de aplicación recaen en el departamento contratante, la dirección de TI y el Fiscal de la Ciudad o la Inspección de Códigos según la infracción; los procedimientos específicos de aplicación se encuentran en las fuentes municipales citadas anteriormente.
- ¿Cómo pueden los residentes denunciar daños sospechados por sistemas de IA de la ciudad?
- Los residentes deben presentar quejas al departamento que opera el sistema y a los canales de denuncia de la ciudad que aparecen a continuación, y conservar registros relevantes y marcas de tiempo.
Cómo hacer
- Inventario: listar todos los sistemas con componentes de decisión automatizada, propietarios y fuentes de datos.
- Evaluación de riesgo: clasificar sistemas por impacto potencial en derechos civiles, seguridad y finanzas.
- Revisión de datos: recopilar muestras y verificar etiquetado, representatividad y linaje de datos.
- Pruebas: ejecutar métricas de equidad, análisis de errores y comprobaciones por subgrupos.
- Remediación: implementar cambios en el modelo, los datos o los procesos y volver a probar hasta que las métricas cumplan los umbrales de política.
- Reporte: publicar un informe resumido, notificar a las partes afectadas si es necesario y conservar los artefactos de auditoría.
Conclusiones clave
- Mantener un inventario y un rastro de auditoría documentado para cada sistema automatizado.
- Asignar responsabilidad clara y exigir la cooperación de proveedores en los contratos.
- Usar métricas desagregadas y la participación comunitaria para definir la equidad.
Ayuda y soporte / Recursos
- Columbus Consolidated Government - Information Technology
- Código de Ordenanzas de Columbus (Municode)
- Fiscalía de la Ciudad - Columbus Consolidated Government
- Adquisiciones - Columbus Consolidated Government