Guía de auditoría de ética y sesgo de IA en Nueva Orleans
En Nueva Orleans, Louisiana, las agencias públicas y los contratistas que usan sistemas automatizados de decisión deben seguir las normas municipales de contratación, gobernanza de datos y transparencia al realizar auditorías de ética y sesgo de IA. Esta guía explica dónde recae la autoridad local, cómo pueden estructurarse las auditorías para cumplir las expectativas de la ciudad, qué vías de cumplimiento existen y cómo informar problemas a las oficinas municipales. Está dirigida a personal municipal, proveedores, auditores y defensores comunitarios que buscan pasos concretos para reducir daños algorítmicos en programas y servicios municipales mientras se preserva la rendición de cuentas pública.
Sanciones y cumplimiento
La Ciudad de Nueva Orleans no publica una ordenanza titulada específicamente "ética de IA" en las páginas del código municipal; las cantidades exactas de multas y sanciones prescritas por fallas en auditorías de IA no están especificadas en la página citada[1]. La aplicación depende del instrumento de control citado en los contratos de contratación, acuerdos de intercambio de datos o normas departamentales. Las herramientas típicas de ejecución disponibles bajo la autoridad municipal incluyen multas, remedios contractuales, órdenes de cesar el uso de sistemas específicos, recursos judiciales y la inhabilitación o terminación de contratos.
- Multas y sanciones monetarias: no especificadas en la página citada; los montos varían según el contrato o la ordenanza aplicable.
- Escalamiento: los procedimientos para infracciones iniciales, repetidas y continuas dependen del documento de control y no están especificados en la página citada.
- Sanciones no monetarias: órdenes de cese, modificaciones del sistema, auditorías, suspensión de elegibilidad en contrataciones y remisión a tribunales o audiencias administrativas.
- Responsables y vías de denuncia: los departamentos responsables suelen incluir Compras, el Departamento de Innovación y Tecnología (DoIT), la Oficina del Alcalde y el departamento que contrata el sistema; las denuncias pueden enviarse a través del portal 311 de la ciudad o las páginas de contacto departamentales.
- Apelaciones y revisión: las rutas de apelación siguen procedimientos administrativos o de disputa contractual; los plazos y procesos se establecen en los documentos de contratación o en la ordenanza aplicable y no están especificados en la página citada.
- Defensas y discrecionalidad: las defensas comunes incluyen el cumplimiento de políticas certificadas, variaciones permitidas existentes o un plan de mitigación razonable demostrado; las defensas estatutarias específicas no están especificadas en la página citada.
Solicitudes y formularios
No existe un formulario único publicado por la ciudad titulado "auditoría de ética de IA" en la página del código municipal; los formularios o plantillas requeridos suelen formar parte de los paquetes de cumplimiento de contratación o proveedores y no están especificados en la página citada[1]. Los equipos municipales suelen exigir entregables como un informe de auditoría, inventario de datos, evaluación de impacto y plan de acción correctiva.
Realizar una auditoría de ética y sesgo de IA en Nueva Orleans
El alcance recomendado incluye gobernanza, calidad de datos, pruebas de modelos, monitoreo de resultados, documentación del proveedor y transparencia pública. Alinee los pasos de la auditoría con los requisitos del contrato de contratación y cualquier orientación específica del departamento.
- Alcance: sistemas, flujos de datos, puntos de decisión, impactos previstos y reales.
- Revisión de datos: origen, integridad, representatividad y consentimiento documentado cuando sea necesario.
- Pruebas técnicas: métricas de sesgo, equidad por subgrupo, deriva de rendimiento y comprobaciones de reproducibilidad.
- Documentación: tarjetas de modelo del proveedor, descripciones de datos de entrenamiento y evaluaciones de impacto algorítmico.
- Plan de monitoreo: reevaluaciones periódicas, reporte de incidentes y umbrales de remediación.
Pasos de acción
- Inventarie todos los sistemas automatizados usados en servicios municipales e identifique los departamentos responsables.
- Contrate una auditoría independiente o interna acorde al nivel de riesgo del sistema.
- Exija a los proveedores documentación del modelo y planes de remediación en los contratos.
- Si se detecta incumplimiento, aplique los remedios contractuales y notifique al departamento competente o a través de 311.
Preguntas frecuentes
- ¿Quién aplica los requisitos de ética y sesgo de IA para los sistemas municipales?
- La aplicación suele recaer en el departamento contratante, Compras, DoIT y la Oficina del Alcalde; la aplicación específica depende del contrato o la ordenanza.
- ¿Hay multas establecidas por fallas en auditorías de IA en Nueva Orleans?
- Las sanciones monetarias no aparecen en la página del código municipal; las multas dependen del instrumento de control y no están especificadas en la página citada[1].
- ¿Cómo informo un problema con una decisión algorítmica que afecta servicios?
- Informe los impactos del servicio a través de City 311 o el contacto del departamento responsable; incluya el nombre del sistema, la instancia de decisión y datos de respaldo.
Cómo hacerlo
Pasos que debe seguir un equipo municipal para completar una auditoría básica de ética y sesgo de IA.
- Definir el alcance: listar sistemas, partes interesadas y limitaciones legales o regulatorias.
- Recolectar documentación: contratos, descripciones de modelos, esquemas de datos y divulgaciones del proveedor.
- Realizar pruebas técnicas: evaluar métricas de equidad, tasas de error por subgrupo y deriva del modelo.
- Preparar el informe: documentar hallazgos, calificaciones de severidad, remedios recomendados y cronogramas.
- Presentar y hacer seguimiento: entregar la auditoría al departamento contratante, hacer seguimiento de la remediación y escalar según procedimientos contractuales o departamentales.
Puntos clave
- Nueva Orleans aplica cuestiones de IA a través de contratos y normas departamentales más que por una única ley específica.
- Las auditorías deben centrarse en calidad de datos, pruebas de modelos, documentación y planes de remediación.
- Use 311 y los contactos departamentales para reportar daños y siga los remedios de contratación para la ejecución.
Ayuda y soporte / Recursos
- City of New Orleans 311 - Reportar un problema o solicitar información
- City of New Orleans - Código de Ordenanzas
- Oficina del Alcalde - Ciudad de Nueva Orleans
- Departamento de Innovación y Tecnología - Ciudad de Nueva Orleans