Pasos de auditoría de ética y sesgo de IA en Fort Lauderdale

Agencias de Fort Lauderdale, Florida implementan cada vez más sistemas automatizados. Esta guía explica pasos prácticos que los departamentos municipales deben seguir para planificar y realizar auditorías de ética y sesgo de IA que se alineen con la gobernanza de la ciudad, el control de contratación y las prácticas de gestión de datos.

Ámbito y propósito

Esta orientación se centra en auditorías de sistemas algorítmicos usados por departamentos de la ciudad para tomar o informar decisiones que afectan al público. Cubre planificación, revisión de datos, pruebas de modelos, mitigación, documentación, informes y monitoreo, con referencias al Código de la Ciudad, la política de Tecnología de la Información y las normas de contratación cuando esos instrumentos están disponibles.^[1][2][3]

Sanciones y aplicación

No existe una ordenanza municipal dedicada que prescriba multas o sanciones específicas para violaciones de ética o sesgo de IA; las multas monetarias y las reglas de escalamiento no están especificadas en las páginas citadas.^[1]

• Multas: no especificado en la página citada.
• Escalamiento (primera/reincidente/continuada): no especificado en la página citada.
• Sanciones no monetarias: pueden incluir recursos contractuales, suspensión de adjudicaciones o acciones disciplinarias internas donde se apliquen políticas de contratación o RR. HH.; medidas específicas no están publicadas en las páginas de contratación o TI.
• Responsable de la aplicación: Fiscal de la Ciudad, División de Contratación y Departamento de Tecnología de la Información para controles técnicos; Cumplimiento de Código cuando proceda.
• Vía de queja e inspección: envíe al contacto del departamento responsable o a la unidad de cumplimiento de contratación según lo publicado por la Ciudad.

Apelaciones y revisión

• Rutas de apelación: revisión administrativa o procesos de disputa contractual a través de Contratación o la Comisión de la Ciudad; los plazos exactos para apelar no están especificados en las páginas citadas.
• Mantenimiento de registros para apelaciones: conserve informes de auditoría, conjuntos de datos y comunicaciones conforme a la política de registros de la ciudad.

Defensas y discreción

• Defensas posibles: necesidad comercial documentada, mitigación de riesgos documentada o contratación con términos contractuales explícitos y declaraciones del proveedor verificadas.
• Permisos/variaciones: no existe un proceso de permiso específico de IA publicado; pueden aplicarse excepciones contractuales existentes.

Violaciones comunes

• Uso de conjuntos de datos sesgados sin mitigación: puede exigir remediación o condiciones contractuales.
• Falta de transparencia o documentación de la lógica de decisión.
• No cumplir con controles de seguridad y privacidad exigidos por la contratación.

Solicitudes y formularios

No existe un formulario de auditoría de IA publicado por la ciudad; los departamentos usan formularios estándar de contratación, contrato y presentación de registros cuando la auditoría surge de cumplimiento contractual.^[3]

Cómo planificar y realizar una auditoría de ética y sesgo de IA

Siga un proceso documentado que asigne roles, defina el alcance y preserve evidencia. Coordine con el Departamento de Tecnología de la Información y Contratación para confirmar autoridad y acceso a datos.^[2]

1. Definir alcance, objetivos, poblaciones afectadas y puntos de decisión.
2. Inventariar conjuntos de datos, modelos, versiones e integraciones del sistema.
3. Ejecutar pruebas técnicas de sesgo y equidad; documentar la metodología.
4. Evaluar obligaciones contractuales y declaraciones del proveedor.
5. Elaborar planes de remediación con plazos y responsables.
6. Informar resultados a la dirección del departamento y a Contratación; archivar registros según las normas de retención.

Preguntas frecuentes

¿Fort Lauderdale tiene una ordenanza municipal específica sobre IA?

No—no se encontró una ordenanza específica de IA en el Código de la Ciudad; las políticas relacionadas se gestionan mediante gobernanza de TI y procesos de contratación.^[1]

¿Quién hace cumplir los hallazgos de la auditoría?

La aplicación y remediación se coordinan con el departamento que usa el sistema, Contratación para asuntos contractuales y el Fiscal de la Ciudad para cuestiones legales.^[3]

¿Cómo pueden los residentes informar decisiones automatizadas perjudiciales?

Los residentes deben contactar al departamento afectado o presentar una queja a través de las páginas de contacto de la ciudad; los problemas técnicos pueden dirigirse al servicio de asistencia de TI.

Cómo hacerlo

1. Reunir el equipo de auditoría con legal, TI, contratación y el responsable del programa.
2. Documentar alcance, objetivos y criterios de éxito.
3. Recolectar datos, modelos y registros de decisión; asegurar aprobaciones de acceso.
4. Realizar pruebas cuantitativas de equidad y robustez.
5. Redactar un plan de remediación con prioridades, plazos y métricas de seguimiento.
6. Presentar el informe final a la dirección y a Contratación; conservar los registros.

Puntos clave

• Las auditorías de IA requieren coordinación interdepartamental y alcance documentado.
• No se publican multas específicas de IA; confíe en recursos contractuales y legales.
• Conserve registros y siga las normas de contratación cuando las auditorías provengan de contratos.

Ayuda y apoyo / Recursos

• Cumplimiento de Código - Ciudad de Fort Lauderdale
• Departamento de Tecnología de la Información - Ciudad de Fort Lauderdale
• División de Contratación - Ciudad de Fort Lauderdale
• Open Data & Analytics - Ciudad de Fort Lauderdale

1. [1] City of Fort Lauderdale Code of Ordinances via Municode
2. [2] Information Technology Department - City of Fort Lauderdale
3. [3] Procurement Division - City of Fort Lauderdale