Directrices éticas de IA y auditorías de sesgo para Miami

Miami, Florida está cada vez más involucrada en la adquisición y operación de software y análisis que usan inteligencia artificial (IA). Los departamentos municipales y los proveedores deben comprender cómo las normas de contratación municipal, las prácticas de gobernanza de datos y los requisitos de registros públicos afectan el diseño, la prueba y el despliegue de sistemas de IA usados para asuntos de la ciudad. Este artículo explica cómo las autoridades locales suelen abordar las directrices éticas de IA y las auditorías de sesgo para uso municipal, destaca las vías de cumplimiento y ejecución, y propone pasos prácticos que funcionarios de contratación, equipos de TI y partes interesadas comunitarias pueden seguir para solicitar auditorías, preservar registros y buscar remedios.

Alcance y base legal

No existe una ordenanza independiente en la ciudad de Miami expresamente titulada "ética de IA" en el código municipal; las normas de contratación municipal y las políticas de información proporcionan el marco legal principal para el uso de IA por parte de la ciudad. Para requisitos de contratación y autoridad contractual, revise el código municipal y las reglas de contratación de la Ciudad de Miami City Code^[1]. Para prácticas técnicas y de gobernanza de datos, coordine con el Departamento de Tecnología de la Información y la división de Contratación de la Ciudad de Miami para confirmar cláusulas contractuales obligatorias y estándares de seguridad Information Technology^[2] Procurement & Real Estate^[3].

Multas y ejecución

Miami aplica el cumplimiento mediante recursos contractuales, la terminación de contratos y los procesos municipales estándar en lugar de un calendario de sanciones específico para IA. Los importes monetarios concretos o cantidades estatutarias explícitas para incumplimientos relacionados con IA no están especificados en las páginas municipales citadas; consulte las fuentes de contratación y el código para recursos contractuales y sanciones de contratación.

• Multas monetarias: no especificadas en la página citada; los recursos monetarios dependen del lenguaje del contrato y las disposiciones del código municipal.
• Recursos contractuales: suspensión, terminación, retención de pagos y inhabilitación del proveedor cuando las normas de contratación lo permitan.
• Sanciones no monetarias: órdenes de acción correctiva, auditorías de mitigación requeridas, y medidas judiciales cuando proceda.
• Organismo ejecutor y vía de denuncia: la División de Contratación y el Departamento de Tecnología de la Información gestionan el cumplimiento de proveedores y los informes de incidentes; consulte Ayuda y Recursos para contactos oficiales.
• Apelaciones y revisiones: protestas de contratación, procesos de disputa contractual y revisión judicial cuando sea procedente; los plazos están regidos por las normas de contratación y no se especifican en la página citada.

Solicitudes y formularios

No existe un formulario municipal publicado único para una "solicitud de auditoría de sesgo de IA" en las páginas citadas; las solicitudes se tramitan mediante contratación, órdenes de cambio de contrato o informes de incidentes de TI según los procedimientos departamentales. Si se requiere una auditoría formal, normalmente figura como entregable contractual o como orden de trabajo aprobada; confirme con Contratación y TI.

Implementación de directrices éticas de IA y auditorías de sesgo

Diseñe una política que alinee el lenguaje contractual de contratación, la clasificación de datos, la transparencia en decisiones algorítmicas y procedimientos documentados de auditoría de sesgo. Los elementos operativos clave incluyen el alcance de la auditoría, muestras de datos, medidas estadísticas, mecanismos de reparación, registro y conservación de evidencias, y transparencia pública cuando la ley de registros públicos lo exija.

• Cláusula contractual: exigir informes de auditoría de sesgo proporcionados por el proveedor y datos de prueba reproducibles bajo términos de confidencialidad cuando sea necesario.
• Estándar de auditoría: definir métricas y umbrales para impacto dispar y tasas de falsos positivos/negativos.
• Remediación: exigir planes de mitigación del proveedor y cronogramas para correcciones cuando las auditorías identifiquen problemas.

Cómo hacerlo

1. Identifique el sistema de IA y las partes interesadas, y documente los usos previstos y los puntos de decisión que afectan a los residentes.
2. Incluya una cláusula de auditoría de sesgo y requisitos de transparencia en RFPs o contratos, especificando entregables y plazos.
3. Contrate una auditoría independiente o verificación de terceros con métodos estadísticos descritos y controles de acceso.
4. Informe los hallazgos a Contratación y TI; exija planes de remediación del proveedor cuando sea necesario.
5. Conserve registros y artefactos de auditoría como registros públicos salvo exenciones; coordine con el City Clerk ante solicitudes de registros.
6. Revise y actualice las cláusulas anualmente o tras cambios importantes en el modelo.

Preguntas frecuentes

¿Tiene Miami una ordenanza independiente sobre IA?

No; no hay una ordenanza independiente sobre IA en el código de la Ciudad de Miami en las páginas municipales citadas; la gobernanza se aplica mediante contratación, términos contractuales y políticas departamentales.^[1]

¿Quién hace cumplir el cumplimiento de los sistemas de IA de la ciudad?

Contratación y el Departamento de Tecnología de la Información lideran la ejecución para contratos de proveedores y controles técnicos, con apoyo del asesor legal de la ciudad y del City Clerk para asuntos de registros.^[2]

¿Cómo pueden los residentes solicitar una auditoría o plantear una preocupación?

Los residentes deben presentar quejas o solicitudes de registros con el City Clerk y reportar preocupaciones operativas al departamento municipal correspondiente; los asuntos contractuales se pueden reportar a la División de Contratación.^[3]

Puntos clave

• Miami gestiona la ética de IA y las auditorías mediante controles contractuales más que mediante una única ordenanza.
• Las auditorías de sesgo deben definirse en contratos con métricas claras, evidencia y pasos de remediación.
• Contratación y TI son los contactos principales para cumplimiento, informes y respuesta a incidentes.

Ayuda y Apoyo / Recursos

• City of Miami Procurement & Real Estate
• City of Miami Information Technology Department
• City Clerk - Registros y Solicitudes de Registros Públicos
• Office of the City Manager

1. [1] City of Miami Code of Ordinances on Municode
2. [2] City of Miami Information Technology Department
3. [3] City of Miami Procurement & Real Estate