Etica de IA y auditorías de sesgo para herramientas municipales en Tampa, Florida
La ciudad de Tampa, Florida está utilizando cada vez más herramientas de decisión automatizadas en sus servicios. Este artículo explica cómo la normativa municipal y los procedimientos aplican a las auditorías de ética y sesgo de IA para herramientas de la ciudad, quién hace cumplir los requisitos, cómo solicitar revisiones y pasos prácticos para el cumplimiento y la denuncia en Tampa.
Alcance y qué cuenta como auditoría
A efectos municipales, una auditoría de ética o sesgo de IA significa una revisión documentada de un sistema de decisión automatizado usado por un departamento de la ciudad para identificar resultados discriminatorios, limitaciones del modelo, procedencia de los datos y brechas de transparencia. Donde el código o las reglas departamentales requieran documentación, las auditorías suelen cubrir entradas de datos, métricas de desempeño del modelo y medidas de mitigación.
Las fuentes oficiales más cercanas para la ley municipal de Tampa y las reglas de contratación son el código de la ciudad y las páginas de adquisiciones y tecnología de la Ciudad de Tampa; estas proporcionan los instrumentos que controlan y las responsabilidades departamentales [1][2][3].
Quién debe cumplir
- Los departamentos que despliegan herramientas automatizadas deben seguir las políticas de adquisiciones y TI que rigen los productos de proveedores.
- Los proveedores que suministran algoritmos o servicios alojados usados por la ciudad deben proporcionar documentación y cooperar con las auditorías.
- Los oficiales de contratación y los administradores de TI son responsables de asegurar que se realicen auditorías o evaluaciones antes del despliegue en casos de alto riesgo.
Sanciones y aplicación
El código municipal y las páginas oficiales de adquisiciones no publican calendarios de multas específicas dedicadas a la falta de realización de auditorías de ética o sesgo de IA; las cantidades y reglas de escalamiento no se especifican en las páginas citadas [1][2].
- Multas: no especificadas en la página citada.
- Escalamiento (primera/reincidente/continuada): no especificado en la página citada.
- Sanciones no monetarias: pueden incluir órdenes de suspensión de trabajo, suspensión o terminación de contratos y acciones judiciales según apliquen; los remedios específicos dependen de los términos del contrato y las secciones aplicables del código.
- Autoridad que hace cumplir: Information Technology de la Ciudad de Tampa y la División de Adquisiciones administran la política y el cumplimiento; contactos y vías de envío están en las páginas oficiales de TI y adquisiciones [2][3].
- Apelaciones/revisión: los procedimientos dependen de la oficina que haga cumplir y de la sección del código referida; los plazos para apelaciones no están especificados en las páginas citadas y deben verificarse en el contrato o la sección pertinente del código [1].
Solicitudes y formularios
No hay un formulario municipal dedicado a "auditoría de ética de IA" publicado en las páginas de adquisiciones o TI; la presentación generalmente sigue la documentación de adquisiciones y las vías de cumplimiento contractual según lo establecido por Adquisiciones y TI [2][3].
Pasos prácticos de cumplimiento
- Evaluación temprana: incluya requisitos de revisión ética y de sesgo en las RFP y los contratos antes de la adquisición.
- Documentación: exija a los proveedores entregar descripciones del modelo, conjuntos de datos y planes de mitigación.
- Auditoría independiente: contrate auditorías de terceros cuando las decisiones de alto riesgo afecten derechos civiles o elegibilidad.
- Reportar problemas: comuníquese con la oficina de TI o de adquisiciones de la ciudad si sospecha incumplimiento.
Preguntas frecuentes
- ¿Tiene Tampa una ordenanza específica sobre auditorías de IA?
- No hay un texto de ordenanza específico publicado en el código de la Ciudad de Tampa o en las páginas de adquisiciones; los requisitos se aplican mediante contratos y políticas departamentales de TI [1][3].
- ¿A quién contacto para solicitar una auditoría de sesgo?
- Póngase en contacto con la oficina de Information Technology o con la División de Adquisiciones de la Ciudad de Tampa; sus páginas oficiales listan procedimientos y contactos [2][3].
- ¿Qué sanciones existen si un proveedor se niega a auditar?
- Las sanciones dependen de los remedios del contrato y las secciones aplicables del código; las cantidades específicas no están publicadas en las páginas citadas y deben revisarse en el lenguaje contractual.
Cómo hacer
- Identifique el departamento que usa la herramienta y recopile los documentos contractuales o de adquisición relacionados con el sistema.
- Contacte al oficial de adquisiciones del departamento o al administrador de TI y solicite la documentación de cumplimiento del proveedor.
- Si no se resuelve, presente una queja formal ante la División de Adquisiciones o la oficina de TI de la Ciudad de Tampa con evidencia de apoyo.
- Solicite una auditoría independiente de terceros si la respuesta del departamento es insuficiente y el contrato lo permite.
- Si procede, ejerza los remedios contractuales o solicite revisión administrativa según lo establecido por la oficina competente.
Conclusiones clave
- No existe un calendario de multas específico publicado; las auditorías se gestionan mediante adquisiciones y políticas de TI.
- Los proveedores deben estar contractualmente obligados a entregar documentación y cooperar con las auditorías.
- Contacte a Adquisiciones y TI para preguntas sobre cumplimiento y para reportar presuntas violaciones.
Ayuda y recursos
- City of Tampa Procurement Division
- City of Tampa Information Technology
- City of Tampa Code of Ordinances (Municode)
- City Clerk - Tampa