Ética de IA y reglas de auditoría de sesgos - St. Petersburg
Las oficinas municipales de St. Petersburg, Florida, consideran cada vez más la equidad y la transparencia algorítmica al adquirir o desplegar sistemas automatizados. Esta guía explica el panorama normativo local en relación con la ética de IA, las auditorías de sesgo, la supervisión de adquisiciones y las vías de denuncia para residentes y contratistas en St. Petersburg, Florida.
Descripción general
No existe actualmente una "ordenanza de IA" con nombre específico codificada para sistemas de decisión automatizados en la Ciudad de St. Petersburg; la gobernanza relevante se deriva de las normas de adquisiciones, prácticas de datos/privacidad y políticas departamentales. Cuando la ciudad ha publicado directrices de tecnología de la información o de adquisiciones, esas oficinas son los contactos principales para la interpretación y el cumplimiento de políticas.City Information Technology[1]
Sanciones y ejecución
St. Petersburg confía en la aplicación departamental a través de TI, Adquisiciones y la Secretaría de la Ciudad para el cumplimiento de contratos; no se especifican cantidades monetarias concretas ni calendarios en las páginas citadas que sean exclusivamente aplicables a la ética de IA. Los lectores deben consultar el Código de la Ciudad y las políticas departamentales para remedios contractuales y acciones administrativas.St. Petersburg Code of Ordinances[2]
- Sanciones monetarias: no especificado en la página citada; los remedios suelen aparecer en las disposiciones de adquisiciones o contratos.
- Escalada: los procedimientos para incumplimientos iniciales, repetidos o continuos se determinan por los términos del contrato o las órdenes administrativas y no se publican como un calendario específico para IA en las páginas citadas.
- Sanciones no monetarias: órdenes administrativas, rescisión de contrato, planes de acción correctiva, retención de pagos o remisión a asesoría legal son herramientas típicas de ejecución; los mecanismos exactos los gestionan los departamentos responsables.
- Autoridad y vía de denuncia: los departamentos de Tecnología de la Información y Adquisiciones manejan el cumplimiento técnico y los asuntos contractuales; presente denuncias o solicitudes de revisión mediante la información de contacto del departamento en la página oficial.
- Apelaciones y revisión: las rutas de apelación suelen seguir procesos administrativos de disputa contractual o mecanismos formales de protesta en las normas de adquisiciones; los plazos específicos no se especifican en las páginas citadas.
- Defensas y discreción: la discreción de la ciudad, permisos documentados, excepciones en adquisiciones o variaciones negociadas pueden aplicarse; si se reconoce una defensa de "excusa razonable" depende de los términos del contrato o la regla administrativa.
Solicitudes y formularios
No se identifica un formulario municipal único publicado de "auditoría de IA" en las páginas citadas; se utilizan formularios de cumplimiento de adquisiciones, certificaciones de proveedores o solicitudes de tecnología según el departamento y el tipo de contrato. Para envíos específicos de proyectos, consulte las páginas de Tecnología de la Información o Adquisiciones para orientación sobre aplicaciones.City Information Technology[1]
Pasos típicos de cumplimiento
- Requisitos de la contratación: incluya entregables de auditoría de sesgo y documentación en RFPs o contratos.
- Revisión técnica: auditoría independiente o informes proporcionados por el proveedor para verificar equidad y rendimiento.
- Mantenimiento de registros: conserve informes de auditoría, conjuntos de datos y registros de decisión por el periodo de retención exigido por la política de archivos de la ciudad.
- Reporte de incidentes: notificación inmediata al departamento correspondiente ante resultados sesgados o violaciones de privacidad.
Violaciones comunes
- Ausencia de pruebas documentadas sobre impacto disparate o resultados sesgados.
- Falta de inclusión de entregables de auditoría en contratos de adquisición.
- Respuesta insuficiente a quejas de residentes sobre decisiones automatizadas.
Preguntas frecuentes
- ¿Quién hace cumplir las expectativas de ética de IA para los sistemas municipales?
- Los departamentos de Tecnología de la Información y Adquisiciones supervisan el cumplimiento; los remedios formales provienen de términos contractuales y procedimientos administrativos.
- ¿Existen multas fijas por infracciones relacionadas con IA?
- No se especifican multas monetarias fijas específicas para la ética de IA en las páginas citadas; la aplicación suele seguir remedios contractuales o acciones administrativas.
- ¿Cómo puede un residente denunciar una preocupación sobre una decisión automatizada?
- Denuncie las preocupaciones al departamento que emitió la decisión y a la Secretaría de la Ciudad o a la oficina de Tecnología de la Información utilizando las páginas de contacto oficiales.
Cómo hacer
- Identifique al propietario del sistema dentro del departamento de la ciudad y solicite documentación sobre el propósito del modelo, los datos de entrenamiento y los resultados previstos.
- Solicite o contrate una auditoría de sesgo que abarque conjuntos de datos, rendimiento por subgrupos y pasos de mitigación.
- Presente los informes de auditoría y los planes de acción correctiva a Adquisiciones o TI como entregables contractuales.
- Haga seguimiento de la remediación y exija re-pruebas periódicas o declaraciones verificables de los proveedores.
- Si observa daños, presente una denuncia ante el departamento responsable y conserve los registros relevantes para la apelación.
Conclusiones clave
- St. Petersburg utiliza la supervisión existente de adquisiciones y TI en lugar de una ordenanza específica sobre IA.
- Incluya requisitos de auditoría de sesgo en RFPs y contratos para crear obligaciones exigibles.
- Contacte a Tecnología de la Información o Adquisiciones desde el inicio para orientación y presentación de quejas.
Ayuda y Recursos de apoyo
- City Information Technology
- St. Petersburg Code of Ordinances (Municode)
- City Procurement Division
- City Clerk - Registros e Información Pública