Ordenanza de ética y auditoría de sesgo de IA de Detroit
Detroit, Michigan exige que los departamentos municipales que utilizan sistemas de decisión automatizada y herramientas algorítmicas cumplan con estándares éticos, transparencia y expectativas de auditoría de sesgo cuando esas herramientas afectan a los residentes. Esta guía resume las responsabilidades a nivel municipal, las vías probables de aplicación y los pasos prácticos para proveedores, personal municipal y residentes para garantizar el cumplimiento y impugnar usos que puedan causar resultados injustos. Cuando montos de multas o formularios procedimentales no están publicados en las páginas de la ciudad, este artículo indica que la fuente oficial no los especifica y apunta a las oficinas responsables de denuncias, supervisión y apelaciones.
Alcance y definiciones
Las herramientas municipales incluyen cualquier software, algoritmo o sistema de toma de decisiones automatizado desplegado por un departamento de Detroit para tomar, ayudar o recomendar decisiones que afecten a los residentes, permisos, licencias, beneficios, aplicación o seguridad pública. Las expectativas clave generalmente incluyen evaluaciones de impacto documentadas, auditorías de sesgo, transparencia sobre las fuentes de datos y cláusulas contractuales con proveedores que requieran planes de mitigación.
El Departamento de Innovación y Tecnología de la Ciudad de Detroit lidera la política de servicios digitales y la supervisión de adquisiciones para los sistemas municipales, con revisión legal y de adquisiciones en coordinación con la Oficina del Secretario Municipal y el Concejo Municipal para las ordenanzas y términos contractuales vinculantes (Innovation & Technology)[1].
Requisitos de política y desencadenantes de auditoría
- Documentación obligatoria: descripciones del proyecto, fuentes de datos, métricas de rendimiento y casos de uso previstos.
- Evaluación de sesgo previa al despliegue y auditorías periódicas posteriores al despliegue para sistemas de alto impacto.
- Certificación del proveedor y cláusulas contractuales que exijan medidas correctivas para impactos discriminatorios identificados.
- Aviso público o declaraciones de transparencia para herramientas utilizadas en aplicación, licencias o determinaciones de beneficios.
Multas y aplicación
La aplicación y las sanciones por incumplimiento se regulan mediante la aplicación del código municipal, los recursos contractuales de adquisiciones y las acciones legales presentadas por la Ciudad o individuos afectados. El Código de la Ciudad y los procesos de adquisiciones establecen las vías de aplicación; sin embargo, los montos específicos de las multas y las tablas de escalamiento para fallos en auditorías de ética de IA o sesgo no están especificados en las páginas municipales consultadas. Para el texto del código y la autoridad de la ordenanza, vea los recursos del Secretario Municipal y el código municipal (Municipal Code)[2].
- Montos de multas: no especificado en la página citada.
- Escalamiento (primera/reincidencia/incumplimiento continuado): no especificado en la página citada.
- Sanciones no monetarias: órdenes de cese de uso, auditorías correctivas obligatorias, terminación de contratos, medidas cautelares o acciones judiciales.
- Autoridad(s) aplicante(s): Departamento de Innovación y Tecnología en coordinación con la Asesoría Jurídica de la Ciudad y adquisiciones; las denuncias pueden iniciarse a través de los canales oficiales de reporte (Report a Concern)[3].
- Apelaciones y vías de revisión: apelación administrativa bajo el código municipal o revisión judicial; los plazos específicos para apelaciones no están especificados en las páginas citadas.
- Defensas/discreción: mitigación de buena fe documentada, variaciones permitidas en los contratos de adquisiciones o estado de piloto aprobado pueden ser consideradas; revise los términos contractuales y el texto de la ordenanza.
Solicitudes y formularios
No se publica un formulario estandarizado público para auditorías de ética de IA o de sesgo en las páginas de la ciudad revisadas; los departamentos suelen gestionar las revisiones a través de adquisiciones y procesos de cumplimiento internos, y el reporte se inicia mediante el portal de servicios de la ciudad o contactando al personal de adquisiciones y legales del departamento. Consulte los recursos departamentales y el código municipal citados para puntos de contacto y procedimientos (Innovation & Technology)[1].
Pasos de cumplimiento para departamentos y proveedores
- Realice una evaluación de impacto previa al despliegue que documente efectos esperados y procedencia de los datos.
- Encargue una auditoría de sesgo independiente y publique un resumen con redacciones si el sistema afecta derechos públicos.
- Incluya cláusulas contractuales de auditoría, mitigación y acceso a datos en los acuerdos con proveedores.
- Responda rápidamente a las denuncias a través del portal de la ciudad y preserve los registros de auditoría.
Pasos de acción para residentes
- Reúna documentación de la decisión adversa o resultado que experimentó.
- Envíe un informe a través del portal de servicios de la ciudad o póngase en contacto con el departamento indicado en la declaración de transparencia de la herramienta (Report a Concern)[3].
- Solicite una revisión administrativa o apelación bajo el proceso municipal aplicable; si procede, busque asesoría legal para recursos judiciales.
Preguntas frecuentes
- ¿Qué sistemas de Detroit están cubiertos?
- Cualquier herramienta municipal utilizada para tomar, ayudar o recomendar decisiones que afecten a los residentes que el departamento designe como de alto impacto o que entren en las reglas de transparencia de adquisiciones.
- ¿Qué sanciones aplican por fallar una auditoría?
- Los montos específicos de multas y los procedimientos de escalamiento no están especificados en las páginas municipales citadas; los recursos incluyen auditorías correctivas, órdenes de cese, recursos contractuales o acciones legales.
- ¿Cómo reporto una preocupación sobre sesgo algorítmico?
- Documente el problema y presente un informe mediante el portal de reporte de la Ciudad de Detroit y contacte al Departamento de Innovación y Tecnología y a la oficina legal de la ciudad.
Cómo
- Identifique y documente el problema: identifique la herramienta municipal y recopile ejemplos específicos, fechas y resultados que muestren un posible sesgo.
- Envíe un informe: presente un informe formal al portal de servicios de la Ciudad de Detroit y al Departamento de Innovación y Tecnología.
- Solicite materiales de auditoría: solicite el informe de auditoría del departamento o la declaración de transparencia y pida medidas de remediación.
- Proceda con apelación si es necesario: si no está satisfecho, inicie una apelación administrativa bajo el código municipal o considere recursos legales.
Puntos clave
- Detroit espera transparencia y evaluaciones de sesgo para herramientas municipales de alto impacto.
- Si no se publican multas o procesos específicos, las páginas oficiales citadas indican que no están especificados.
- Reporte preocupaciones a través del portal de la ciudad y contacte a Innovación y Tecnología para supervisión.
Ayuda y recursos
- Departamento de Innovación y Tecnología - Ciudad de Detroit
- Secretaría Municipal - Código Municipal
- Reportar una preocupación / 311 - Ciudad de Detroit
- Asesoría Jurídica de la Ciudad - Ciudad de Detroit