Guía para cumplir las normas éticas de IA en algoritmos municipales de Nashville, Tennessee

Nashville, Tennessee utiliza cada vez más herramientas algorítmicas en servicios públicos, pero las normas municipales específicas sobre IA son limitadas. Esta guía explica cómo los departamentos municipales, contratistas y proveedores deben abordar la ética, la transparencia, la protección de datos y la supervisión pública al desplegar algoritmos que afectan a residentes. Resume pasos prácticos de cumplimiento, canales de denuncia y apelación, y las fuentes oficiales municipales más cercanas que tratan el uso de datos y la contratación. Donde la ciudad no ha publicado una ordenanza específica sobre algoritmos, esta guía indica los documentos oficiales más relevantes y acciones prácticas para reducir riesgos legales y operativos.

Sanciones y Aplicación

Metro Nashville no parece publicar una ordenanza independiente denominada "ética de IA" para algoritmos municipales; por tanto las sanciones por uso indebido dependen de las disposiciones existentes del código municipal sobre contratación, registros, privacidad y normas departamentales. El Código de Ordenanzas de Metro y la política de datos abiertos/IT de la ciudad son las referencias principales para procesos y supervisión fuente^[1] y datos abiertos^[2].

• Multas: no especificado en la página citada; no se listan sanciones monetarias concretas por uso indebido de algoritmos en el código municipal ni en la política de datos abiertos referenciada.
• Escalamiento: no especificado en la página citada; el escalamiento para infracciones iniciales, repetidas o continuadas depende de la ordenanza aplicable o del recurso contractual.
• Sanciones no monetarias: órdenes de cesar el uso, auditorías correctivas, terminación de contrato o medidas judiciales pueden aplicarse bajo autoridad de contratación y departamental.
• Encarregado de hacer cumplir: el departamento que utiliza el algoritmo, Metro Legal/Departamento de Derecho y oficinas de supervisión de contratación/IT gestionan la aplicación y las quejas; vea contactos departamentales más abajo ^[1].
• Apelaciones: las vías de apelación y los plazos están gobernados por la ordenanza o contrato específico; cuando no se indica, los plazos no están especificados en la página citada.
• Defensas/discreción: defensas como excusa razonable, aprobaciones documentadas o exenciones autorizadas dependen de permisos o renuncias de contratación y no están especificadas para decisiones algorítmicas en las páginas citadas.

Solicitudes y Formularios

No existe un formulario municipal único para evaluaciones de impacto algorítmico o aprobación de IA publicado en las páginas citadas de datos abiertos o del código municipal; los departamentos suelen requerir documentación de contratación, acuerdos de uso de datos o enmiendas contractuales. Para nombres concretos de formularios y procedimientos de presentación, contacte al departamento contratante o a Metro Legal; si existe un formulario formal de evaluación algorítmica no está especificado en la página citada ^[2].

Violaciones Comunes y Resultados Típicos

• Desplegar un algoritmo sin las aprobaciones de contratación requeridas: posibles remedios contractuales, acción correctiva o terminación.
• No publicar conjuntos de datos o explicaciones del modelo cuando lo requiera la política de datos abiertos: órdenes de divulgar o directivas de cumplimiento.
• Usar datos personales o sensibles sin base legal: posibles investigaciones de privacidad y mandatos correctivos.

Pasos de Acción para Cumplimiento

• Realizar una evaluación de impacto algorítmico que documente propósito, entradas de datos, mitigación de sesgos y resultados esperados.
• Publicar metadatos y descripciones de modelos no sensibles en el portal de datos abiertos cuando esté permitido.
• Incluir derechos de auditoría y requisitos de seguridad de datos en contratos con proveedores.
• Designar un contacto departamental para consultas públicas y quejas y notificar a Metro Legal y IT cuando sea necesario.

FAQ

¿Quién hace cumplir las normas sobre algoritmos municipales?

Normalmente los organismos que hacen cumplir son el departamento propietario del sistema, Metro Legal/Departamento de Derecho y las oficinas de supervisión de contratación o TI; los encargados concretos varían y no están consolidados en una ordenanza única sobre IA en las páginas citadas ^[1].

¿Cómo presento una queja sobre una decisión algorítmica?

Presente la queja al departamento que presta el servicio y a Metro Legal o al contacto de datos abiertos de la ciudad. El portal de datos abiertos y las páginas del código municipal listan contactos oficiales para registros y consultas de TI ^[2].

¿Los modelos algorítmicos están sujetos a solicitudes de registros públicos?

Los modelos y los datos relacionados pueden estar sujetos a leyes de registros públicos, pero pueden aplicar exenciones por información propietaria o sensible; los detalles dependen del documento y se tratan bajo las reglas vigentes de registros.

How-To

1. Identifique el propósito y el departamento propietario del algoritmo propuesto y notifique a Metro Legal al inicio del proyecto.
2. Complete una evaluación de impacto por escrito que cubra datos, equidad, precisión y medidas de mitigación.
3. Incluya cláusulas contractuales requeridas para auditorías, protección de datos y reportes públicos en los documentos de contratación.
4. Organice una auditoría independiente o departamental antes del despliegue completo y documente las acciones correctivas.
5. Publique los metadatos permitidos en el portal de datos abiertos de la ciudad y facilite un contacto público para quejas.

Puntos Clave

• No existe una ordenanza Metro única para IA; confíe en contratación, registros y políticas de TI.
• Realice evaluaciones de impacto y asegure derechos de auditoría en contratos.

Ayuda y Soporte / Recursos

• Código de Ordenanzas de Metro Nashville
• Portal de Datos Abiertos de Nashville
• Sitio oficial de la Ciudad de Nashville