Guía de ética de IA y solicitud de auditoría de sesgo de la ciudad de Memphis
Esta guía explica cómo solicitar una revisión ética de IA y una auditoría de sesgo para sistemas utilizados en contextos municipales de Memphis, Tennessee. Resume quién maneja típicamente las solicitudes, qué documentación preparar, cómo las solicitudes se relacionan con la contratación y las normas de privacidad, y dónde enviar quejas o apelaciones. Dado que Memphis actualmente depende de vías existentes de contratación, gobernanza de TI y cumplimiento en lugar de una única ordenanza llamada "IA", los solicitantes deben seguir los procedimientos a continuación y contactar a los departamentos listados para instrucciones específicas del caso.[1]
Descripción general
Los departamentos de la ciudad que consideran u operan sistemas algorítmicos deben documentar el propósito, las fuentes de datos, los proveedores externos, los datos de entrenamiento y validación, y las medidas de mitigación previstas. Para solicitudes externas de residentes, auditoras sin fines de lucro o proveedores que buscan una revisión municipal, prepare una solicitud concisa que describa el sistema, el impacto de las decisiones, las poblaciones afectadas y cualquier resultado dispar observado. Incluya copias de contratos, acuerdos de intercambio de datos y evaluaciones de impacto de privacidad cuando estén disponibles.
Proceso de solicitud y oficinas responsables
Las oficinas y roles típicos responsables incluyen:
- Tecnología de la Información / gobernanza de TI de la ciudad para revisión técnica e inventario de sistemas.
- División de Contratación o Compras para contratos con proveedores y registros de adquisición.
- Inspección de Códigos o la oficina programática relevante cuando un sistema afecta cumplimiento regulatorio o seguridad pública.
Para cuestiones políticas a nivel de ciudad y asuntos legislativos, el acta del secretario del Ayuntamiento y los registros de comités pueden documentar acciones previas del concejo relacionadas con supervisión tecnológica.[2]
Sanciones y cumplimiento
Memphis no publica actualmente una ordenanza municipal única denominada “ética de IA” con multas establecidas; el cumplimiento y la ejecución se derivan de los códigos existentes sobre contratación, privacidad, registros públicos e inspección de códigos. Cuando se aplican sanciones monetarias específicas, estas se fijan en la ordenanza correspondiente o en los remedios contractuales. Si no hay una multa dedicada en la página oficial, la guía a continuación cita el instrumento que controla o indica que los importes no están especificados.
- Importes de multas: no especificado en la página citada.
- Escalamiento: no especificado en la página citada; la aplicación municipal suele usar advertencias, avisos de infracción y multas progresivas cuando las ordenanzas lo prevén.
- Remedios no monetarios: órdenes de corrección, auditorías obligatorias, suspensión de un sistema, terminación de contratos, recursos judiciales o remisión a tribunales civiles.
- Encaragdos de hacer cumplir: División de Contratación, TI de la Ciudad, Inspección de Códigos, o el departamento que opera el sistema; las quejas formales pueden canalizarse a través de la Secretaría del Ayuntamiento o la oficina del alcalde para revisión interdepartamental.
Solicitudes y formularios
Actualmente no existe un formulario municipal único publicado específicamente titulado "revisión ética de IA" o "auditoría de sesgo" en las páginas de código consolidadas de la ciudad; los departamentos típicamente aceptan solicitudes escritas, peticiones de registros públicos, o peticiones de auditoría de contratación según el contexto. Para registros de contratos o adquisiciones, use el proceso de solicitud de la división de Contratación; para evaluaciones técnicas, contacte a TI de la Ciudad con una solicitud escrita que incluya alcance y necesidades de acceso a datos. Cuando exista un formulario específico, aparecerá en la página del departamento administrador; de lo contrario, una carta formal o un correo electrónico es el método de envío habitual.
Pasos de acción
- Reúna documentación: alcance, resumen de datos, contratos y cualquier evaluación interna.
- Envíe una solicitud escrita a TI de la Ciudad y a Contratación explicando la revisión solicitada y los recursos deseados.
- Realice seguimiento con el contacto departamental si no recibe acuse de recibo en 14 días.
- Si no está satisfecho con el resultado administrativo, solicite una revisión o pida a su concejal que remita el asunto al comité correspondiente.
Preguntas frecuentes
- ¿Quién puede solicitar una revisión ética de IA?
- Cualquier residente, empleado municipal, concejal o auditor externo puede solicitar una revisión enviando una solicitud escrita a TI de la Ciudad o a Contratación.
- ¿Cuánto demora una revisión?
- Los plazos dependen del caso y no están especificados en la página citada; las auditorías complejas pueden tardar semanas o meses según el acceso a los datos y el alcance.
- ¿Son públicas las auditorías de sesgo?
- Los informes de auditoría que son registros de la ciudad pueden estar sujetos a la ley de registros públicos, aunque se pueden redactar partes por privacidad o confidencialidad bajo las exenciones aplicables.
Cómo hacerlo
- Defina el alcance: describa el sistema, las decisiones afectadas, el periodo y las preocupaciones específicas.
- Recolecte materiales de apoyo: contratos, diccionarios de datos, documentación del modelo e informes de incidentes.
- Envíe una solicitud escrita a TI de la Ciudad y a Contratación solicitando acuse de recibo y un plazo estimado.
- Coordine el acceso a los datos y términos de confidencialidad con la ciudad; espere redacciones o entornos seguros para revisión de datos sensibles.
- Si no está conforme, solicite una revisión administrativa o pida a su concejal que refiera el asunto al comité apropiado.
Puntos clave
- Memphis no tiene una ordenanza única de IA publicada; use canales existentes de contratación y gobernanza de TI.
- Prepare documentación clara y solicite revisión conjunta por TI y Contratación para una resolución más rápida.
Ayuda y Recursos
- Código de Ordenanzas de la Ciudad de Memphis
- Ayuntamiento - Ciudad de Memphis
- Inspección de Códigos - Ciudad de Memphis
- Contratación / Compras - Ciudad de Memphis