Solicitar una auditoría de sesgo de IA - Ordenanza de Pittsburgh
Esta guía explica cómo residentes, grupos y personal municipal pueden solicitar una auditoría por sesgo algorítmico en herramientas de decisión automatizadas usadas por programas municipales de Pittsburgh, Pennsylvania. Cubre quién puede solicitar la revisión, las autoridades legales más relevantes, los pasos prácticos para presentar la solicitud y qué esperar de la ejecución y las apelaciones. Donde la ciudad no ha publicado reglas específicas para sistemas automatizados de decisión, la guía apunta a las autoridades oficiales más cercanas y cómo usar canales de registros públicos y contratación para pedir una auditoría.
Alcance y base legal
Muchas solicitudes de auditoría se basan en el código municipal, las reglas de contratación, el acceso a registros abiertos o políticas departamentales específicas. Pittsburgh no publica actualmente una ordenanza municipal dedicada titulada "sistema de decisión automatizado" en las páginas consolidadas del código municipal; los remedios proceden típicamente mediante solicitudes de registros públicos, revisión de contratación o supervisión del concejo. Cite la sección estatutaria o del código aplicable en su solicitud si la conoce y nombre la oficina de la ciudad que opera la herramienta.
Quién puede solicitar una auditoría
- Personas directamente afectadas por una decisión municipal, grupos comunitarios o abogados actuando en su nombre.
- Miembros del concejo o el personal del concejo que soliciten supervisión o investigación.
- Auditores internos de la ciudad, el controller de la ciudad o el departamento responsable del sistema.
Sanciones y ejecución
Multas o sanciones específicas vinculadas a fallas en sistemas de decisión automatizados no están establecidas en la página del código municipal citada; la ejecución y los remedios por daños causados por algoritmos se persiguen normalmente mediante órdenes administrativas, remedios de contratación, terminación de contratos o acciones civiles según el instrumento que rija el sistema. Para conocer sanciones concretas, consulte el contrato, la ordenanza o la regla departamental que controle el sistema; cuando esos no especifican sanciones, se utiliza la vía de registros públicos o la supervisión del concejo para buscar remedios.
- Multas monetarias: no especificadas en la página citada; los montos dependen de la ordenanza o contrato aplicable.
- Escalamiento: primeras, repetidas y continuas violaciones se tratan según el código o contrato aplicable; no se especifican rangos en la página citada.
- Sanciones no monetarias: órdenes para cesar el uso, suspensión o terminación de contratos, auditorías de remediación obligatorias o medidas judiciales son posibles remedios.
- Ejecutor: la ejecución puede involucrar al departamento correspondiente, el city solicitor, el controller de la ciudad o comités de supervisión del concejo; use los canales oficiales para notificar a la oficina apropiada.
- Apelaciones y revisión: las vías de apelación dependen de la acción subyacente (apelación administrativa, protesta de contratación o demanda civil); los plazos varían según el foro y no se especifican en la página citada.
- Defensas y discreción: los departamentos pueden alegar exenciones basadas en contrato, remediación en curso o justificaciones de seguridad pública cuando esté permitido; las variaciones o exenciones deben constar en el instrumento que controla el sistema.
Solicitudes y formularios
No existe un formulario estandarizado publicado por la ciudad para una "auditoría de sesgo de IA"; quienes solicitan suelen usar solicitudes de registros públicos, procedimientos de protesta de contratación o una queja por escrito al departamento operador. Cuando exista un formulario departamental específico, será publicado por ese departamento o adjunto al contrato relevante; no hay uno publicado de forma central para auditorías algorítmicas.
Cómo preparar una solicitud de auditoría
Reúna ejemplos concretos de decisiones que considere sesgadas, las fechas y resultados, los nombres del programa municipal o proveedor implicado y cualquier copia disponible de contratos o avisos públicos. Sea preciso respecto al remedio que busca: divulgación, auditoría independiente, suspensión o cambio de política; identifique la autoridad estatutaria o contractual que cree autoriza la acción de la ciudad.
How-To
- Identifique la oficina municipal que opera la herramienta de decisión y el proveedor o número de contrato, si lo conoce.
- Presente una solicitud de registros públicos para la documentación del sistema, entradas del modelo y materiales contractuales usando el procedimiento de registros públicos de la ciudad City of Pittsburgh Public Records [1].
- Envíe una queja por escrito o solicitud de auditoría al jefe del departamento y al city solicitor o controller según corresponda; solicite un plazo de respuesta y remediación.
- Si el asunto involucra contratación, solicite una auditoría del contrato o presente una protesta conforme a las reglas de contratación y pida supervisión del concejo si es necesario.
- Si las vías administrativas fallan, consulte con un abogado sobre revisión judicial o medidas cautelares; preserve la evidencia y documente los daños.
Preguntas frecuentes
- ¿Quién decide si se realiza una auditoría independiente?
- El departamento que opera el sistema, el city solicitor o el concejo pueden autorizar o solicitar una auditoría independiente; las solicitudes de la comunidad suelen proceder vía registros públicos o quejas formales.
- ¿Existe una ordenanza que obligue a auditorías de IA?
- No hay una ordenanza dedicada publicada que obligue a auditorías de IA en las páginas consolidadas del código municipal; los remedios dependen del contrato, la contratación o la autoridad de supervisión.
- ¿Cuánto tarda la respuesta a una solicitud de registros públicos?
- Los tiempos de respuesta siguen las reglas de registros públicos y pueden variar; consulte la página de registros públicos de la ciudad para plazos y exenciones.
Ayuda y apoyo / Recursos
- City of Pittsburgh - Public Records
- Pittsburgh Code of Ordinances (Municode)
- City of Pittsburgh - Department of Innovation & Performance
- Western Pennsylvania Regional Data Center