Solicitar auditoría de sesgo de IA para herramientas de la ciudad de Phoenix
Los residentes de Phoenix, Arizona y el personal municipal pueden solicitar una revisión independiente cuando los algoritmos o sistemas automatizados municipales planteen preocupaciones sobre equidad, discriminación o transparencia. Esta guía explica quién puede solicitar una auditoría, los departamentos involucrados, cómo presentar una solicitud, las vías de cumplimiento y qué esperar durante la revisión y las apelaciones.
Alcance y quién puede solicitar
Las solicitudes suelen aplicarse a sistemas de decisión automatizada utilizados por servicios municipales como permisos, licencias, determinación de beneficios o análisis de seguridad pública. Los solicitantes elegibles suelen incluir empleados de la ciudad, miembros de la comunidad y organizaciones autorizadas. Para sistemas adquiridos por contrato o gestionados por proveedores, Purchasing y la oficina de TI de la ciudad son los contactos probables para iniciar revisiones técnicas[2][3].
Sanciones y cumplimiento
No existe una ordenanza única publicada de Phoenix que fije multas específicas por sesgo de IA en herramientas municipales; la ejecución depende del contrato aplicable, las disposiciones del código municipal y las normas departamentales. Cuando un sistema infringe requisitos de no discriminación o obligaciones contractuales, las medidas pueden incluir sanciones contractuales, órdenes correctivas o remisión a procesos de cumplimiento de la ciudad.
- Montos de multas: no especificado en la página citada; las multas por infracciones relacionadas se rigen por el código municipal de Phoenix y los términos contractuales aplicables[1].
- Escalamiento: primero, órdenes de remediación o planes correctivos del proveedor; incumplimientos repetidos o continuos pueden desencadenar la terminación del contrato o acciones civiles—rangos específicos no especificados en la página citada[1].
- Sanciones no monetarias: órdenes de corrección, suspensión del sistema, incautación de datos para investigación y remisión a procesos administrativos o judiciales.
- Encarregado: el departamento correspondiente (por ejemplo, Purchasing para contratos con proveedores; City IT para controles técnicos) gestiona inspecciones y cumplimiento; los contactos oficiales departamentales detallan los procedimientos y puntos de envío[2][3].
- Apelaciones y revisiones: las vías de apelación siguen la revisión administrativa en el código de la ciudad o los procesos de disputa contractual; los plazos no están especificados en la página citada y dependerán del instrumento que rija[1].
- Defensas y discreción: los departamentos pueden considerar exenciones autorizadas, permisos válidos, pilotos temporales o planes de remediación del proveedor al ejercer discreción.
Solicitudes y formularios
No existe un formulario único publicado por la ciudad titulado "solicitud de auditoría de sesgo de IA" en las páginas oficiales de compras o TI; las solicitudes normalmente se envían a través de formularios de contacto departamentales, solicitudes de cambio en compras o presentando una queja ante la oficina responsable[2][3]. Si un contrato o programa tiene una junta de supervisión, siga los procesos de presentación que se especifiquen en el contrato o los documentos de política (no especificado en la página citada).
Cómo se procesa una auditoría
Los pasos típicos cuando se recibe una solicitud de auditoría incluyen admisión y clasificación, definición técnica del alcance, revisión de datos y código (sujeta a privacidad y reglas de contratación), participación del proveedor, planificación de remediación y publicación de hallazgos o resúmenes ejecutivos cuando lo permitan las reglas. Los plazos dependen del alcance y el acceso a sistemas y datos.
Preguntas frecuentes
- ¿Quién puede pedir una auditoría de sesgo de IA?
- Residentes, personal de la ciudad y organizaciones autorizadas pueden solicitar revisiones; las reglas exactas de elegibilidad dependen de los procedimientos departamentales.
- ¿Hay una tarifa para presentar la solicitud?
- Las tarifas para auditorías o revisiones técnicas no están especificadas en las páginas de compras o TI citadas; cuando las auditorías son impulsadas por proveedores, los costos suelen imputarse por contrato o presupuesto interno[2][3].
- ¿Cuánto tiempo tarda una auditoría?
- La duración depende del alcance, el acceso a datos y la cooperación del proveedor; las revisiones simples pueden tardar semanas y las auditorías técnicas completas pueden tardar meses.
Cómo hacerlo
- Identifique el sistema y reúna evidencia con ejemplos y fechas.
- Contacte al departamento responsable (Purchasing para sistemas de proveedores; City IT para sistemas internos) con una solicitud por escrito describiendo las preocupaciones y la evidencia[2][3].
- Si el sistema se adquirió por contrato municipal, notifique al administrador del contrato e incluya identificadores del contrato.
- Permita que la ciudad clasifique la solicitud; esté preparado para aportar documentos adicionales o consentimiento para la revisión de datos.
- Participe en entrevistas de interesados y revise los planes de remediación propuestos por la ciudad o el proveedor.
- Si está insatisfecho, siga el proceso de apelación del código de la ciudad o del contrato según lo aconseje el departamento competente.
Puntos clave
- No existe un formulario único; contacte a Purchasing o City IT para iniciar el proceso.
- El cumplimiento puede implicar remedios contractuales y suspensión del sistema más que un calendario fijo de multas.
Ayuda y recursos
- City of Phoenix Purchasing - contactos de contratación y proveedores.
- City of Phoenix Information Technology - supervisión técnica y propietarios de sistemas.
- Phoenix Municipal Code (codified ordinances) - procedimientos administrativos y normas generales.