Solicitar auditoría de sesgo de IA - Guía de ordenanzas de East New York
En East New York, Nueva York, los departamentos municipales que emplean herramientas de decisión automatizada deben saber cómo solicitar una auditoría independiente de sesgo de IA y cómo las normas municipales rigen la transparencia y la rendición de cuentas. Esta guía explica los pasos prácticos que pueden seguir los departamentos, las oficinas que publican inventarios de ADS y la orientación de supervisión, y cómo denunciar preocupaciones o solicitar una revisión. Resume los requisitos publicados por la ciudad, indica dónde las páginas oficiales no especifican sanciones o formularios, y dirige a los departamentos a los contactos oficiales para iniciar una solicitud de auditoría.
Penalties & Enforcement
La ciudad de Nueva York tiene un proceso de divulgación de Sistemas de Decisión Automatizada (ADS) y supervisión a nivel de agencia que exige que las agencias enumeren los sistemas desplegados y revisen sus impactos. Las multas específicas por no solicitar o completar una auditoría no se especifican en las páginas citadas; la aplicación se basa en la supervisión de la agencia y los procesos de revisión administrativa. Para requisitos de supervisión e inventario, consulte los materiales del ADS Task Force y la orientación de DoITT[1][2].
- Multas: no especificado en la página citada.
- Escalamiento: rangos para primera/reincidencia/ofensas continuas no especificados en la página citada.
- Sanciones no monetarias: órdenes administrativas, remediación obligatoria, retiro de una herramienta o pausa en la contratación (cuando la agencia lo requiera) son los remedios típicos comentados en la orientación de supervisión.
- Agente de ejecución y vía de denuncia: oficina del programa de la agencia, DoITT o el ADS Task Force; las preocupaciones públicas pueden denunciarse a través de NYC 311 para su derivación.
- Apelaciones y revisión: los plazos específicos para apelaciones no se especifican en las páginas citadas; las agencias usan canales administrativos establecidos.
Applications & Forms
No hay un único "formulario de solicitud de auditoría" publicado de forma central en la página de inventario ADS o en la orientación de DoITT; las agencias normalmente aceptan solicitudes por escrito de los gestores de programa o contactos de contratación y dirigen las auditorías a través de DoITT o del proceso de supervisión del alcalde. Si existe un formulario formal, no se especifica en las páginas citadas.
- Envío requerido: solicitud por escrito o memorando de la dirección del departamento a la persona de supervisión de la agencia (formulario no especificado).
- Tarifas: no especificado en la página citada.
- Plazos: no especificado en la página citada; siga las instrucciones de la agencia una vez que se abra una revisión.
How departments can request an AI bias audit
Pasos de acción que los departamentos deben seguir internamente antes de contactar las oficinas de supervisión:
- Prepare la documentación: descripción del algoritmo, fuentes de datos, lógica de decisión, evaluación de riesgos y uso previsto.
- Verifique el inventario ADS de la agencia y los materiales de divulgación para confirmar que el sistema está registrado[1].
- Contacte al responsable de TIC/contratación de su agencia para solicitar la coordinación de la auditoría[2].
- Acepte el alcance: si la auditoría cubre datos de entrenamiento, salidas del modelo, rendimiento por subgrupos o el flujo de decisión de extremo a extremo.
FAQ
- ¿Quién puede solicitar una auditoría de sesgo de IA para una herramienta municipal?
- Los gestores de programa del departamento, los responsables de contratación o TI y la dirección de la agencia pueden iniciar una solicitud de auditoría; las solicitudes de interés público pueden presentarse a través de canales de queja de la agencia como 311.
- ¿Existe una tarifa o plazo publicado para las auditorías?
- Las tarifas y los plazos no se especifican en las páginas citadas; las agencias establecen calendarios cuando aceptan una solicitud.
- ¿Dónde informo sobre daños algorítmicos sospechados?
- Informe las preocupaciones a la oficina del programa de la agencia y presente una remisión a NYC 311 para la derivación a nivel de ciudad.
How-To
- Compile toda la documentación del sistema: hojas de datos, acuerdos con proveedores y evaluaciones de impacto.
- Notifique al contacto de TIC/supervisión de su agencia y solicite una revisión inicial.
- Colabore con los auditores para definir el alcance y el acceso a los datos, y firme los acuerdos de confidencialidad o intercambio de datos necesarios.
- Reciba el informe de auditoría, aplique la remediación requerida y actualice la entrada del inventario ADS.
Key Takeaways
- Documente los despliegues ADS y mantenga registros para agilizar las solicitudes de auditoría.
- Use los contactos de TIC/DoITT de la agencia para coordinar revisiones y remediaciones.
Help and Support / Resources
- DoITT - Department of Information Technology & Telecommunications
- NYC Automated Decision Systems (ADS) Inventory
- NYC 311 - Report a Concern or Request Assistance