Solicitar auditoría de sesgo de IA - Normativas de New York City
New York City, New York, las agencias utilizan cada vez más sistemas automatizados de decisión (ADS) para apoyar servicios públicos. Esta guía explica cómo solicitar una auditoría de sesgo de IA para una herramienta de decisión municipal según las normativas de New York City, quién hace cumplir el cumplimiento, qué sanciones o remedios pueden aplicarse y los pasos prácticos para solicitar, apelar o informar preocupaciones a las oficinas responsables.
Resumen del proceso de solicitud
Las solicitudes de auditoría suelen comenzar con una consulta por escrito a la agencia que opera el sistema o a la oficina de la ciudad que supervisa la transparencia y el cumplimiento de ADS. La ciudad mantiene un Grupo de Trabajo de ADS y un inventario de ADS que describe los sistemas cubiertos y las políticas publicadas; las agencias deben documentar los sistemas que toman o ayudan materialmente en decisiones que afectan al público.Automated Decision Systems Task Force[1]
Sanciones y ejecución
La ley de la ciudad y los materiales de implementación enfatizan la transparencia, las evaluaciones de impacto y la responsabilidad de las agencias. Los importes de las sanciones y las multas escalonadas por no publicar inventarios o evaluaciones de impacto no están listados en las páginas citadas; consulte las citas oficiales para el lenguaje de ejecución y los remedios.Local laws and publications[2]
- Importes de multas: no especificado en la página citada.
- Escalado: rangos para primeras, repetidas o continuas infracciones no especificados en la página citada.
- Autoridad que hace cumplir: el responsable de la agencia con supervisión de la Oficina del Alcalde o del Grupo de Trabajo de ADS; las agencias administran el cumplimiento y los deberes de informes.
- Sanciones no monetarias: órdenes de cesar el uso, remediación requerida, publicación de conclusiones o remisión a procesos legales son posibles pero no detalladas en la página citada.
- Vías de inspección y queja: envíe solicitudes y quejas a la agencia operadora y al Grupo de Trabajo de ADS; siga los procedimientos de la agencia para registros y solicitudes de transparencia.
- Apelaciones y revisión: las apelaciones administrativas generalmente siguen los procedimientos de notificación y apelación de la agencia operadora; los plazos exactos para apelaciones no están especificados en la página citada.
Solicitudes y formularios
No hay un formulario público dedicado a "auditoría de sesgo de IA" publicado en las páginas del Grupo de Trabajo de ADS o en las publicaciones de leyes locales; las agencias pueden aceptar solicitudes por escrito, solicitudes FOIL o remisiones internas de cumplimiento. Para formularios y métodos de envío, comuníquese con la agencia operadora o con el Grupo de Trabajo de ADS.Automated Decision Systems Task Force[1]
Cómo solicitar una auditoría de sesgo de IA
- Identifique la agencia y la herramienta de decisión específica, incluidos los identificadores del programa o del caso.
- Envíe una solicitud por escrito a la oficina pública de la agencia o al Grupo de Trabajo de ADS describiendo sus preocupaciones y el remedio solicitado.
- Si es necesario, presente una solicitud FOIL para obtener registros sobre el sistema, el modelo o la evaluación de impacto.
- Siga los procedimientos de apelación de la agencia si la solicitud es denegada; solicite plazos e instrucciones de revisión a la agencia.
- Si el asunto implica posible discriminación ilegal, considere también contactar oficinas de cumplimiento o asesoría legal.
Violaciones comunes
- No incluir un sistema de decisión automatizado cubierto en el inventario ADS de la ciudad.
- No publicar una evaluación de impacto requerida antes de desplegar un sistema cubierto.
- Usar un sistema que produce impactos desproporcionados sin pasos de mitigación documentados.
Preguntas frecuentes
- ¿Quién puede solicitar una auditoría de sesgo de IA?
- Cualquier miembro del público, organización comunitaria o persona afectada por una herramienta de decisión municipal puede presentar una solicitud a la agencia operadora o al Grupo de Trabajo de ADS.
- ¿Cuánto tiempo tiene la ciudad para responder?
- Los tiempos de respuesta dependen de los procedimientos de la agencia y de los plazos de FOIL; los plazos legales específicos para solicitudes de auditoría de IA no están especificados en las páginas citadas.
- ¿La ciudad compartirá detalles del modelo o el código fuente?
- La divulgación depende de la seguridad, la privacidad y las reglas de contratación; las agencias equilibran la transparencia con preocupaciones legítimas de confidencialidad.
Cómo hacerlo
- Localice la agencia operadora y la entrada ADS para el sistema.
- Redacte una solicitud por escrito concisa describiendo el presunto sesgo y el alcance de auditoría solicitado.
- Entregue la solicitud al contacto público de la agencia y al Grupo de Trabajo de ADS; conserve el comprobante de entrega.
- Si recibe una denegación o no respuesta, presente una solicitud FOIL para obtener registros y solicite instrucciones de apelación.
- Considere presentar una queja ante el inspector de la agencia o buscar revisión legal si es necesario.
Puntos clave
- Comience con la agencia operadora y el Grupo de Trabajo de ADS para solicitudes y registros.
- Mantenga registros escritos y utilice FOIL cuando se deniegue la transparencia.
Ayuda y apoyo / Recursos
- Automated Decision Systems Task Force - NYC
- NYC Local Laws and Publications
- NYC Department of Information Technology and Telecommunications (DoITT)