Solicitar informes de auditoría de sesgo para decisiones automatizadas en Brooklyn
Introducción
Los residentes y defensores de Brooklyn, New York, pueden solicitar informes de auditoría de sesgo y registros relacionados cuando las agencias municipales usan sistemas de decisión automatizada (ADS) que afectan vivienda, prestaciones, licencias, estacionamiento o aplicación de normas. Esta guía explica cómo identificar sistemas relevantes, presentar una solicitud en Open Records, qué esperar de las agencias y pasos prácticos bajo las prácticas de transparencia de la ciudad. Se enfoca en procedimientos, barreras comunes y remedios disponibles para personas que creen que un ADS produjo resultados sesgados o discriminatorios.
Qué es un informe de auditoría de sesgo y cuándo solicitarlo
Un informe de auditoría de sesgo normalmente documenta pruebas de impactos desiguales, características del conjunto de datos, validación del modelo y medidas de mitigación para un sistema de decisión automatizada. Solicite un informe cuando un ADS se utilice para determinar derechos individuales, prestaciones, seguridad pública o licencias. Comience por identificar la agencia que opera o contrata el ADS y el nombre público del sistema.
- Identifique la agencia y el nombre del sistema; consulte inventarios de ADS de la agencia o avisos públicos.
- Solicite informes, documentación, descripciones del modelo, resúmenes de datos de entrenamiento y evaluaciones de impacto.
- Use el contacto de la agencia o los portales de Open Records para presentar solicitudes y preguntar sobre exenciones o redacciones.
Sanciones y cumplimiento
El cumplimiento por no publicar información sobre ADS o por no responder a solicitudes de transparencia se maneja mediante procesos administrativos de la agencia, el proceso de Open Records de la ciudad y, cuando corresponda, revisión judicial bajo las leyes estatales de acceso a la información. Multas específicas o sanciones administrativas por no producir informes de auditoría de sesgo no están especificadas en la página citada; las agencias suelen apoyarse en obligaciones de divulgación y supervisión en lugar de multas fijas por esta obligación de divulgación.
- Responsable del cumplimiento: la agencia municipal que opera el ADS y la oficina del alcalde o el órgano de supervisión de ADS pueden coordinar el cumplimiento y la supervisión.
- Recursos/Apelaciones: la negativa a divulgar registros puede impugnarse mediante el proceso de Open Records de la ciudad y, si es necesario, mediante petición judicial bajo la ley estatal de acceso a la información; los plazos para apelaciones no están especificados en la página citada.
- Sanciones monetarias: no están especificadas en la página citada.
- Sanciones no monetarias: órdenes de divulgación, directivas administrativas, cambios de política o remedios contractuales pueden aplicarse; los remedios específicos no están especificados en la página citada.
Solicitudes y formularios
Para solicitar informes de auditoría de sesgo, presente una solicitud de Open Records mediante el portal NYC Open Records o el proceso designado de la agencia para solicitudes de registros públicos. Cuando una agencia publique un inventario de ADS o una evaluación de impacto, la entrada publicada a menudo indica el custodio del documento y cómo solicitar los documentos de apoyo. El canal público principal para solicitudes de registros de la ciudad es el portal NYC Open Records a860-openrecords.nyc.gov[1].
- Nombre del formulario: formulario de solicitud de NYC Open Records (portal en línea).
- Plazos: los plazos de respuesta específicos de la agencia o los plazos legales no están especificados en la página citada; siga la guía del portal y las instrucciones de la agencia.
- Tarifas: muchas solicitudes de registros son gratuitas; pueden aplicarse tarifas para solicitudes de grandes volúmenes de datos según la política de la agencia y no están especificadas en la página citada.
Cómo preparar una solicitud clara
Sea preciso: incluya el nombre de la agencia, el nombre del sistema (si lo conoce), rangos de fechas y los tipos de documentos que solicita (informes de auditoría de sesgo, informes de validación, resúmenes de conjuntos de datos, contratos de proveedores y evaluaciones de impacto). Ofrezca aceptar versiones redactadas si los registros completos se retienen por razones legítimas de confidencialidad.
- Especifique los registros exactos necesarios (por ejemplo, "informe de auditoría de sesgo para [nombre del sistema] del periodo 2022-2024").
- Solicite primero las evaluaciones de impacto publicadas o las entradas del inventario de ADS para delimitar el alcance.
- Proporcione datos de contacto y formato de respuesta preferido (PDF, CSV, etc.).
Violaciones comunes y resultados típicos
- No publicar entradas de inventario de ADS: remedio típico: la agencia actualiza el inventario o proporciona los registros a solicitud.
- Negativa a divulgar informes de sesgo: remedio típico: apelación interna vía Open Records y, si es necesario, revisión judicial.
- Contratos de proveedores o detalles del modelo no divulgados: resultado común: divulgación parcial con redacciones o negociación sobre la base contractual.
Pasos de acción
- Paso 1: identifique el ADS y la agencia responsable usando inventarios o avisos de contratación.
- Paso 2: presente una solicitud en NYC Open Records y nombre claramente los documentos.
- Paso 3: si la solicitud es denegada, siga el proceso de apelación de la agencia y considere la revisión judicial.
Conclusiones clave
- Use el portal NYC Open Records para solicitar informes de auditoría de sesgo y registros relacionados.
- Sea preciso en la solicitud para acelerar el procesamiento.
- Si se deniega, agote las apelaciones administrativas y considere recursos legales.
Ayuda y soporte / Recursos
- Portal NYC Open Records
- Departamento de Tecnología e Información de NYC (DoITT)
- Task Force de Sistemas de Decisión Automatizada de NYC