Reglas de auditoría de ética y sesgo de IA - Washington Heights
Washington Heights, Nueva York, residentes y gestores de programas municipales deben comprender cómo se aplican los requisitos de la ciudad sobre equidad algorítmica y auditorías a los servicios locales. Esta guía resume el marco municipal que afecta a los sistemas de decisión automatizados utilizados por agencias de la ciudad, las vías probables de cumplimiento, y pasos prácticos para solicitar auditorías, presentar quejas y buscar remedios cuando una decisión impulsada por IA le afecta en Washington Heights.
Descripción general de las normas municipales de auditoría de IA
La Ciudad de Nueva York exige que las agencias que utilizan sistemas de decisión automatizados documenten, prueben y, en algunos casos, auditen esos sistemas para detectar sesgos y equidad. Las obligaciones locales se centran en la transparencia, la evaluación de impacto y la disponibilidad pública de resúmenes de auditoría para los sistemas cubiertos usados en decisiones municipales. Para procedimientos detallados de las agencias y el inventario público de ADS, consulte la herramienta y el inventario de la ciudad.Automated Decision Systems toolkit[1]
Sanciones y Cumplimiento
La aplicación de los requisitos municipales relacionados con los sistemas de decisión automatizados se realiza mediante la supervisión de las agencias, las obligaciones de notificación pública y los procedimientos de las agencias para contratación y uso. Las multas monetarias específicas y los calendarios de sanciones no están listados de forma consistente en la guía municipal principal y por ello se señalan como no especificados abajo cuando proceda.Automated Decision Systems toolkit[1]
- Cantidad de multa: no especificado en la página citada.
- Escalado: primera infracción frente a infracciones repetidas o continuas - no especificado en la página citada.
- Sanciones no monetarias: auditoría obligatoria o órdenes de reevaluación, retirada del ADS del servicio, descalificación en contrataciones y remisión a asesoría legal o revisión administrativa.
- Organismo(s) que hacen cumplir: la agencia que usa el ADS junto con oficinas de supervisión de la ciudad identificadas en la guía oficial de ADS; detalles de contacto del organismo competente están disponibles en la herramienta de la ciudad y en las páginas de las agencias.Automated Decision Systems toolkit[1]
- Vías de inspección y queja: las quejas normalmente se dirigen a la agencia que utilizó el ADS, con rutas opcionales de comentario público o solicitud de auditoría descritas en la guía de la ciudad.
- Recursos de apelación o revisión: revisión a nivel de agencia y recursos civiles; los plazos específicos para apelaciones no están especificados en la página citada.
- Discreción y defensas: las agencias pueden considerar la necesidad comercial documentada, exenciones legales existentes y planes de remediación; los mecanismos formales de permiso o variación para el uso de ADS no están especificados en la página citada.
Solicitudes y Formularios
No existe un formulario público único a nivel ciudad para solicitar una auditoría de ADS publicado de forma central en la página de la herramienta; los residentes afectados deben contactar a la agencia específica que emitió la decisión para obtener formularios o procedimientos de solicitud. Para solicitudes específicas de auditoría de agencia o registros FOIL, remítase a la oficina de contacto y procedimientos de solicitudes de registros de la agencia pertinente.Automated Decision Systems toolkit[1]
Violaciones comunes y resultados típicos
- Fallo al documentar un ADS antes del despliegue — resultado: documentación obligatoria y demora o retirada del servicio.
- Pruebas insuficientes de sesgo o evaluación de impacto — resultado: pruebas obligatorias de nuevo y plan de remediación.
- Fallo en publicar resúmenes o avisos requeridos — resultado: acción de cumplimiento o orden pública de conformidad.
Cómo deben cumplir las agencias en Washington Heights
Las agencias que sirven a Washington Heights deben mantener un inventario actualizado de ADS en uso, realizar evaluaciones de impacto previas al despliegue, documentar los resultados de las pruebas sobre sesgo y disparate impacto, y proporcionar resúmenes públicos cuando se requiera. Los residentes que busquen remedios deben seguir el proceso de quejas de la agencia y, si es necesario, solicitar registros o revisión administrativa.
Preguntas frecuentes
- ¿Qué agencia de la ciudad hace cumplir las normas de auditoría de IA para decisiones que afectan a los residentes de Washington Heights?
- La agencia que utilizó el sistema de decisión automatizado es la responsable principal, con supervisión y orientación de oficinas de la ciudad identificadas en la guía municipal de ADS.[1]
- ¿Puedo solicitar el informe de auditoría de una decisión automatizada sobre mí?
- Sí — solicite la documentación y los resúmenes de auditoría a la agencia emisora; si la agencia deniega el acceso, utilice el proceso de registros o FOIL de la agencia y solicite revisión administrativa.
- ¿Se especifican multas monetarias por incumplimiento de ADS?
- Las multas monetarias y los importes exactos de las sanciones no están especificados en la página de orientación municipal citada.[1]
Cómo hacerlo
- Identifique la agencia que emitió la decisión y encuentre su documentación o punto de contacto de ADS.
- Envíe una solicitud formal de registros o una petición de auditoría a esa agencia describiendo la decisión y su preocupación.
- Si la respuesta de la agencia es insuficiente, presente una apelación administrativa o use FOIL y considere contactar la oficina de supervisión de la ciudad indicada en la guía de ADS.
- Conserve registros de la correspondencia y de cualquier acción correctiva; acuda a asesoría legal o recursos civiles si no se restablecen sus derechos.
Puntos clave
- La transparencia y las evaluaciones previas son fundamentales en las normas de ADS de la ciudad.
- Póngase en contacto primero con la agencia emisora para solicitar auditorías o registros.
Ayuda y Recursos
- City of New York - Automated Decision Systems toolkit
- NYC Department of Buildings
- NYC Department of Information Technology and Telecommunications