Ley municipal de Queens - Auditoría y transparencia de IA
Queens, Nueva York, las agencias municipales y contratistas utilizan cada vez más sistemas de decisión automatizados y modelos de IA en servicios que van desde permisos hasta la evaluación de beneficios. Este artículo explica las expectativas de transparencia y auditoría a nivel municipal aplicables, quién las hace cumplir, cómo los residentes y proveedores pueden cumplir o solicitar revisión, y dónde presentar quejas en Queens, Nueva York. Resume los instrumentos oficiales de la ciudad pertinentes y señala dónde no se especifican sanciones o formularios en las páginas oficiales citadas.
Alcance y qué sistemas están cubiertos
Las leyes municipales y la orientación de implementación se centran en los sistemas de decisión automatizados utilizados para tomar o asistir materialmente en decisiones gubernamentales que afectan a individuos o grupos. Los sistemas usados solo para operaciones internas sin impacto decisional o para investigación pueden tratarse de forma diferente según la política y la normativa de la agencia. Los inventarios y procesos de revisión de la agencia suelen cubrir modelos que influyen en elegibilidad, contratación, cumplimiento o beneficios.
Obligaciones clave para la IA municipal
- Publicar un inventario o descripción de los sistemas de decisión automatizados desplegados y su propósito.
- Realizar evaluaciones de riesgo previas al despliegue y documentar fuentes de datos, métricas de rendimiento y planes de mitigación.
- Implementar auditorías de sesgo, pruebas de equidad y reevaluación periódica para sistemas de alto impacto.
- Proporcionar canales de contacto y de quejas para que las personas afectadas soliciten revisión humana o presenten inquietudes.
Sanciones y cumplimiento
Los estatutos a nivel de ciudad y la orientación de implementación asignan responsabilidad de supervisión a agencias y oficinas designadas por la ley local o la normativa de la agencia, y crean obligaciones de transparencia para el uso municipal de sistemas de decisión automatizados. Cuando las páginas oficiales enumeran mecanismos de cumplimiento, suelen enfatizar acciones correctivas, auditorías y supervisión administrativa; las multas monetarias específicas o sanciones penales para agencias municipales que no cumplan no están especificadas de forma consistente en las páginas citadas. [1][2]
- Multas monetarias: no especificadas en la página citada.
- Escalamiento: la orientación oficial enfatiza la remediación y la reevaluación para hallazgos iniciales y repetidos; los rangos de escalamiento exactos no están especificados en la página citada.
- Sanciones no monetarias: órdenes de eliminar o modificar sistemas, auditorías obligatorias, requisitos de informes públicos y remisión a oficinas de supervisión se describen como herramientas de cumplimiento.
- Entidad que hace cumplir: la dirección de la agencia designada, la oficina de la ciudad encargada de la supervisión de sistemas de decisión automatizados y los oficiales de cumplimiento de cada agencia aceptan quejas y realizan revisiones; los canales de contacto oficiales aparecen en las páginas de la agencia y en los inventarios. [1]
- Apelaciones y revisión: a las partes afectadas generalmente se les indica solicitar revisión humana o seguir los procedimientos de apelación de la agencia; los plazos estatutarios explícitos para presentar apelaciones no están especificados en las páginas citadas.
Solicitudes y formularios
Cuando las agencias requieren presentaciones para la revisión o aprobación de modelos, publican formularios de solicitud o plantillas en sus páginas oficiales; sin embargo, para muchos requisitos de transparencia a nivel de ciudad no hay un formulario público estandarizado en las páginas de orientación primarias, y las agencias aceptan documentación a través de contactos de cumplimiento designados. Para detalles consulte el inventario ADS de la agencia o la oficina encargada de la supervisión. [1]
Pasos prácticos para agencias y proveedores
- Realice y documente una evaluación de riesgos previa al despliegue identificando impactos y poblaciones afectadas.
- Ejecute y archive auditorías de sesgo y de rendimiento; conserve los resultados para revisión de la agencia.
- Publique las entradas requeridas del inventario o las divulgaciones de transparencia en el portal ADS de la agencia.
- Proporcione puntos de contacto claros y métodos de presentación de quejas accesibles para los residentes.
Violaciones comunes
- No divulgar un sistema de decisión automatizado en un inventario de la agencia.
- Ausencia o prueba incompleta de sesgo/equidad para sistemas de alto impacto.
- No contar con un mecanismo de queja o revisión humana accesible para personas afectadas.
Preguntas frecuentes
- ¿Quién hace cumplir la transparencia de la IA municipal en Queens?
- Las oficinas de supervisión designadas de las agencias y la oficina de la ciudad responsable de la supervisión de sistemas de decisión automatizados hacen cumplir las obligaciones de transparencia y auditoría; los residentes deben usar el contacto de la agencia o los canales de quejas ADS que figuran en las páginas oficiales. [1]
- ¿Hay multas por incumplimiento?
- Las páginas oficiales citadas enfatizan la remediación y las auditorías; los importes de multas específicas o sanciones diarias no están especificados en las páginas citadas de la ciudad. [2]
- ¿Cómo puedo solicitar una revisión humana de una decisión impulsada por IA?
- Envíe una solicitud usando el método de contacto publicado por la agencia para sistemas de decisión automatizados o el proceso de quejas descrito en el inventario ADS de la agencia.
Cómo hacer
- Identifique si la decisión que le afectó fue tomada o asistida por un sistema de decisión automatizado consultando las divulgaciones ADS de la agencia.
- Contacte a la agencia usando el canal de quejas o revisión humana publicado para solicitar revisión.
- Recoja cualquier notificación o documento recibido y preséntelos como evidencia al presentar la queja.
- Si no queda satisfecho con la respuesta, siga el proceso de apelación de la agencia o solicite asesoría legal sobre opciones de revisión administrativa.
Conclusiones clave
- Queens aplica prácticas de transparencia ADS a nivel de ciudad que priorizan inventarios, auditorías y remediación.
- Los residentes deben usar los canales ADS de la agencia para solicitar revisión humana o presentar quejas.
Ayuda y recursos
- City of New York - Automated Decision Systems Toolkit
- New York City Council - Legislation and Local Laws
- NYC Mayor's Office and City Agency Contacts