Revisión ética de IA para algoritmos municipales y auditorías de sesgo en Jamaica, Nueva York
En Jamaica, Nueva York, las agencias municipales utilizan cada vez más sistemas automatizados para servicios, permisos y seguridad pública. Esta guía explica cómo se aplican las normas municipales, los inventarios de transparencia y las prácticas de auditoría de sesgo a nivel local, quién las hace cumplir y qué pasos deben seguir los residentes o empresas si una decisión algorítmica les afecta. Se centra en instrumentos oficiales, responsabilidades de las agencias, vías de denuncia y acciones prácticas como solicitar registros, pedir una revisión o presentar una queja.
Overview of City Rules and Scope
New York City requires agencies to identify and disclose certain automated decision systems and adopt transparency practices. Individual neighborhoods such as Jamaica fall under citywide rules and agency policies; enforcement and implementation occur at the agency level and through City Council legislation and guidance. Key official sources list inventories and procedural guidance for algorithmic tools used by city agencies Automated Decision Systems Task Force[1] and the City Council legislative pages Local Laws and Legislation[2].
Penalties & Enforcement
City ordinances and agency policies set transparency and audit obligations; monetary fines and specific penalty schedules for algorithmic compliance are not uniformly published on the cited pages. Where exact fines or civil penalties apply, the governing local law or regulation will state amounts; where that text is not shown on the official pages, the amount is not specified on the cited page 311 Complaint Portal[3].
- Cantidades de multas: no especificadas en la página citada; consulte la ley local promulgada o el texto de la norma de la agencia para las cifras.
- Escalamiento: el tratamiento de primeras, repetidas y continuas infracciones no se publica de forma uniforme; las agencias pueden escalar las medidas según sus normas administrativas.
- Organismo que hace cumplir: la agencia municipal correspondiente (propietaria del ADS), la oficina del alcalde o DoITT para orientación técnica, y el Departamento Legal para la ejecución jurídica; las quejas pueden presentarse a través de las páginas de contacto de la agencia o 311.
- Sanciones no monetarias: órdenes correctivas, auditorías obligatorias, suspensión del uso de la herramienta, retenciones en contrataciones o acciones judiciales son posibles cuando la agencia o los tribunales encuentran incumplimiento.
- Apelaciones y revisión: las vías de apelación dependen de la agencia emisora; los plazos para apelaciones administrativas los establece el procedimiento de la agencia o la ley aplicable—si no se muestran, el plazo no está especificado en la página citada.
- Defensas y discrecionalidad: las agencias pueden permitir variaciones, excusas razonables o necesidad comercial documentada; las defensas específicas dependen de la norma o regla interna.
Applications & Forms
No existe un formulario único a nivel municipal publicado en la visión general de la task force; algunas agencias publican sus propios formularios de contratación o divulgación. Para formularios específicos de la agencia, consulte las páginas de divulgación o contratación de la agencia propietaria del ADS; si se requiere un formulario pero no está enlazado, no está especificado en la página citada.
Action Steps: Reporting, Requesting, and Appealing
- Informar un incidente: presente una queja en 311 o en el contacto de la agencia indicado en la entrada del inventario ADS.
- Solicitar registros: presente una solicitud FOIL o la solicitud de divulgación de la agencia para la documentación del modelo y los informes de auditoría.
- Solicitar revisión: utilice el procedimiento de apelación de la agencia o el proceso de audiencia administrativa indicado en la norma vigente.
- Pagar sanciones o cumplir: siga las instrucciones de pago o remediación de la agencia si se impone una sanción.
Common Violations
- Falta de divulgación de un ADS en el inventario municipal.
- No realizar o publicar una auditoría de sesgo cuando la política de la agencia lo exige.
- Usar un ADS para decisiones de licencias o ejecución sin validación documentada.
FAQ
- ¿Qué agencias cubren Jamaica, NY para decisiones algorítmicas?
- Las mismas agencias de la ciudad que sirven a Queens y Jamaica: las agencias propietarias incluidas en el inventario ADS de la ciudad y los órganos de supervisión del City Council.
- ¿Puedo solicitar el modelo o conjunto de datos usado para decidir sobre mí?
- Sí: puede solicitar registros mediante FOIL o los procedimientos de divulgación de la agencia; las agencias pueden ocultar información propietaria según la ley.
- ¿Cómo denuncio un posible sesgo o daño por un algoritmo municipal?
- Presente una queja ante la agencia responsable o a través de 311; incluya fechas, identificadores y cualquier notificación que haya recibido sobre la decisión.
How-To
- Identifique la agencia: localice la entrada del inventario ADS correspondiente.
- Presente una solicitud de registros: FOIL o divulgación de la agencia para la documentación del modelo y los informes de auditoría.
- Presente una queja: remita la denuncia a 311 o directamente a la agencia y solicite una revisión interna.
- Apelaciones: si no está satisfecho, use el proceso de apelación administrativa de la agencia y considere asesoría legal dentro de los plazos vigentes.
Key Takeaways
- Las normas ADS de la ciudad se aplican a Jamaica como parte de Nueva York; los inventarios de agencia son la referencia primaria.
- Las multas y los calendarios de sanciones no siempre se publican en las páginas generales citadas.
- Comience con solicitudes de registros y denuncias por 311 para preservar derechos de apelación.
Help and Support / Resources
- Automated Decision Systems Task Force - NYC
- NYC 311 Complaint Portal
- DoITT - NYC Department of Information Technology & Telecommunications
- New York City Law Department