Directrices de ética de IA y auditorías de sesgo - Upper West Side
El Upper West Side, New York enfrenta un uso creciente de sistemas de decisión automatizados en contrataciones, permisos y servicios municipales. Esta guía explica cómo la normativa municipal y las prácticas de la ciudad tratan la ética de la IA y las auditorías de sesgo, quién hace cumplir los requisitos, cómo presentar preocupaciones y pasos prácticos para agencias, proveedores y residentes para reducir daños algorítmicos. Se centra en obligaciones a nivel de la ciudad, transparencia y expectativas de auditoría para herramientas automatizadas de decisión laboral y sistemas automatizados empleados por agencias de la Ciudad de Nueva York.
Penalties & Enforcement
Las obligaciones de la ciudad para herramientas de decisión automatizada se administran a nivel municipal y requieren transparencia, evaluaciones de impacto y auditorías de sesgo cuando lo especifica la ley o la política de la agencia. Las sanciones monetarias específicas y los calendarios de escalamiento por violaciones de ética de IA no se proporcionan en la página municipal citada; la aplicación suele depender de la agencia que despliega la herramienta y las reglas de contratación o la ley local aplicable. Para orientación de la ciudad y responsabilidades de la agencia, consulte el recurso del NYC Automated Decision Systems Task Force NYC Automated Decision Systems Task Force[1].
- Agente ejecutor: la agencia municipal que despliega la herramienta, a menudo con supervisión de oficinas centralizadas de la ciudad y del ADS Task Force; consulte las normas de contratación y el asesor legal de la agencia.
- Inspección y quejas: las quejas pueden presentarse ante la agencia desplegadora y mediante NYC 311 por impactos en el vecindario.
- Montos de multas: no especificado en la página citada.
- Escalamiento: tratamiento de primera, repetida y continuada no especificado en la página citada y puede ser determinado por reglas de la agencia o remedios de contratación de la ciudad.
- Sanciones no monetarias: órdenes correctivas, eliminación o desactivación de sistemas, recursos contractuales, acciones judiciales cautelares y requisitos de auditorías o divulgaciones adicionales.
- Apelaciones y revisiones: las vías de apelación dependen de la agencia que hace cumplir; los plazos para revisión administrativa los establece la agencia controladora o las reglas de contratación y no están especificados en la página citada.
Applications & Forms
No se publica un formulario único de auditoría de sesgo en la página municipal citada; las agencias suelen exigir presentaciones de proveedores como parte de la contratación o de los procesos de aprobación de herramientas de contratación y pueden publicar formularios en sus portales de contratación. Para orientación centralizada consulte el recurso del ADS Task Force citado arriba [1].
Common Violations
- No divulgar el uso de una herramienta automatizada a las personas afectadas.
- Omisión de una auditoría de sesgo o evaluación de impacto requerida antes del despliegue.
- Uso de datos personales o sensibles fuera del propósito declarado sin salvaguardas.
- No remediar impactos desproporcionados identificados tras una auditoría.
Action Steps
- Inventario: identifique todas las herramientas de decisión automatizadas y documente propósito, fuentes de datos y impacto de la decisión.
- Auditoría: encargue o realice auditorías de sesgo midiendo resultados desiguales y las tasas de falsos positivos/negativos.
- Involucre: notifique a las comunidades afectadas, publique informes de transparencia y ofrezca opciones de revisión humana.
- Contrato: incluya cláusulas de auditoría, acceso a datos y remediación en contratos con proveedores y documentos de contratación.
FAQ
- ¿Qué constituye una auditoría de sesgo para una herramienta municipal automatizada?
- Una auditoría de sesgo examina resultados entre grupos demográficos, documenta la metodología, conjuntos de datos y pasos de mitigación; la orientación municipal exige documentación y transparencia.
- ¿A quién debo contactar para reportar una preocupación municipal relacionada con IA en el Upper West Side?
- Presente quejas ante la agencia que desplegó la herramienta y ante NYC 311; problemas de contratación o contrato pueden dirigirse a la oficina de contratación de la agencia.
How-To
- Mapee el sistema: documente entradas, salidas, puntos de decisión y el linaje de datos.
- Ejecute pruebas: use conjuntos de datos representativos para evaluar impactos desiguales entre clases protegidas.
- Informe y remedie: publique hallazgos, aplique correcciones técnicas y documente auditorías de seguimiento.
Key Takeaways
- La transparencia y la documentación son claves para el cumplimiento municipal de sistemas automatizados.
- Las auditorías de sesgo deben ser medibles, repetibles y vinculadas a controles de contratación.
Help and Support / Resources
- NYC 311 - Reportar asuntos no emergentes de la ciudad
- Departamento de Servicios Administrativos de la Ciudad (DCAS)
- Departamento Legal de la Ciudad de Nueva York