Ley de auditoría de sesgos de IA y reuniones públicas - Staten Island
Staten Island, New York, las agencias y empleadores que usan sistemas automatizados de decisión (ADS) para contratación o servicios públicos deben cumplir con las reglas de la ciudad que exigen auditorías de sesgo, aviso público y oportunidades de participación comunitaria. Esta guía explica lo que residentes y empleadores locales deben saber sobre los resultados de auditorías, cómo se manejan las reuniones públicas y dónde reportar inquietudes según la ley de la Ciudad de Nueva York.
Descripción general
La ley de la Ciudad de Nueva York exige la divulgación y auditorías de sesgo para algunas herramientas automatizadas de decisión de empleo; los empleadores deben proporcionar resúmenes y permitir la revisión pública cuando las herramientas afectan la contratación o promoción. Para agencias municipales y empleadores cubiertos, el estatuto establece requisitos de aviso, auditoría y registro [1][2].
Sanciones y cumplimiento
La responsabilidad de la ejecución recae en la oficina de la Ciudad encargada de la protección del consumidor y trabajador y en cualquier agencia nombrada en la ley; el estatuto describe pasos de cumplimiento y supervisión, pero las cifras específicas de sanciones no están claramente listadas en las páginas resumidas citadas.
- Sanciones monetarias: no especificado en la página citada [1].
- Escalamiento: procedimientos para primera, repetida y continuada no están especificados en la página de resumen citada [2].
- Sanciones no monetarias: órdenes de cese, auditorías correctivas y acciones judiciales pueden estar disponibles, pero los remedios específicos no se listan en la orientación citada.
- Inspección y quejas: las quejas se tramitan a través de la oficina de ejecución de la Ciudad y los portales oficiales; consulte la sección de Ayuda y Recursos para contactos.
- Apelación/revisión: la ley indica rutas de revisión administrativa; los plazos exactos para apelar no están especificados en las páginas de resumen citadas.
Solicitudes y formularios
Los envíos requeridos y formularios estandarizados para presentar auditorías no se publican como un único formulario descargable en las páginas citadas; los empleadores deben consultar a la agencia implementadora para plantillas o instrucciones de envío [1].
Reuniones públicas y acceso comunitario
Cuando la IA o un ADS afecta la contratación o beneficios públicos, las comunidades afectadas deben recibir aviso de las reuniones y acceso a los hallazgos clave de auditoría. Los avisos de reunión suelen incluir ubicación, agenda e instrucciones para comentarios públicos; los procedimientos específicos varían según la agencia o normas locales.
- Aviso previo: las agencias normalmente publican fechas y materiales con antelación; los periodos de aviso exactos no están especificados en las páginas de resumen citadas.
- Materiales: los resúmenes de auditoría y descripciones metodológicas deben publicarse para que el público pueda revisarlos.
- Comentarios orales: las reuniones públicas ofrecen tiempo para comentarios orales; las reglas sobre límites de tiempo varían por agencia.
Violaciones comunes (ejemplos)
- No publicar un resumen de auditoría cuando es requerido.
- Documentación de auditoría incompleta o engañosa.
- Usar un ADS en contratación sin el aviso requerido a los solicitantes.
Preguntas frecuentes
- ¿Quién debe publicar las auditorías de sesgo de IA?
- Las agencias municipales y empleadores privados cubiertos por la ley deben divulgar resúmenes de auditoría y avisos.
- ¿Dónde encuentro los resultados de auditoría?
- Los resúmenes de auditoría los publica el empleador o la agencia y pueden estar disponibles en el registro de la Ciudad o en el sitio web de la oficina encargada.
- ¿Cómo reporto discriminación sospechada por un ADS?
- Conserve pruebas y presente una queja ante la oficina de ejecución de la Ciudad indicada en la sección de Ayuda y Recursos.
Cómo hacerlo
- Reúna documentación: guarde avisos de empleo, correos y cualquier notificación que mencione herramientas automatizadas.
- Revise el resumen de auditoría: lea métricas y mitigaciones publicadas para la herramienta.
- Participe o comente: asista a la reunión pública o envíe comentarios escritos antes de la fecha límite publicada.
- Si resulta perjudicado, presente una queja formal y siga las instrucciones de apelación proporcionadas por la oficina de la Ciudad.
Puntos clave
- Transparencia: los resúmenes de auditoría deben estar disponibles para revisión pública.
- Acción: asista a reuniones, presente comentarios y presente quejas cuando sea necesario.
Ayuda y soporte / Recursos
- NYC Department of Consumer and Worker Protection - Automated Employment Decision Tools
- New York City Council - Local Laws and Legislation
- Staten Island Borough President (recursos oficiales del borough)