Ordenanzas de ética de IA y requisitos de auditoría de sesgo en Sunset Park
Sunset Park, New York debe cumplir las normas municipales sobre contratación automatizada y herramientas de decisión algorítmica que exigen evaluaciones de ética y auditorías de sesgo para los sistemas cubiertos con el fin de proteger a solicitantes y empleados.[1] Esta guía explica lo que deben hacer los empleadores y operadores, quién aplica los requisitos, las infracciones comunes y los pasos prácticos para completar o responder a una auditoría de sesgo según las normas de la ciudad.
Penalidades y Aplicación
La ley municipal y la guía de la agencia asignan la responsabilidad de la aplicación a la Comisión de Derechos Humanos de la Ciudad de Nueva York y a otras oficinas de ejecución; cuando no se publiquen montos específicos de sanciones en la página de orientación citada, este texto lo indica a continuación y remite al recurso oficial para cifras actuales.[1]
- Montos de las multas: no especificado en la página citada; consulte la guía oficial para sanciones monetarias y remedios civiles actuales.
- Escalada: los rangos para primera, repetida o continua no están especificados en la página citada.
- Organismo aplicador: Comisión de Derechos Humanos de la Ciudad de Nueva York y otras agencias de ejecución según se indique en la guía de la ciudad.
- Sanciones no monetarias: órdenes de cese de uso, medidas correctivas, pasos de mitigación requeridos y acciones judiciales pueden aplicarse; los detalles no están enumerados en la página de orientación citada.
- Quejas e inspecciones: las quejas pueden presentarse ante la Comisión de Derechos Humanos; las vías de inspección y aplicación están descritas por la guía de la agencia.
- Apelaciones y revisión: las vías de apelación y los plazos están regidos por los procedimientos de la agencia aplicadora; los plazos específicos no están especificados en la página de orientación citada.
Solicitudes y Formularios
No existe un formulario público con nombre único para una auditoría de sesgo de IA publicado en la página de orientación de la agencia citada; por lo general los empleadores deben preparar un informe de auditoría independiente, conservar documentación y proporcionar los avisos requeridos por la ley municipal.[1]
Requisitos y Pasos de Cumplimiento
Bajo las normas de la ciudad, las herramientas automatizadas cubiertas deben someterse a auditorías de sesgo independientes, y los empleadores deben notificar a solicitantes o empleados sobre el uso de dichas herramientas cuando la ley lo exige. El contenido y la frecuencia de las auditorías, y quién califica como auditor independiente, se describen en la guía de la ciudad y en el texto de la ley local; cuando la guía no establece detalles, esta guía marca esos elementos como no especificados en la página citada.[1]
- Aviso: proporcionar aviso claro a solicitantes o empleados cuando se use una herramienta automatizada cubierta.
- Auditoría: obtener una auditoría de sesgo independiente que evalúe impacto dispar y precisión según lo descrito por la guía de la ciudad.
- Conservación de registros: conservar informes de auditoría, datos de prueba y planes de mitigación por el periodo que exija la ley o la guía de la agencia.
- Respuesta: estar preparado para presentar auditorías y registros ante la agencia aplicadora si se solicitan y para responder a quejas.
Infracciones Comunes
- Falta de notificación a solicitantes o empleados sobre el uso de una herramienta automatizada.
- Uso de una herramienta cubierta sin una auditoría de sesgo independiente o sin conservar los registros requeridos.
- Ignorar hallazgos de la auditoría o no implementar pasos de mitigación razonables.
Preguntas Frecuentes
- ¿Quién debe cumplir con las normas de auditoría de sesgo de la ciudad?
- Los empleadores y entidades que usan herramientas automatizadas de decisión de empleo cubiertas en la Ciudad de Nueva York deben cumplir cuando las herramientas estén dentro del alcance de la ley local o la guía de la agencia; consulte la guía oficial para los detalles de cobertura.[1]
- ¿Las auditorías de sesgo son documentos públicos?
- La guía indica que las auditorías deben conservarse y pueden ser proporcionadas a las agencias si se solicitan; si las auditorías completas se publican depende de los procedimientos de la agencia y no está especificado en la página de orientación citada.[1]
- ¿Cómo informo una posible infracción en Sunset Park?
- Presente una queja ante la Comisión de Derechos Humanos de la Ciudad de Nueva York o la agencia aplicadora designada usando los canales oficiales de quejas en Recursos.
Cómo hacer
- Determine si su herramienta está cubierta por la ley y la guía de la ciudad.
- Contrate a un auditor independiente para realizar una auditoría de sesgo que revise impacto dispar, precisión y mitigación documentada.
- Proporcione los avisos requeridos a solicitantes o empleados y conserve los informes de auditoría y los datos de respaldo según la guía.
- Responda rápidamente a quejas o solicitudes de la agencia e implemente pasos de mitigación cuando la auditoría identifique riesgos.
Puntos Clave
- Comience el cumplimiento con antelación: clasifique las herramientas y programe auditorías antes del despliegue.
- Mantenga registros claros de avisos, informes de auditoría y acciones de mitigación.
- Utilice los canales oficiales de contacto para preguntas sobre aplicación.
Ayuda y Soporte / Recursos
- Comisión de Derechos Humanos de la Ciudad de Nueva York - sitio oficial
- Concejo Municipal de Nueva York - leyes locales y búsqueda de legislación
- Departamento de Protección del Consumidor y del Trabajador de NYC