Ética de IA y requisitos de auditoría de sesgo para el gobierno de The Bronx, NY
Esta guía explica cómo las normas de la ciudad de Nueva York sobre herramientas de decisión automatizada y auditorías de sesgo se aplican al uso gubernamental en The Bronx, Nueva York. Resume las obligaciones para las agencias municipales cuando implementan inteligencia artificial o herramientas automatizadas de decisión de personal, aclara quién supervisa el cumplimiento y establece pasos prácticos para el personal de la agencia, contratistas y residentes para solicitar auditorías, reportar problemas o apelar decisiones que afecten empleo y servicios. La orientación refleja requisitos municipales oficiales y remite a la fuente primaria de la ley local que la rige y a la supervisión de la agencia.
Alcance y cuándo se aplican las normas
Los requisitos de la ciudad se aplican cuando una agencia de la Ciudad de Nueva York utiliza una herramienta automatizada de decisión de personal u otros sistemas automatizados que toman o ayudan materialmente en decisiones de empleo o que afectan contratación pública, disciplina, ascensos, asignaciones o despidos. Las agencias deben documentar el uso, publicar los avisos y resúmenes requeridos, y organizar auditorías de sesgo según lo exige la ley municipal Ley Local 144 (2021)[1].
Sanciones y aplicación
Las páginas oficiales de implementación para la Ley Local 144 y las reglas municipales relacionadas no enumeran multas monetarias por incumplimiento en la página citada; cuando corresponden sanciones o multas civiles, la fuente oficial describe procedimientos y supervisión pero no especifica multas fijas en esa página. Para sanciones específicas o acciones de cumplimiento, las agencias suelen apoyarse en normas internas de contratación y la supervisión del consejo; la agencia encargada o el Departamento de Derecho de la Ciudad manejan la aplicación formal y los recursos legales cuando se infringe la ley.
- Multas monetarias: no especificadas en la página citada.
- Escalada: procedimientos para incumplimiento inicial, repetido o continuado no especificados en la página citada.
- Sanciones no monetarias: órdenes de cese de uso, retirada de la herramienta, recursos contractuales o litigio pueden aplicarse como remedios.
- Responsable/supervisión: la agencia de la ciudad que usa la herramienta con supervisión de oficinas del alcalde y comités del Concejo Municipal; rutas de queja hacia la agencia y oficinas de supervisión de la ciudad.
- Apelaciones/revisión: procedimientos gestionados mediante revisión administrativa de la agencia o impugnación legal; plazos específicos no están especificados en la página citada.
Solicitudes y formularios
No hay un formulario público estandarizado para la presentación de auditorías de sesgo ante la ciudad publicado en la página municipal citada; las agencias publican resúmenes y reportes de auditoría según la ley y publican cualquier orientación interna en sus propios sitios.
- Formularios oficiales: ninguno publicado públicamente en la página citada.
- Plazos: los cronogramas para publicar auditorías se describen en la orientación de implementación; plazos de formularios específicos no están especificados en la página citada.
Pasos de cumplimiento para agencias y contratistas
Las agencias que usen herramientas automatizadas de decisión de personal deben seguir un flujo de trabajo de cumplimiento documentado: identificar las herramientas en uso, realizar o encargar una auditoría de sesgo por un auditor independiente calificado, publicar un informe resumen y mantener registros de la metodología de auditoría y las medidas de mitigación. Los contratistas deben incluir cláusulas de auditoría y transparencia en los contratos y conservar evidencia de las pruebas y mitigaciones.
- Identificar cada herramienta automatizada en los registros de adquisiciones y operaciones.
- Encargar una auditoría de sesgo independiente antes del despliegue en producción.
- Publicar los resúmenes requeridos y mantener los informes de auditoría para supervisión e inspección pública.
- Incluir cláusulas contractuales para acceso a auditorías y remediación con proveedores.
Cómo reportar una preocupación o solicitar una auditoría
Los residentes o empleados que crean que una herramienta automatizada produjo un trato injusto deben comunicarse con la agencia que usa la herramienta y también pueden contactar oficinas de supervisión de la ciudad para asistencia. La fuente legislativa municipal principal exige publicación y transparencia para que el público pueda localizar resúmenes de auditoría y puntos de contacto para cada agencia Ley Local 144 (2021)[1].
- Reportar a la agencia que utilizó la herramienta; solicitar el resumen de auditoría publicado y el contacto del oficial de cumplimiento.
- Si la agencia no responde, presentar una queja al Departamento de Derecho de la Ciudad o a la oficina de supervisión correspondiente.
- Conservar evidencias: capturas de pantalla, fechas, copias de avisos y comunicaciones con la agencia.
FAQ
- ¿Qué ley exige auditorías de sesgo para herramientas de empleo automatizadas?
- La Ley Local 144 (2021) y la orientación de implementación municipal exigen divulgación y procedimientos de auditoría de sesgo para herramientas automatizadas de decisión de empleo usadas por agencias municipales.
- ¿Puede un residente solicitar una copia de una auditoría de sesgo?
- Sí; las agencias publican resúmenes y ponen a disposición los informes de auditoría bajo la ley y las reglas de acceso a registros públicos, sujetos a redacciones por privacidad y seguridad cuando corresponda.
- ¿Hay multas por no publicar una auditoría?
- Las páginas municipales citadas no especifican multas fijas; la aplicación normalmente utiliza remedios administrativos y procedimientos de supervisión.
How-To
- Identifique la agencia y la decisión tomadas por la herramienta automatizada y anote la acción que desea impugnar.
- Solicite el resumen de auditoría publicado y cualquier informe público que la agencia haya publicado conforme a la ley.
- Si la agencia no responde, presente una queja por escrito al oficial de cumplimiento de la agencia y conserve comprobantes de la presentación.
- Si no se resuelve, eleve el asunto al Departamento de Derecho de la Ciudad o presente una solicitud de registros según las normas de la ciudad para obtener los materiales de auditoría.
Conclusiones clave
- La Ley Local 144 exige divulgación y procedimientos de auditoría de sesgo para herramientas automatizadas de empleo usadas por agencias de la ciudad.
- Las agencias deben publicar resúmenes y conservar registros de auditoría; las multas específicas no figuran en la página citada.
Ayuda y recursos
- Oficina del Director de Tecnología de NYC (Chief Technology Officer)
- Departamento de Derecho de la Ciudad de Nueva York
- Comisión de Derechos Humanos de NYC
- Concejo Municipal de la Ciudad de Nueva York - Leyes Locales