Normas de auditoría de ética y sesgo de IA en Manhattan - ley municipal
Esta guía explica cómo las normas municipales y las prácticas de la ciudad afectan las auditorías de ética y sesgo de IA para algoritmos usados por agencias de la ciudad en Manhattan, New York. Resume dónde recae la supervisión, qué tipos de auditorías o evaluaciones de impacto pueden solicitar las agencias, cómo suele procederse en la ejecución y pasos prácticos para proveedores y contratistas que trabajan con herramientas municipales. El contenido se centra en instrumentos a nivel de ciudad y en las responsabilidades de las agencias, no en estatutos estatales o federales.
Ámbito y instrumentos aplicables
La supervisión municipal de los sistemas de decisión automatizados usados en programas municipales o en contrataciones generalmente corresponde a las agencias de la Ciudad de Nueva York y al marco legislativo de la ciudad. Las agencias pueden publicar políticas internas, requisitos de contratación o calendarios de divulgación para herramientas algorítmicas utilizadas en la toma de decisiones públicas. No existe un código separado del distrito de Manhattan que regule las herramientas de IA; Manhattan sigue las reglas y directrices de la Ciudad de Nueva York.
Multas y ejecución
La ejecución la maneja la agencia de la ciudad que contrató o desplegó la herramienta, en coordinación con oficinas centrales según proceda. No hay multas monetarias específicas establecidas expresamente en una normativa exclusiva de Manhattan; las sanciones monetarias, si las hubiera, provienen de recursos contractuales o de disposiciones más generales del código de la ciudad.
- Autoridad ejecutora: la agencia municipal que contrató u opera la herramienta (por ejemplo, la oficina de TI o de cumplimiento) y oficinas centrales de supervisión tecnológica como la oficina del alcalde o DoITT.
- Multas: no especificadas en una ordenanza específica de Manhattan; las sanciones monetarias dependen de recursos contractuales o de disposiciones aplicables del código de la ciudad.
- Escalada: normalmente comienza con órdenes de remediación o acciones correctivas de contrato, y puede derivar en sanciones administrativas o en la pérdida de contratos por incumplimiento reiterado.
- Sanciones no monetarias: órdenes para eliminar o suspender una herramienta, exigencia de auditorías independientes, planes correctivos o rescisión de contratos.
- Inspección y quejas: las quejas suelen dirigirse a la oficina de cumplimiento o de contratación de la agencia que opera la herramienta y, cuando exista, a los canales de la oficina del alcalde.
- Recursos y revisión: las vías de apelación siguen los procedimientos administrativos de la agencia ejecutora o los procesos de resolución de disputas contractuales; los plazos dependen del procedimiento de la agencia o de los términos contractuales.
Solicitudes y formularios
No existe un formulario universal de Manhattan para auditorías de sesgo de IA; las agencias pueden requerir una evaluación de impacto algorítmica, documentación o informes de auditoría de terceros como parte de la contratación o del cumplimiento. Cuando las agencias publican plantillas o portales de envío, esos son específicos de cada agencia.
Infracciones comunes y remedios típicos
- Falta de divulgación sobre el uso o alcance de un sistema de decisión automatizado: las agencias pueden exigir divulgación y remediación.
- No completar evaluaciones de impacto o auditorías requeridas: habitualmente conlleva la suspensión del despliegue hasta cumplir con la normativa.
- Documentación insuficiente sobre mitigación de sesgo o pruebas: las agencias pueden exigir auditorías independientes o medidas correctivas.
Preguntas frecuentes
- ¿Quién aplica las normas de ética y auditoría de sesgo de IA para herramientas municipales en Manhattan?
- La ejecución la realiza la agencia municipal que contrató u opera la herramienta, con frecuencia en colaboración con oficinas centrales de supervisión tecnológica.
- ¿Existen multas fijas por incumplimiento de requisitos de auditoría de IA?
- No hay multas a nivel de distrito establecidas en una ordenanza exclusiva de Manhattan; las sanciones monetarias dependen de recursos contractuales o de normas de la ciudad.
- ¿Cómo informo preocupaciones sobre un sistema de IA de la ciudad?
- Informe las preocupaciones a la oficina de cumplimiento o de contratación de la agencia operadora y, cuando esté disponible, a los canales de la oficina del alcalde.
Cómo hacerlo
- Identifique la agencia contratante y revise su orientación de contratación y cumplimiento para sistemas de decisión automatizados.
- Reúna la documentación: descripciones del modelo, resúmenes de datos de entrenamiento, métricas de desempeño y cualquier prueba previa de sesgo.
- Realice o encargue una auditoría independiente de sesgo que incluya desempeño por subgrupos, pruebas de impacto dispar y verificaciones de procedencia de datos.
- Prepare una evaluación de impacto y un plan de mitigación, con plazos y responsables para las medidas correctivas.
- Envíe los informes o resultados de auditoría requeridos a la agencia contratante y cumpla con cualquier instrucción de remediación; conserve registros para revisiones de contratación.
Puntos clave
- Manhattan sigue las reglas y prácticas de agencias de la Ciudad de Nueva York en lugar de una ordenanza separada del distrito.
- Las agencias suelen exigir evaluaciones de impacto, divulgación y auditorías independientes.
- En caso de duda, contacte a la agencia contratante o a la oficina central de supervisión tecnológica para orientación y procedimientos de queja.
Ayuda y soporte / Recursos
- Mayor's Office of the Chief Technology Officer - NYC
- Department of Information Technology and Telecommunications (DoITT) - NYC
- NYC Law - Local Laws and Charter