Política de ética de IA y reglas de auditoría de sesgo en Queens

Tecnología y Datos New York 3 minutos de lectura · publicado febrero 04, 2026 Flag of New York

Queens, Nueva York, las oficinas municipales despliegan cada vez más herramientas impulsadas por IA para permisos, inspecciones y servicios públicos. Esta guía explica las políticas a nivel de la ciudad sobre ética de IA, las expectativas de auditoría de sesgo y los pasos prácticos que los departamentos y proveedores deben seguir para garantizar que las herramientas usadas en Queens cumplan con objetivos de transparencia, equidad y rendición de cuentas. Resume las vías de cumplimiento, las infracciones comunes y cómo preparar la documentación y auditorías requeridas, y enlaza con los recursos oficiales de Sistemas de Decisión Automatizada. Automated Decision Systems Task Force[1]

Comience el cumplimiento documentando cada herramienta de IA, su propósito y las poblaciones afectadas.

Penalidades y Cumplimiento

Las obligaciones a nivel de ciudad para Sistemas de Decisión Automatizada (ADS) en la ciudad de Nueva York están publicadas por oficinas municipales oficiales; la página citada del grupo de trabajo proporciona orientación de políticas pero no enumera sanciones monetarias en su página principal. Las prácticas de cumplimiento por incumplimiento dependen del departamento que implemente y de las normas administrativas aplicables.

  • Multas: no especificado en la página citada.
  • Escalada: los rangos por primera, repetida o continuada infracción no están especificados en la página citada.
  • Sanciones no monetarias: órdenes de cese de uso, auditorías correctivas obligatorias, retirada de herramientas y remisión a revisión de adquisiciones son posibles según las normas del departamento; sanciones específicas no figuran en la página citada.
  • Responsable y vías de denuncia: las oficinas de TI, adquisiciones o licencias del departamento (por ejemplo, Department of Information Technology & Telecommunications o la agencia contratante) gestionan las revisiones de cumplimiento; presente quejas o solicitudes de revisión a través del contacto del departamento o la oficina de adquisiciones señalado en los recursos oficiales de ADS.[1]
  • Apelaciones y revisión: las vías formales de apelación y los plazos no están especificados en la página citada; las partes afectadas deben consultar las normas administrativas de la agencia implementadora y los procedimientos de impugnación de adquisiciones.
Si necesita un monto de sanción o plazo de apelación para su caso, solicite la notificación formal de la agencia por escrito.

Solicitudes y Formularios

No hay un formulario estandarizado de la ciudad para la certificación de ética de IA o auditorías de sesgo publicado en la página del grupo de trabajo citada; los departamentos pueden requerir presentaciones específicas del proyecto a través de canales de adquisiciones o gobernanza de TI, y cualquier formulario requerido debería estar disponible en la agencia contratante o en DoITT (si procede).[1]

Infracciones comunes y respuestas típicas

  • Usar un algoritmo sin evaluación documentada de propósito e impacto — probablemente orden correctiva y auditoría obligatoria.
  • No ejecutar o conservar registros de auditoría de sesgo — obligación de producir registros y repetir pruebas.
  • Desplegar herramientas sin revisión de adquisiciones o privacidad — suspensión o retirada pendiente de revisión.

Preguntas frecuentes

¿Qué se considera un Sistema de Decisión Automatizada según la guía de la ciudad?
Un ADS generalmente se refiere a software que usa algoritmos para ayudar o tomar decisiones que afectan a personas; consulte el material del grupo de trabajo de ADS de la ciudad para definiciones y ejemplos.[1]
¿Todos los instrumentos municipales de IA requieren una auditoría de sesgo?
La guía de la ciudad recomienda auditorías basadas en el riesgo para herramientas de alto impacto; los departamentos deciden el alcance y la frecuencia y deben publicar los requisitos en las políticas de adquisiciones o gobernanza.
¿A quién contacto para reportar un uso indebido de una herramienta de IA en Queens?
Reporte preocupaciones a la oficina de cumplimiento o adquisiciones de la agencia operadora; si no está claro, use los canales de contacto en los recursos de ADS de la ciudad para identificar la oficina relevante.[1]

Cómo hacerlo

  1. Inventario: liste todas las herramientas de IA, proveedor, propósito, fuentes de datos y poblaciones afectadas.
  2. Evaluación de riesgo: clasifique las herramientas por nivel de impacto y supervisión requerida.
  3. Auditoría de sesgo: contrate o realice una auditoría documentada que aborde impactos desiguales y sesgos de datos.
  4. Gobernanza: presente la documentación al tablero de adquisiciones o gobernanza de TI del departamento y obtenga las aprobaciones.
  5. Registro y transparencia: publique resúmenes cuando sea necesario y conserve registros técnicos para revisión.

Puntos clave

  • Documente cada herramienta de IA y evalúe su impacto antes de desplegarla.
  • Las auditorías de sesgo deben basarse en el riesgo y conservarse como parte de los registros de adquisiciones.
  • Contacte a la agencia operadora para formularios, apelaciones o preguntas de cumplimiento.

Ayuda y soporte / Recursos

  1. [1] City of New York Automated Decision Systems Task Force

Categorías

Gobernanza y Administración General Seguridad Pública Salud Pública y Bienestar Uso de Suelo y Zonificación Vivienda y Normas de Construcción Transporte Protección Ambiental Parques y Espacios Públicos Negocios y Protección al Consumidor Tributación y Finanzas Trabajo y Empleo Educación Derechos Civiles y Equidad Elecciones y Financiamiento de Campañas Eventos y Usos Especiales Señalización y Publicidad Servicios Públicos e Infraestructura Tecnología y Datos