Ética de IA y normas de auditoría de sesgo para Brooklyn

Tecnología y Datos New York 4 minutos de lectura · publicado febrero 02, 2026 Flag of New York

Brooklyn, Nueva York agencias y contratistas municipales que implementan sistemas algorítmicos deben seguir procedimientos claros para revisiones éticas y auditorías de sesgo. Esta guía explica cómo los actores del borough y las agencias en la Ciudad de Nueva York pueden abordar la supervisión de IA para sistemas que afectan a residentes de Brooklyn, qué vías de cumplimiento existen y dónde encontrar los textos municipales oficiales y la orientación oficial. Resume los pasos requeridos para evaluar riesgos, implementar auditorías, documentar resultados y responder a denuncias, y señala los recursos oficiales de la ciudad utilizados cuando las normas a nivel de ciudad se aplican a los sistemas de Brooklyn.

Alcance y definiciones

Esta guía cubre sistemas municipales y sistemas contratados por la ciudad que operan en Brooklyn y que toman o asisten decisiones que afectan a individuos (empleo, beneficios, vivienda, seguridad pública, permisos). "Sistemas de decisión automatizados" (ADS) aquí significa software, modelos o procesos que toman, recomiendan o asisten materialmente decisiones. Cuando no existan ordenanzas específicas solo para Brooklyn, las regulaciones y la orientación de la Ciudad de Nueva York son la referencia principal.

Para la orientación oficial a nivel de ciudad y materiales de programa, consulte los materiales del Grupo de Trabajo de Sistemas de Decisión Automatizados de NYC NYC ADS Task Force[1] y el repositorio de leyes locales de la ciudad NYC Local Laws[2].

Revisiones requeridas y elementos de auditoría

Las expectativas municipales típicas para una revisión ética de IA y una auditoría de sesgo incluyen evaluación de riesgos, procedencia de datos, pruebas técnicas de equidad, planes de supervisión humana, documentación de limitaciones y un plan de remediación para daños identificados. Las agencias deben mantener registros de auditoría y registros de decisión suficientes para recrear entradas y salidas de modelos para investigaciones.

  • Evaluación de riesgos que documente los grupos afectados y el impacto de la decisión.
  • Informe de auditoría de sesgo que incluya las pruebas utilizadas y los resultados estadísticos.
  • Linaje de datos y documentación de entrenamiento del modelo.
  • Procedimientos de supervisión humana y anulación.
  • Plan de presupuesto y recursos para auditorías independientes cuando se requieran.
Realice auditorías antes del despliegue y a intervalos regulares tras el despliegue.

Sanciones y aplicación

Debido a que Brooklyn es un borough de la Ciudad de Nueva York, la aplicación y las sanciones por obligaciones de transparencia o auditoría de ADS se rigen por la ley de la ciudad o las reglas de la agencia cuando existan. Las cantidades exactas de multas y los calendarios de sanciones no están especificados en las páginas citadas; consulte las leyes locales y las normas implementadoras de la agencia para obtener cifras y plazos exactos.[2]

  • Cantidad de multas: no especificada en la página citada; consulte las reglas de la agencia y el texto de la ley local para sanciones monetarias.[2]
  • Escalamiento: infracciones iniciales, repetidas y continuas - no especificado en la página citada y puede variar según la agencia.[2]
  • Sanciones no monetarias: órdenes de suspensión de uso, remediación obligatoria, informes públicos o acciones judiciales son remedios posibles bajo marcos de aplicación municipal; las medidas específicas son determinadas por la agencia o la oficina que aplica.
  • Organismo aplicador: la agencia municipal correspondiente o la oficina de supervisión del Alcalde; la implementación y las quejas se enrutan a través de la agencia que adquirió u opera el sistema. Para orientación política a nivel de ciudad consulte los materiales del Grupo de Trabajo de ADS de NYC.[1]
  • Vías de inspección y queja: presente quejas en el canal de quejas de la agencia operadora o envíe consultas a la oficina del Alcalde; si no hay canal disponible, utilice los canales legales de la ciudad.
  • Apelaciones y revisión: los procesos formales de apelación y los plazos dependen de la agencia y de la ley local o regulación específica; los plazos exactos no están especificados en la página citada y deben confirmarse con la oficina aplicadora.[2]
Si recibe una notificación de auditoría, inicie la preservación de pruebas de inmediato.

Solicitudes y formularios

No hay un formulario único y universal de la ciudad para revisiones éticas de IA publicado en los materiales del grupo de trabajo citado; las agencias pueden publicar sus propias plantillas o anexos de contratación. Confirme con la agencia operadora cualquier formulario de presentación requerido o plantillas de informes; si no se publican formularios, la información requerida suele ser el informe de auditoría, la metodología y el plan de remediación.[1]

Pasos de acción para agencias y contratistas de Brooklyn

  • Inventarie todos los ADS en uso y clasifique el nivel de riesgo.
  • Encargue una auditoría de sesgo independiente antes del despliegue público.
  • Publique un resumen público de la auditoría y un proceso de reparación cuando esté permitido.
  • Documente apelaciones, avisos y acciones de remediación para registros de cumplimiento.
Conserve los registros durante todo el periodo de retención que exija la agencia operadora.

Preguntas frecuentes

¿Quién aplica las normas de ética de IA y auditoría de sesgo para sistemas públicos de Brooklyn?
La agencia de la Ciudad de Nueva York responsable que opera o contrata el sistema aplica el cumplimiento; la orientación política a nivel de ciudad la publica el Grupo de Trabajo de ADS de NYC.[1]
¿Existen multas fijas por no realizar una auditoría de sesgo?
Las multas fijas y los calendarios no están especificados en las páginas de la ciudad citadas; consulte el texto de la ley local aplicable y las normas implementadoras de la agencia para sanciones monetarias.[2]
¿Cómo puede un residente de Brooklyn denunciar daños causados por una decisión automatizada?
Denuncie directamente al canal de quejas de la agencia operadora o a la oficina del Alcalde; las agencias deben documentar y responder según sus procedimientos.

Cómo

  1. Inventarice el sistema e identifique partes interesadas y poblaciones afectadas.
  2. Realice una evaluación de riesgos documentada y pruebas de equidad inicial.
  3. Encargue o realice una auditoría de sesgo con evaluadores independientes.
  4. Implemente medidas de remediación y mecanismos de supervisión humana.
  5. Publique resúmenes de hallazgos y mantenga registros para revisión de cumplimiento.

Puntos clave

  • Los sistemas de Brooklyn están sujetos a las normas de la Ciudad de Nueva York cuando no hay ordenanzas locales específicas.
  • Mantenga auditorías independientes, registros transparentes y vías claras de apelación.

Ayuda y recursos

  1. [1] NYC Automated Decision Systems Task Force materials
  2. [2] NYC Local Laws repository

Categorías

Gobernanza y Administración General Seguridad Pública Salud Pública y Bienestar Uso de Suelo y Zonificación Vivienda y Normas de Construcción Transporte Protección Ambiental Parques y Espacios Públicos Negocios y Protección al Consumidor Tributación y Finanzas Trabajo y Empleo Educación Derechos Civiles y Equidad Elecciones y Financiamiento de Campañas Eventos y Usos Especiales Señalización y Publicidad Servicios Públicos e Infraestructura Tecnología y Datos