Reglas de auditoría de ética y sesgo de IA en Borough Park
Borough Park, Nueva York está sujeto a las leyes de la Ciudad de Nueva York sobre sistemas de decisión automatizados y la IA utilizada por agencias municipales. Esta guía explica cómo las expectativas de auditoría de ética y sesgo a nivel municipal se aplican a las herramientas utilizadas en Borough Park, identifica las oficinas encargadas de la aplicación, describe la aplicación y los recursos de apelación, y enumera los pasos que los residentes o proveedores pueden tomar para solicitar auditorías o reportar inquietudes. Resume recursos oficiales de la ciudad y prácticas de registro o divulgación donde las agencias municipales las han publicado. Para detalles de cada agencia, consulte los recursos del Automated Decision Systems Task Force y las páginas de cumplimiento de la agencia correspondiente.[1]
Alcance y definiciones
Esta orientación cubre sistemas de decisión automatizados (ADS), herramientas algorítmicas y modelos de IA desplegados o contratados por agencias de la Ciudad de Nueva York que afectan a residentes de Borough Park. Las definiciones, umbrales de riesgo y divulgaciones requeridas varían según la agencia; consulte la política de tecnología y contratación de la agencia desplegante para detalles. Muchos recursos municipales fomentan la transparencia, auditorías externas y la conservación de registros para despliegues de ADS.[1]
Penalidades y aplicación
Las normas sobre ética de IA y auditorías de sesgo a nivel de ciudad son aplicadas por la agencia desplegante o por órganos de supervisión designados por la Ciudad de Nueva York. Las multas monetarias específicas por no realizar o divulgar auditorías no están publicadas de forma consistente en un artículo del código municipal y no se especifican en las páginas citadas; la aplicación suele apoyarse en remedios administrativos, sanciones de contratación, y acciones de registros públicos. Para cumplimiento relacionado con la contratación o permisos, el Departamento de Edificios y otras oficinas de permisos pueden aplicar sanciones contractuales o relacionadas con permisos según corresponda.[1][2]
- Multas: importes no especificados en la página citada; las agencias suelen reservar remedios contractuales y sanciones de contratación.
- Escalado: los procedimientos para infracciones iniciales o repetidas no se especifican en la página citada; pueden conllevar suspensión del proveedor, terminación del contrato o inhabilitación.
- Sanciones no monetarias: auditorías, órdenes de transparencia, planes de remediación, suspensión de despliegues y ejecución judicial.
- Órgano aplicador: la agencia desplegante, oficinas de supervisión del alcalde, oficinas de contratación y tribunales administrativos; las quejas pueden presentarse a través de las páginas de contacto de la agencia o 311.
- Apelaciones/revisión: revisión administrativa de la agencia o procesos de apelación de contratación; los plazos específicos para apelar no se especifican en las páginas citadas.
- Defensas/discreción: las agencias pueden considerar esfuerzos de cumplimiento de buena fe, planes de acción correctiva o variaciones aprobadas; las defensas estatutarias específicas no se especifican en las páginas citadas.
Solicitudes y formularios
No existe un formulario único de Borough Park para auditorías de IA publicado como formulario municipal; las agencias pueden publicar inventarios de ADS, plantillas de divulgación o requisitos de divulgación en sus propios sitios. Cuando se publican, los registros ADS de la agencia o los formularios de divulgación de contratación indicarán las divulgaciones, la documentación y los métodos de envío requeridos; si se requiere un número de formulario o tarifa, no se especifica en las páginas citadas.[1]
Violaciones comunes y respuestas típicas
- Falta de divulgación del uso de ADS: órdenes de remediación y demandas de registros públicos.
- Pruebas de sesgo o documentación insuficientes: auditorías correctivas y revisiones independientes obligatorias.
- Incumplimiento de cláusulas ADS en contratación: remedios contractuales, retención de pagos o nueva contratación.
Preguntas frecuentes
- ¿Tiene Borough Park una ley propia sobre IA distinta a la Ciudad de Nueva York?
- No; Borough Park es un vecindario dentro de la Ciudad de Nueva York y está sujeto a la orientación a nivel de ciudad y a las reglas de las agencias, no a una ordenanza de vecindario separada. Consulte los recursos de ADS de la ciudad para más detalles.[1]
- ¿A quién contacto para reportar un daño relacionado con IA en Borough Park?
- Reporte las inquietudes a la oficina de quejas o de contratación de la agencia desplegante y a NYC 311; para supervisión a nivel de ciudad, consulte las páginas de recursos de ADS para vías de contacto.[1]
- ¿Existen formularios para solicitar una auditoría de IA o copia de la documentación del modelo?
- Algunas agencias publican inventarios ADS o formularios de solicitud de divulgación; cuando se requiere un formulario específico no se especifica en las páginas citadas, por lo que debe contactar a la agencia desplegante o a 311 para solicitar la documentación.[1]
Cómo hacerlo
- Identifique el sistema y la agencia desplegante: anote el nombre del sistema y la oficina responsable.
- Contacte a la agencia y presente una queja: use la oficina de registros públicos o contratación y presente la queja vía 311; solicite divulgaciones o informes de auditoría ADS.
- Solicite divulgaciones publicadas o FOIL: pida cualquier entrada de inventario ADS o informes de auditoría del proveedor; si no están disponibles, presente una solicitud FOIL a la agencia.
- Considere apelaciones o acciones legales: si se agotan los recursos administrativos, consulte asesoría legal sobre apelaciones, medidas cautelares o demandas; los plazos dependen de la agencia y no se especifican en las páginas citadas.
Puntos clave
- La IA y los ADS en Borough Park se rigen por reglas y iniciativas de transparencia de la Ciudad de Nueva York.
- Las multas monetarias y los plazos de apelación exactos no se publican de forma consistente; las agencias emplean remedios administrativos y contractuales.
- Use los contactos de la agencia y 311 para solicitar auditorías, divulgaciones o reportar daños.
Ayuda y soporte / Recursos
- Automated Decision Systems Task Force - NYC
- NYC Department of Buildings (permits, cumplimiento)
- NYC 311 (informes y quejas)
- NYC Department of City Planning