Requisitos de auditoría de sesgo de IA para proveedores en Long Beach
Los proveedores en Long Beach, California que suministren software o servicios con sistemas de decisión automatizada deben evaluar si las políticas municipales de contratación o TI imponen obligaciones de auditoría de sesgo. Esta guía resume las fuentes municipales actuales, explica los pasos de cumplimiento probables y muestra dónde reportar preguntas o disputas a las oficinas de la Ciudad. Está dirigida a proveedores que responden a licitaciones o que contratan con la Ciudad de Long Beach y se centra en las obligaciones del proveedor, las violaciones notificables y pasos prácticos para preparar evidencia de auditoría y planes de remediación.
Alcance y lo que deben saber los proveedores
No existe una ordenanza única de Long Beach etiquetada como "auditoría de sesgo de IA" en el código municipal consolidado; los proveedores deben revisar los términos de compras y contratos para cláusulas de auditoría o de no discriminación específicas para proveedores. [1]
- Incluya declaraciones del proveedor sobre equidad algorítmica y no discriminación en las propuestas.
- Prepare documentación de los datos de entrenamiento, la validación del modelo y la metodología de pruebas de sesgo.
- Presupueste auditorías independientes de sesgo cuando las licitaciones o contratos requieran verificación externa.
- Espere revisiones de seguridad y privacidad por parte de la oficina de TI o de gobernanza de datos de la Ciudad durante la incorporación.
Sanciones y aplicación
El Código Municipal de Long Beach no especifica una tabla de multas ni montos estatutarios dedicados por incumplimiento de una auditoría de sesgo de IA; cuando apliquen sanciones, se impondrán mediante recursos contractuales, sanciones de contratación o disposiciones generales de cumplimiento del código y no mediante una tabla de sanciones exclusiva. No especificado en la página citada. [1]
- Multas monetarias: no especificado en la página citada; la ejecución suele ser mediante deducciones contractuales, retención de pagos o terminación.
- Escalamiento: incumplimientos iniciales o repetidos se gestionan mediante avisos de subsanación, posible terminación y exclusión en virtud de las reglas de contratación.
- Sanciones no monetarias: órdenes de corrección, suspensión/terminación de contratos, planes de remediación obligatorios o remisión al City Attorney para acciones civiles.
- Aplicador e informe: la División de Compras aplica los términos contractuales y gestiona las quejas; las revisiones técnicas y solicitudes de inspección se coordinan con la oficina de TI de la Ciudad. [2]
- Apelaciones/revisión: las disposiciones de disputa del contrato rigen las apelaciones; los plazos de subsanación y protesta se establecen en los documentos de licitación o en las reglas de compra.
Solicitudes y formularios
No se publica un formulario municipal de auditoría de sesgo para proveedores; cuando una licitación requiera una auditoría, el RFP/RFQ especificará el formulario requerido, las cualificaciones del evaluador externo, el método de envío y las fechas límite. Los proveedores deben inspeccionar los documentos del contrato para cualquier formulario o portal de presentación prescrito. [2]
Expectativas técnicas y de datos
Los proveedores deben esperar que el equipo de TI o de gobernanza de datos de la Ciudad solicite:
- Documentación de conjuntos de datos, pasos de preprocesamiento y métricas de equidad empleadas en la validación.
- Resultados de pruebas de sesgo, planes de monitoreo de deriva del modelo y cronogramas de auditoría post-despliegue.
- Evidencia de evaluaciones de impacto de privacidad y medidas de minimización de datos.
Para orientación técnica y puntos de contacto en la Ciudad para revisión de datos y sistemas, los proveedores deben consultar las páginas de TI o de la oficina de tecnología de la Ciudad. [3]
Violaciones comunes
- No entregar los informes de auditoría requeridos o las evaluaciones de terceros en el plazo estipulado.
- Retener o redactar la procedencia de datos de entrenamiento que la Ciudad requirió para la revisión.
- Implementar actualizaciones sin volver a probar o sin notificar a la Ciudad según lo requerido.
Pasos de acción para proveedores
- Revise la licitación y los términos del contrato en busca de requisitos de auditoría antes de presentar la oferta.
- Prepare un plan de auditoría de sesgo y un cronograma que se ajuste a las ventanas de revisión técnica de la Ciudad.
- Contrate evaluadores independientes cualificados si el RFP requiere verificación externa.
- Establezca puntos de contacto en compras y TI para agilizar la remediación y las apelaciones.
FAQ
- ¿El código municipal de Long Beach exige actualmente auditorías de sesgo de IA para proveedores?
- No hay una sección única del código municipal que exija explícitamente auditorías de sesgo de IA para proveedores; las obligaciones de auditoría aparecen normalmente en contratos o licitaciones individuales. [1]
- ¿Quién aplica el cumplimiento de auditoría para proveedores?
- La Dirección de Compras aplica el cumplimiento del proveedor y los recursos contractuales, coordinándose con TI de la Ciudad para revisiones técnicas. [2]
- ¿Dónde debo enviar preguntas sobre revisiones técnicas de datos?
- Contacte a la oficina de TI o de gobernanza de datos de la Ciudad a través de las páginas oficiales de TI de Long Beach. [3]
How-To
- Lea la licitación e identifique cláusulas que requieran auditorías de sesgo o verificación de terceros.
- Reúna documentación de conjuntos de datos, informes de validación del modelo y la metodología de auditoría propuesta.
- Si es necesario, contrate a un evaluador independiente cualificado y programe la auditoría dentro del plazo de la licitación.
- Envíe los informes por el método especificado en el contrato y notifique a los contactos de compras y TI de la Ciudad.
- Si surge una disputa, siga los procedimientos de protesta y subsanación del contrato de manera oportuna.
Puntos clave
- No existe una ordenanza consolidada de Long Beach sobre auditorías de sesgo de IA; consulte los términos del contrato.
- Prepare documentación y espere revisiones coordinadas por Compras y TI.
Ayuda y recursos
- City Clerk - Municipal Code and Ordinances
- City of Long Beach Purchasing Division
- City of Long Beach Information Technology