Requisitos de auditoría de sesgo de IA y pasos para proveedores en Houston
En Houston, Texas, los departamentos municipales exigen cada vez más certificaciones y controles técnicos para reducir el sesgo en sistemas de IA usados en servicios públicos. Este artículo explica cómo la Ciudad de Houston aborda las auditorías de sesgo de IA para adquisiciones y ejecución de contratos, qué departamentos supervisan el cumplimiento y los pasos prácticos que deben seguir los proveedores para licitar, documentar y remediar sesgos algorítmicos al suministrar a la ciudad. Resume fuentes oficiales, pasos de solicitud, vías de enforcement y cómo los proveedores pueden apelar o solicitar variaciones.
Penalties & Enforcement
En la actualidad no existe una ordenanza municipal única titulada "auditoría de sesgo de IA"; el cumplimiento de adquisiciones y contratos se regula mediante el código de la Ciudad de Houston y las normas de compras. Consulte el código municipal y el Departamento de Compras para los requisitos de contrato y los procedimientos de cumplimiento [1][2]. Las cuestiones técnicas y operativas normalmente se dirigen al departamento de Tecnología de la Información de la ciudad para controles de sistemas y datos [3].
- Multas y sanciones monetarias: no especificado en la página citada.
- Escalamiento (primer, repetido, continuado): no especificado en la página citada.
- Sanciones no monetarias: rescisión de contrato, órdenes de acción correctiva, retención de pagos y inhabilitación son remedios de adquisiciones estándar; las sanciones específicas por IA no están listadas por separado en las páginas citadas.
- Ejecutor: Departamento de Compras de la Ciudad de Houston y el departamento contratante para el servicio específico; revisión legal por la Oficina del Fiscal de la Ciudad; revisión técnica por Information Technology Services cuando corresponda.
- Vías de denuncia e inspección: presente quejas de adquisiciones o informes de incumplimiento de contrato al Departamento de Compras o al departamento adjudicador (ver recursos abajo para contactos oficiales).
- Apelaciones y revisión: los procedimientos para disputas y protestas de contratos se rigen por las normas de compras; los plazos específicos y ventanas de apelación para hallazgos de auditoría de IA no están especificados en la página citada.
- Defensas y discreción: las defensas típicas incluyen la aprobación previa de la ciudad, planes correctivos activos o variaciones autorizadas; el lenguaje explícito de "excusa razonable" para auditorías de IA no está especificado en la página citada.
Applications & Forms
Los proveedores deben registrarse y mantener registros vigentes con el Departamento de Compras de la Ciudad de Houston y cumplir con cualquier requisito específico de la convocatoria que solicite entregables de auditoría de IA. Para el registro general de proveedores e instrucciones de licitación consulte las páginas de Compras y el portal de registro de proveedores [2]. Si una convocatoria requiere una auditoría de sesgo de IA, la convocatoria indicará el alcance de la auditoría, el formato, la fecha límite de entrega y si se exige un informe de tercera parte; si no se publica ningún formulario, no hay ninguno oficialmente publicado en las páginas citadas.
Vendor Steps for Compliance
Los proveedores que ofrezcan IA, analítica o sistemas de decisión automatizada que vaya a usar Houston deben preparar documentación y flujos de trabajo que los funcionarios de contratación puedan revisar durante la evaluación y la ejecución del contrato.
- Regístrese como proveedor y mantenga el estado activo con Purchasing antes de la adjudicación.
- Proporcione una descripción lista para auditoría de modelos, fuentes de datos de entrenamiento, métricas de equidad y documentación de rendimiento.
- Entregue planes de prueba y medidas de mitigación propuestas para el sesgo identificado, incluyendo reentrenamiento, umbrales y programas de monitoreo.
- Presupueste auditorías de terceros si la convocatoria exige verificación independiente.
- Cumpla con las fechas límite de la convocatoria para la entrega de evidencias y con cualquier periodo de informes de cumplimiento continuo enumerado en el contrato.
Implementation & Documentation
Documente la cadena de custodia de los datos, el versionado del modelo y los umbrales desplegados. Mantenga registros y paneles de monitoreo para demostrar cumplimiento continuo durante el término del contrato.
- Mantenga artefactos versionados de modelos y conjuntos de datos.
- Implemente monitoreo automatizado para impacto dispar y deriva de rendimiento.
- Proporcione informes accesibles para revisores de la agencia y para el Auditor o Inspector General si se solicita.
FAQ
- ¿Deben los proveedores realizar una auditoría de sesgo de IA para licitar en contratos de Houston?
- Depende de la convocatoria; algunos contratos pueden requerir evaluaciones de sesgo en la propuesta o en el plan de ejecución del contrato. Consulte los documentos de la convocatoria y los requisitos de Purchasing para instrucciones específicas.
- ¿Quién hace cumplir el cumplimiento y dónde informo una preocupación?
- El Departamento de Compras aplica los términos del contrato con aporte técnico del departamento adjudicador y de Information Technology Services; las quejas de adquisiciones se presentan a Purchasing a través de las páginas de contacto oficiales listadas en los recursos.
- ¿Existen multas fijas por no pasar una auditoría de sesgo de IA?
- No hay multas específicas por IA publicadas en las páginas municipales citadas; los remedios se gestionan conforme a las normas de adquisiciones y los remedios contractuales.
How-To
- Revise la convocatoria para requisitos de IA o toma de decisiones algorítmica y el alcance de la auditoría especificado.
- Regístrese como proveedor con el Departamento de Compras de la Ciudad de Houston si aún no está registrado.
- Prepare y entregue la documentación del modelo, resúmenes de los datos de entrenamiento y las medidas de mitigación propuestas con su propuesta o como entregable contractual.
- Si se requiere una auditoría independiente, contrate a un tercero calificado y entregue el informe al oficial de contratación antes de la fecha límite.
- Si recibe un hallazgo, siga el plan de acción correctiva requerido por el contrato y presente evidencia de la remediación.
Key Takeaways
- Houston aplica requisitos de auditoría a través de sus normas de adquisiciones en lugar de una ley municipal AI separada.
- Los proveedores deben preparar documentación auditable antes de responder a convocatorias.
Help and Support / Resources
- City of Houston Code of Ordinances - Municode
- City of Houston Purchasing Department
- Vendor Registration and Resources
- City of Houston Information Technology Services