Adquisición de IA en Fort Worth: Estándares para proveedores y auditorías de sesgo
Fort Worth, Texas, las agencias que adquieren sistemas de inteligencia artificial (IA) deben alinear las compras con las normas de adquisición municipales, estándares para proveedores y las obligaciones aplicables a la compra mediante contratos cooperativos estatales. Esta guía explica las fuentes legales, cláusulas contractuales, expectativas de auditoría de sesgo, vías de cumplimiento y pasos prácticos para departamentos municipales y proveedores en Fort Worth para reducir el sesgo algorítmico, proteger datos y cumplir con la normativa de contratación.
Autoridad legal y dónde buscar
Las autoridades legales primarias para la contratación municipal en Fort Worth son el Código de la Ciudad y las reglas y políticas de la División de Compras de la Ciudad de Fort Worth; las solicitudes de adquisición, instrucciones para proveedores y plantillas contractuales son publicadas o administradas por la División de Compras [1] y el Código de la Ciudad contiene la ordenanza habilitante y la delegación de la autoridad contractual [2]. Para compras cooperativas o uso de contratos estatales, Fort Worth puede remitirse a los recursos del Contralor de Texas sobre compras cooperativas [3]. Si una norma específica de IA o mandato de auditoría de sesgo no aparece en esos documentos, no está especificada en la página citada.
Estándares municipales de adquisición para proveedores de IA
Los departamentos de Fort Worth deben tratar las adquisiciones de IA como adquisiciones de tecnología de la información con requisitos adicionales de transparencia, protección de datos y mitigación de sesgo incorporados en las solicitudes y en los contratos.
- Exigir una propuesta técnica que describa algoritmos, fuentes de datos de entrenamiento y actualizaciones de modelos.
- Solicitar declaraciones del proveedor sobre gobernanza de datos, salvaguardas de privacidad y conservación de registros.
- Incluir precios por el servicio base y partidas separadas para los costos de auditoría de sesgo o pruebas independientes.
- Mandatar estándares de seguridad (cifrado, controles de acceso) alineados con las políticas de TI de la ciudad.
- Especificar pruebas de aceptación, frecuencia de informes y requisitos para planes correctivos cuando se identifique impacto dispar.
Auditorías de sesgo y cláusulas contractuales
Los contratos para sistemas de IA pueden requerir auditorías de sesgo previas al despliegue, auditorías periódicas durante la operación y monitoreo posterior al despliegue. Las cláusulas contractuales típicas incluyen el alcance de la auditoría, calificaciones del auditor independiente, plazos de remediación y términos de acceso a datos para los auditores.
- Definir el alcance de la auditoría: poblaciones examinadas, métricas (tasas de falsos positivos/negativos, ratios de impacto dispar) y conjuntos de datos utilizados.
- Exigir un auditor independiente tercero o un auditor acordado mutuamente para resultados disputados.
- Establecer la frecuencia de auditorías: inicial, anual y desencadenada por eventos (por ejemplo, actualizaciones importantes del modelo).
- Asignar responsabilidad al proveedor por la remediación y los costos de acciones correctivas cuando se identifique sesgo.
Sanciones y cumplimiento
El cumplimiento de la contratación y el incumplimiento de contratos en Fort Worth se rigen por el Código de la Ciudad y las reglas de contratación administradas por la División de Compras y la autoridad del City Attorney. Cuando el código municipal o las páginas de compras no enumeran sanciones específicas para el incumplimiento relacionado con IA, las páginas citadas no especifican multas monetarias vinculadas únicamente al cumplimiento de IA [2].
- Multas monetarias: no especificadas en la página citada; no se listan sanciones monetarias concretas por violaciones de sesgo de IA en los materiales de la División de Compras o en el Código de la Ciudad [1][2].
- Escalamiento: los enfoques municipales habituales incluyen períodos de subsanación, retención de pagos, resolución por incumplimiento y inhabilitación; los pasos exactos y los plazos no están especificados en las páginas citadas [2].
- Sanciones no monetarias: órdenes de remediación, suspensión de privilegios contractuales, retención de pagos, terminación de contrato y remisión a procesos judiciales o administrativos son herramientas comunes bajo la autoridad contractual de la ciudad.
- Responsable y quejas: la División de Compras y el City Attorney gestionan el cumplimiento de adquisiciones; las quejas y disputas de contratación se presentan mediante los procedimientos de contacto de la División de Compras [1].
- Apelaciones y revisiones: los proveedores por lo general pueden solicitar revisión administrativa o presentar protestas conforme a las reglas de compras y procedimientos estatutarios; los plazos para protestas o apelaciones no están especificados en la página de la División de Compras y deben confirmarse con la División de Compras [1].
- Defensas y discreción: los funcionarios de compras conservan la discreción para otorgar exenciones, adquisiciones de emergencia o variaciones cuando esté autorizado por el Código de la Ciudad o las reglas de la División de Compras [2].
Solicitudes y formularios
La División de Compras publica el registro de proveedores, documentos de licitación y formularios contractuales requeridos; no se especifican formularios independientes dedicados a auditorías de sesgo en las páginas citadas y normalmente se incorporan a las solicitudes o anexos contractuales [1].
Pasos de acción para departamentos y proveedores
- Departamentos: incluya un requisito de auditoría de sesgo y una cláusula de acceso a datos en la RFP antes de emitir la solicitud.
- Proveedores: prepare una muestra de datos redactada y un plan de auditoría independiente para adjuntar a su propuesta técnica.
- Ambas partes: acuerden métricas de equidad medibles y un cronograma de remediación antes de la adjudicación.
- Contacte a Compras temprano para confirmar las reglas aplicables, plazos de protesta y opciones de contratos cooperativos [1][3].
FAQ
- ¿Fort Worth tiene una política municipal específica para IA?
- No está especificado en las páginas citadas; el Código de la Ciudad y la División de Compras proporcionan la autoridad y prácticas de contratación, pero no se muestra una política municipal consolidada específica de IA en esas páginas oficiales [2][1].
- ¿La ciudad puede exigir auditorías de sesgo independientes?
- Sí; la ciudad puede exigir cláusulas contractuales de auditoría como parte de los términos de contratación, pero los procedimientos obligatorios específicos de auditoría no aparecen en los documentos de la División de Compras citados.
- ¿Con quién me contacto para plantear una queja sobre cumplimiento de adquisiciones?
- Contacte a la División de Compras de la Ciudad de Fort Worth a través de la página oficial de Compras para procedimientos de queja y protesta [1].
How-To
- Defina el propósito del sistema de IA y las clases protegidas u objetivos que supervisará para equidad.
- Redacte el lenguaje de la RFP exigiendo el alcance de la auditoría de sesgo, calificaciones del auditor independiente y plazos de remediación.
- Exija que los proveedores presenten una muestra de datos redactada, documentación técnica y costos estimados de auditoría.
- Evalúe las propuestas usando criterios ponderados que incluyan equidad, transparencia y seguridad junto con precio y mérito técnico.
- Finalice el contrato con entregables de auditoría explícitos, cadencia de informes y consecuencias por impacto dispar no resuelto.
Conclusiones clave
- Incorpore métricas de equidad medibles en RFPs y contratos.
- Exija auditorías independientes y obligaciones claras de remediación.
- Coordine con la División de Compras y el City Attorney al redactar adquisiciones de IA [1][2].
Ayuda y soporte / Recursos
- City of Fort Worth Purchasing Division
- Fort Worth Code of Ordinances (Municode)
- Texas Comptroller - Cooperative Purchasing