Auditoría de ética de IA en la contratación municipal de Greensboro
Greensboro, Carolina del Norte, las agencias evalúan cada vez más las herramientas algorítmicas utilizadas en la contratación municipal. Esta guía explica pasos prácticos para planificar y documentar una auditoría de ética y sesgo de IA vinculada a decisiones de contratación, destaca vías de cumplimiento y muestra dónde presentar quejas o apelaciones en Greensboro.
Alcance y cuándo auditar
El alcance de la auditoría debe corresponder al riesgo de la contratación: algoritmos de proveedores que afectan adjudicaciones, puntuación de ofertas, selección de proveedores o la elegibilidad. Defina entradas de datos, puntos de decisión y la documentación del modelo provista por el proveedor antes de adjudicar el contrato.
Preparación de una auditoría de ética y sesgo de IA
- Definir objetivos: equidad, transparencia, responsabilidad y privacidad.
- Recopilar materiales: descripciones del modelo, resúmenes de datos de entrenamiento, informes de validación y declaraciones del proveedor.
- Asignar roles: líder de contratación, auditor técnico, revisor legal y custodio de registros.
- Establecer un cronograma alineado con hitos de contratación y fechas de renovación de contratos.
Comience las auditorías temprano—antes de la adjudicación cuando sea posible.
Sanciones y ejecución
Greensboro no publica una tabla de sanciones específica para IA en sus páginas de contratación; cantidades concretas de multas no están especificadas en las páginas citadas.[2]
- Multas monetarias: no especificadas en la página citada; consulte el código de adquisiciones o las cláusulas contractuales para el lenguaje de remedios.[2]
- Escalamiento: procedimientos para primeras, repetidas o continuas infracciones no están especificados en la página citada y dependen típicamente de cláusulas contractuales o normas de compra.[2]
- Sanciones no monetarias: posible terminación de contrato, órdenes de acción correctiva, suspensión de elegibilidad del proveedor o remisión a procesos legales; los remedios exactos no están especificados en la página citada.[2]
- Ejecutor: la División de Adquisiciones de la Ciudad de Greensboro y la oficina del Fiscal de la Ciudad manejan el cumplimiento y las investigaciones; las quejas y preguntas deben canalizarse a Adquisiciones.[1]
- Vía de inspección y queja: presentar quejas de contratación o informes de incumplimiento contractual ante la División de Adquisiciones como punto de contacto inicial.[1]
- Apelaciones y revisión: el código de adquisiciones o el acuerdo de compra normalmente establece procesos de protesta y apelación y los plazos; dichos plazos específicos no están especificados en la página citada.[2]
Las quejas de contratación se gestionan en primera instancia por la División de Adquisiciones.
Solicitudes y formularios
La División de Adquisiciones publica el registro de proveedores y documentos de licitación; no obstante, no se publica un formulario estandarizado de auditoría de IA en la página de Adquisiciones citada.[1]
Cómo hacerlo
- Mapear los puntos de decisión donde los algoritmos afectan resultados de contratación y documentar esos puntos.
- Solicitar divulgaciones del proveedor: propósito del modelo, conjuntos de datos, métricas de rendimiento y pruebas documentadas de sesgo.
- Realizar validación independiente con conjuntos de datos locales relevantes y evaluar impacto dispar entre clases protegidas.
- Documentar hallazgos y exigir planes de acción correctiva en los términos contractuales antes de la adjudicación.
- Incluir derechos de auditoría y remediaciones en el contrato, incluyendo acceso a registros y salidas del modelo por un periodo definido.
- Establecer una cadencia de monitoreo para los modelos desplegados en flujos de trabajo de contratación en vivo.
Incluya derechos contractuales de auditoría antes de adjudicar un contrato.
Preguntas frecuentes
- ¿Exigen las normas de contratación de Greensboro una auditoría ética de IA?
- No hay un mandato municipal de auditoría de IA especificado en las páginas citadas de contratación o del código; las agencias deben incluir disposiciones de auditoría contractual cuando exista riesgo.
- ¿Quién hace cumplir el cumplimiento relacionado con IA en las contrataciones?
- La División de Adquisiciones de la Ciudad de Greensboro y la oficina del Fiscal de la Ciudad manejan el cumplimiento y las investigaciones; dirija las quejas inicialmente a la División de Adquisiciones.
- ¿Dónde encuentran los proveedores formularios de registro o licitaciones?
- Los documentos de registro de proveedores y de licitaciones los publica la División de Adquisiciones; no hay un formulario especializado de auditoría de IA publicado en la página citada.
Conclusiones clave
- Documente puntos de decisión de IA y exija divulgaciones del proveedor.
- Incluya derechos contractuales de auditoría y pasos de remediación antes de la adjudicación.
- Envíe preguntas y quejas de cumplimiento a la División de Adquisiciones.
Ayuda y Recursos
- City of Greensboro - Procurement Division
- Greensboro Code of Ordinances
- City of Greensboro - City Attorney