Ley municipal de Charlotte: Requisitos para proveedores en auditorías de sesgo de IA
En Charlotte, Carolina del Norte, las adquisiciones del sector público de sistemas de decisión automatizados están sujetas a las normas de contratación municipal, estándares de tecnología de la información y cláusulas contractuales que afectan las obligaciones del proveedor respecto a auditorías de sesgo de IA. Esta guía explica qué deben esperar los proveedores al responder a las solicitudes de la Ciudad de Charlotte, cómo suelen formularse los requisitos de auditoría de sesgo en contratos de contratación y TI, y dónde plantear preguntas de cumplimiento ante los departamentos de la ciudad. Cuando el código municipal o las plantillas de contratación publicadas no especifican una sanción numérica o un formulario de auditoría nombrado, esta guía señala ese hecho y remite a las oficinas que hacen cumplir el cumplimiento contractual.
Alcance y aplicabilidad
Los contratos municipales para software, análisis y sistemas de decisión automatizados pueden exigir a los proveedores realizar o presentar auditorías independientes de sesgo de IA, aportar documentación sobre los datos de entrenamiento y permitir pruebas transparentes por parte del personal de la ciudad. Estos requisitos suelen aparecer en:
- acuerdos de software como servicio y licencias para sistemas de apoyo a la decisión;
- solicitudes de contratación (RFP/RFQ) que incluyen criterios técnicos y éticos de evaluación;
- contratos con anexos de intercambio de datos, privacidad o seguridad que hacen referencia a obligaciones de prueba o auditoría.
Los proveedores deben considerar los requisitos de auditoría de sesgo como entregables contractuales y presupuestar pruebas de terceros, documentación y remediación cuando se solicite.
Sanciones y aplicación
La Ciudad de Charlotte aplica las obligaciones de los proveedores mediante recursos contractuales, acciones de contratación y, cuando proceda, procesos administrativos. Las multas monetarias específicas vinculadas únicamente al incumplimiento de una auditoría de sesgo de IA no están especificadas en las páginas municipales citadas; en su lugar, la aplicación utiliza los recursos disponibles bajo el contrato y las normas de contratación vigentes.
- Multas monetarias: no especificadas en la página citada.
- Escalada: la progresión típica es aviso, periodo de subsanación y luego terminación o inhabilitación; los plazos exactos no están especificados en la página citada.
- Sanciones no monetarias: suspensión del contrato, terminación, retención de pagos, exigencia de remediar salidas sesgadas y remisión a la Oficina del Fiscal de la Ciudad por reclamaciones por incumplimiento.
- Órgano aplicador: Servicios de Contratación y la oficina de TI/Tecnología de la Ciudad supervisan el cumplimiento; la ejecución contractual puede implicar a la Oficina del Abogado de la Ciudad.
- Inspección y quejas: los proveedores y el público pueden presentar solicitudes de servicio o quejas de contratación a través de los canales oficiales de la ciudad enumerados en Recursos.
- Apelaciones/revisión: existen procedimientos de protesta de contratación y disputas contractuales en las normas de contratación de la ciudad; los plazos específicos de apelación no están especificados en la página citada y se establecerán en la solicitud o los documentos contractuales.
- Defensas/discreción: las cláusulas contractuales suelen permitir periodos de subsanación, planes de remediación y excepciones cuando el proveedor demuestra una excusa razonable o esfuerzos de cumplimiento; la disponibilidad depende del lenguaje del contrato.
Solicitudes y formularios
La Ciudad no publica un formulario dedicado a "auditoría de sesgo de IA"; el cumplimiento se gestiona mediante presentaciones estándar de contratación, anexos contractuales y respuestas del proveedor a los requisitos del RFP. Los proveedores deben presentar los informes de auditoría propuestos y los artefactos de prueba como anexos a los hitos de entrega del contrato o según lo especifique la solicitud.
Lenguaje contractual que deben esperar los proveedores
Al preparar propuestas, los proveedores suelen encontrar cláusulas que exigen:
- documentación del diseño del modelo, procedencia de los datos y medidas de mitigación para sesgos conocidos;
- auditorías de terceros o independientes del rendimiento del modelo y métricas de equidad;
- estimaciones de costo para trabajo de auditoría y remediación incluidas en la oferta;
- salvaguardas de seguridad y privacidad para cualquier dato compartido en las auditorías.
Preguntas frecuentes
- ¿Qué activa el requisito de auditoría de sesgo en un contrato de Charlotte?
- Los requisitos de auditoría se activan por el lenguaje de la solicitud o del contrato para sistemas que toman decisiones automatizadas o influyen materialmente en programas de la ciudad; verifique el RFP y los anexos del contrato para cláusulas explícitas de auditoría o prueba.
- ¿Quién aplica los requisitos de auditoría y dónde informo preocupaciones?
- Servicios de Contratación y la oficina de TI/Tecnología de la Ciudad administran el cumplimiento del proveedor; las quejas de contratación y las solicitudes de servicio se presentan a través de los canales oficiales de la ciudad que figuran en Recursos.
- ¿Existen métricas estándar o una metodología de auditoría requerida?
- La ciudad no publica una metodología obligatoria única; los documentos contractuales pueden especificar métricas obligatorias, formatos de informe o proveedores de auditoría aceptados según el caso.
Cómo hacerlo
- Revise la solicitud y los anexos contractuales para identificar entregables de auditoría o prueba.
- Prepare un alcance de trabajo para las pruebas de sesgo que se ajuste a los requisitos y al presupuesto de la ciudad.
- Organice pruebas independientes o asigne equipos internos validados y documente métodos, conjuntos de datos y resultados.
- Incluya planes de remediación y estimaciones de costo en su propuesta para abordar problemas identificados.
- Entregue informes de auditoría como hitos del contrato y conserve la evidencia para inspección durante el plazo del contrato y cualquier periodo de retención especificado.
Puntos clave
- Charlotte considera las obligaciones de auditoría de sesgo como entregables contractuales vinculados a la contratación y a los estándares de TI.
- Las multas monetarias específicas por no realizar una auditoría de sesgo de IA no se publican en las páginas municipales; la aplicación emplea recursos contractuales.
- Servicios de Contratación y la oficina de TI son los puntos principales para preguntas, cumplimiento y quejas.
Ayuda y soporte / Recursos
- City of Charlotte - Procurement Services
- City of Charlotte - Information Technology
- City Clerk - Charter & Code / Ordinances
- City Service Requests & Reports