Reglas de auditoría de sesgo y ética de IA en Charlotte
En Charlotte, Carolina del Norte, los departamentos municipales evalúan cada vez más los sistemas de inteligencia artificial utilizados en compras, prestación de servicios y aplicaciones orientadas al público. Esta guía resume las expectativas actuales para auditorías de ética y sesgo de IA, apunta a recursos oficiales del código y de compras, explica la aplicación y las vías de apelación, y ofrece pasos prácticos para departamentos, proveedores y residentes que buscan cumplimiento o desean reportar preocupaciones.
Alcance y base legal
Charlotte aún no cuenta con un capítulo único en su código municipal dedicado explícitamente a las auditorías de IA; la autoridad relevante suele derivarse del Código de la Ciudad, las normas de adquisición, las políticas de gobernanza de datos y las directrices departamentales. Revise el Código de la Ciudad para la delegación de autoridad relacionada y las normas de adquisiciones en las páginas oficiales del código y de adquisiciones City Code - Municode[1] y las páginas de adquisiciones de la Ciudad City Procurement - Finance[2].
Requisitos clave para auditorías de ética y sesgo de IA
Las expectativas para las auditorías surgen de cláusulas contractuales de adquisiciones, políticas de no discriminación y disposiciones de privacidad o uso de datos en las normas departamentales. Los componentes comunes que los departamentos exigen incluyen descripciones documentadas de conjuntos de datos, evaluaciones de impacto, pruebas de sesgo, planes de supervisión humana y pasos de remediación.
- Proporcionar una descripción del sistema de IA y un resumen de la arquitectura.
- Entregar la procedencia del conjunto de datos, métodos de muestreo y limitaciones conocidas.
- Presentar informes de pruebas de sesgo externos o internos y medidas de mitigación.
- Incluir documentos de gobernanza: gobernanza de modelos, controles de acceso y procedimientos de intervención humana.
Sanciones y aplicación
La aplicación por incumplimiento de los requisitos de auditoría de ética o sesgo de IA se administra mediante recursos contractuales aplicables, sanciones de adquisiciones y mecanismos de cumplimiento del código. Las multas monetarias específicas por incumplimiento de auditorías de IA no están codificadas de manera consistente en las páginas consolidadas de la ciudad y a menudo se establecen por contrato o política en lugar de por una ordenanza única; cuando existen cantidades o sanciones estatutarias exactas, se citan en el instrumento controlador o en el lenguaje del contrato; de lo contrario, no están especificadas en la página citada.[1]
- Multas monetarias: no están especificadas en la página citada; por lo general se rigen por términos contractuales o secciones específicas del código.[1]
- Escalada: las infracciones iniciales, repetidas y continuas suelen tramitarse mediante avisos de incumplimiento contractual, periodos de subsanación y derechos de terminación; los rangos exactos no están especificados en la página citada.
- Sanciones no monetarias: suspensión de contratos, terminación, órdenes cautelares o directivas de remediación por parte del departamento aplicador.
- Aplicador: adquisiciones y la oficina departamental relevante (por ejemplo, Tecnología e Innovación o el departamento que utiliza el sistema) gestionan el cumplimiento y las investigaciones; contacte a adquisiciones para asuntos relacionados con compras. Contactos de adquisiciones[2]
- Apelación/revisión: resolución de disputas contractuales, revisión administrativa o acción judicial; los plazos dependen del contrato o de la sección del código y no están especificados en la página citada.
Solicitudes y formularios
No existe un formulario único publicado por la ciudad específicamente titulado "auditoría de ética de IA" en las páginas consolidadas de adquisiciones o del código; los entregables de auditoría suelen presentarse como parte de paquetes de cumplimiento contractual o presentaciones de adquisiciones, o se solicitan dentro de los procesos de gobernanza de datos departamentales. Para presentaciones relacionadas con adquisiciones, consulte la orientación oficial de adquisiciones y contacte al personal de adquisiciones para obtener la lista de documentos requeridos y los portales de envío.[2]
Pasos de acción para departamentos, proveedores y residentes
- Departamentos: incluya cláusulas claras de auditoría de IA en RFP y contratos y especifique formatos y plazos de entrega.
- Proveedores: prepare evaluaciones de sesgo, documentación del diseño del modelo y registros de pruebas listos para presentar.
- Residentes: reporte preocupaciones sobre impactos discriminatorios al departamento que usa el sistema y a Adquisiciones para asuntos contractuales; utilice las páginas oficiales de quejas/contacto para un reporte formal.
Violaciones comunes
- No proporcionar los informes de auditoría o conjuntos de datos requeridos.
- Desplegar modelos sin mitigación documentada del sesgo o supervisión humana.
- Representar de manera incorrecta los resultados de las pruebas u omitir limitaciones conocidas.
FAQ
- ¿Quién aplica los requisitos de auditoría de IA en Charlotte?
- Adquisiciones y el departamento que contrató u opera el sistema de IA suelen aplicar las obligaciones de auditoría y cumplimiento; Adquisiciones gestiona los recursos contractuales.
- ¿Existen formularios estándar de la ciudad para auditorías de IA?
- No hay un formulario único de auditoría de IA publicado en las páginas consolidadas de adquisiciones o del código; los entregables se solicitan según el contrato o la orientación departamental.
- ¿Cómo informo una decisión sesgada de un sistema de IA de la ciudad?
- Contacte al departamento que usa el sistema y a Adquisiciones para asuntos contractuales; utilice las páginas oficiales de quejas/contacto para reportes formales.
How-To
- Identifique las cláusulas contractuales o políticas departamentales que exigen auditorías de IA y anote los plazos de presentación.
- Reúna los materiales requeridos: descripción del modelo, conjuntos de datos, resultados de las pruebas y planes de mitigación.
- Envíe la documentación a través del portal de adquisiciones o al contacto departamental designado; solicite confirmación de recepción.
- Aborde las directrices de remediación con prontitud y conserve registros de las correcciones y las nuevas pruebas.
- Si no está de acuerdo con una medida de aplicación, siga la resolución de disputas contractual o solicite una revisión administrativa dentro de los plazos indicados en el contrato o la norma correspondiente.
Conclusiones clave
- Charlotte confía en normas departamentales y de adquisiciones para las auditorías de IA en lugar de una ordenanza única sobre IA.
- Prepare documentación detallada y conserve las pruebas de auditoría para reducir el riesgo de sanciones.
Ayuda y recursos
- City of Charlotte Finance - Procurement
- City of Charlotte Code of Ordinances - Municode
- Charlotte Planning, Design & Development
- City Innovation & Technology Office