Directrices de ética de IA y auditorías de sesgo para Bridgeport, Connecticut
Bridgeport, Connecticut se enfrenta a preguntas sobre el uso de sistemas automatizados por agencias municipales y contratistas. Esta guía explica lo que deben saber los funcionarios locales, oficiales de compras, proveedores y grupos comunitarios sobre principios de ética de IA, auditorías de sesgo, roles de aplicación y pasos para adoptar sistemas transparentes y responsables. Resume dónde existen reglas municipales, dónde el código municipal es silencioso y cómo preparar cláusulas de contratación y procesos de auditoría para reducir resultados discriminatorios.
Antecedentes y alcance
Los municipios usan sistemas automatizados para registros, licencias, control de estacionamiento y otros servicios. Bridgeport no publica actualmente una ordenanza municipal independiente titulada "ética de IA" en su código municipal, por lo que los responsables de políticas deben adaptar las reglas existentes de compras, privacidad y no discriminación para cubrir sistemas algorítmicos. Para referencia al repositorio del código municipal, vea la entrada del Código de Ordenanzas library entry[1].
Elementos de política recomendados para ordenanzas y contratos
Para crear reglas ejecutables, la ciudad debe exigir: definiciones claras de "sistema de decisión automatizado", auditorías de sesgo obligatorias para sistemas de alto impacto, normas de gobernanza de datos, divulgaciones de transparencia a residentes afectados y un plan de remediación para daños identificados. Las cláusulas contractuales deben exigir auditorías de sesgo independientes, conservación de informes de auditoría y el derecho a suspender temporalmente un sistema que cause daño.
- Definir sistemas cubiertos y umbrales para revisión obligatoria (p. ej., decisiones que afectan beneficios, permisos, licencias).
- Exigir evaluaciones de impacto y sesgo antes del despliegue y monitoreo posterior al despliegue.
- Incluir remedios contractuales y daños liquidados vinculados a hallazgos de auditoría.
- Preservar derechos de queja e inspección para el personal de cumplimiento de la ciudad o auditores designados.
Sanciones y aplicación
Actualmente no existe un cronograma de sanciones dedicado a IA publicado en el código municipal de Bridgeport; los montos de las multas y sanciones específicas relacionadas con la IA no están especificados en la página citada y tendrían que ser fijados por ordenanza o por términos contractuales. La aplicación de obligaciones relacionadas con compras o contratos normalmente corresponde al Departamento de Compras, la Oficina Legal y el departamento que emitió el contrato, con apoyo de TI o unidades de gobernanza de datos.
- Multas: no especificadas en la página citada; el código municipal o una nueva ordenanza deben fijar montos en dólares y sanciones por día.
- Escalamiento: no especificado en la página citada; se recomienda remedios escalonados como advertencia, plan de acción correctiva, multas y suspensión por incumplimientos continuos.
- Sanciones no monetarias: ordenar auditorías correctivas, suspensión o terminación de contratos, medidas cautelares judiciales y presentación obligatoria de informes públicos de los pasos de remediación.
- Responsables y quejas: Departamento de Compras, Oficina Legal y el departamento operativo responsable deberían aceptar quejas y coordinar inspecciones.
- Apelaciones y revisión: los plazos para apelaciones administrativas no están especificados en la página citada; cualquier nueva ordenanza debería fijar plazos (por ejemplo, 30 días para presentar una apelación) y detallar opciones de revisión judicial.
- Defensas y discrecionalidad: permitir excusas razonables, exenciones por uso en emergencias y un proceso de variación cuando el interés público se mitigue con medidas de supervisión.
Solicitudes y formularios
No se publica en la página del código municipal un formulario específico de Bridgeport para la certificación de sistemas de IA o auditorías de sesgo; si la ciudad adopta requisitos formales, los elementos típicos deberían incluir un Formulario de Divulgación de Sistema de IA, una plantilla de Informe de Auditoría de Sesgo y formularios de declaración del proveedor para presentar en Compras o el departamento contratante.
Pasos de acción para funcionarios municipales y proveedores
- Redactar lenguaje de contratación que exija auditorías de sesgo independientes antes de la adjudicación y en intervalos periódicos.
- Adoptar reglas de minimización y retención de datos para reducir riesgos de sesgo en conjuntos de entrenamiento.
- Capacitar al personal de compras y a los gerentes de programa para identificar usos de alto riesgo y exigir planes de mitigación.
- Establecer una vía pública de quejas con un contacto claro en Compras u Asuntos Legales.
Preguntas frecuentes
- ¿Qué es una auditoría de sesgo y quién debe realizarla?
- Una auditoría de sesgo examina entradas, salidas y resultados del modelo en busca de impacto dispar; las auditorías deben realizarse por auditores técnicos independientes o terceros calificados bajo contrato municipal.
- ¿Bridgeport tiene actualmente una ordenanza de IA?
- No hay una ordenanza de IA independiente publicada en el Código de Ordenanzas; el código municipal no especifica reglas de IA según el repositorio citado.[1]
- ¿Cómo pueden los residentes reportar preocupaciones sobre decisiones automatizadas?
- Los residentes deben contactar al departamento que emitió la decisión, a Compras para asuntos relacionados con contratos o a la Oficina Legal para quejas jurisdiccionales; consulte la sección de Ayuda y Recursos para contactos oficiales.
Cómo hacer
- Identifique los sistemas de alto impacto utilizados por su departamento y clasifique los niveles de riesgo.
- Exija que los proveedores presenten una Divulgación de Sistema de IA y una evaluación de sesgo previa al despliegue.
- Contrate auditorías de sesgo independientes con alcance claro y derechos de acceso a datos.
- Publique un resumen de los hallazgos de auditoría y un cronograma de remediación para los daños identificados.
- Monitoree los resultados tras la remediación y exija auditorías de seguimiento en intervalos definidos.
Puntos clave
- Bridgeport debe adaptar las reglas de compras y no discriminación para abarcar sistemas de IA.
- Las auditorías de sesgo obligatorias y la verificación independiente son medidas prácticas a corto plazo.
- La aplicación dependerá de Compras, Asuntos Legales y el departamento operativo hasta que existan ordenanzas específicas.
Ayuda y soporte / Recursos
- Sitio oficial de la Ciudad de Bridgeport
- Departamento de Edificación de Bridgeport
- Departamento de Planificación y Zonificación
- División de Compras