Guía de ordenanza sobre auditoría de ética y sesgos de IA en Birmingham
Esta guía explica cómo los sistemas de Birmingham, Alabama deben abordar las auditorías de ética y sesgos de IA en el marco de la normativa municipal y la práctica administrativa. Resume la base legal probable en el Código de la Ciudad, identifica vías de cumplimiento, describe los pasos de auditoría y lista acciones prácticas para departamentos municipales, contratistas y proveedores. Cuando el texto específico de una ordenanza, multas o formularios no esté publicado para auditorías de IA, esta página cita el código municipal más cercano y dirige a las oficinas que gestionan ordenanzas y adquisiciones.[1]
Alcance y objetivos de una auditoría de ética y sesgos de IA
Una auditoría de ética y sesgos de IA para sistemas de Birmingham debe evaluar puntos de decisión algorítmica, datos de entrenamiento, resultados desagregados por características protegidas, documentación y cumplimiento del proveedor con los términos contractuales. Las auditorías suelen evaluar:
- Proveniencia de datos y representatividad del conjunto de datos.
- Rendimiento del modelo desglosado por grupos demográficos.
- Documentación, versionado y fichas de modelo o evaluaciones de impacto.
- Seguridad, controles de acceso y políticas de retención.
- Procesos para revisión humana, impugnación y apelaciones.
Proceso de auditoría y buenas prácticas
Adopte un proceso por etapas y transparente: definición de alcance, inventario de datos y modelos, pruebas cuantitativas de sesgo, revisión cualitativa de impacto, plan de remediación y seguimiento. Use revisores independientes cuando sea posible y mantenga un resumen público de la metodología y las acciones correctivas.
- Alcance de trabajo con revisores legales, técnicos y comunitarios.
- Inventario de conjuntos de datos, modelos y flujos de decisión.
- Pruebas estadísticas para impacto desigual y calibración por grupo.
- Recomendaciones para mitigación, monitoreo y disparadores de reentrenamiento.
Multas y cumplimiento
La Ciudad de Birmingham aplica ordenanzas municipales a través de sus oficinas legislativas y ejecutivas; las multas específicas por incumplimiento de auditorías de ética o sesgos de IA no están codificadas en una ordenanza específica en la página del código municipal citada y, por tanto, no están especificadas en la página citada.[1]
- Multas: no especificadas en la página citada; los importes o sanciones civiles aplicables dependerán de la sección de ordenanza o de las cláusulas contractuales invocadas por las autoridades competentes.
- Escalada: las estructuras de primera infracción, reincidencia o infracciones continuas no están especificadas en la página citada.
- Sanciones no monetarias: órdenes de cesar una práctica, planes de corrección, suspensión o rescisión de contratos y acciones judiciales son remedios posibles bajo disposiciones generales, pero las medidas específicas para IA no están especificadas en la página citada.
- Autoridad y vía de denuncia: departamentos municipales, la oficina del City Clerk o la oficina de cumplimiento gestionan quejas; consulte Ayuda y Recursos para contactos oficiales y páginas de envío.
- Apelación y revisión: los procesos municipales típicos permiten apelación administrativa o revisión judicial; los plazos específicos para apelaciones relacionadas con la aplicación de auditorías de IA no están especificados en la página citada.
- Defensas y discreción: defensas como excusa razonable, medidas correctivas tomadas o un permiso/variación autorizada pueden considerarse cuando las ordenanzas o cláusulas contractuales permiten discreción; las defensas específicas no están especificadas en la página citada.
Solicitudes y formularios
No hay un formulario municipal publicado explícitamente para auditorías de ética o sesgos de IA en la página del código municipal citada; los formularios o trámites requeridos para cumplimiento o apelaciones seguirán los procesos del departamento o del City Clerk referenciados en Ayuda y Recursos.[1]
Pasos de acción para departamentos y proveedores
- Incluya requisitos de auditoría en los contratos de adquisiciones.
- Realice o encargue una auditoría independiente de sesgo antes del despliegue.
- Presupueste la remediación y el monitoreo en los planes de proyecto.
- Publique un resumen de métodos y pasos de remediación para apoyar la transparencia.
FAQ
- ¿Tiene Birmingham una ordenanza específica que exija auditorías de IA?
- No hay una ordenanza municipal específica publicada en la página del código municipal citada; los requisitos se abordan actualmente mediante disposiciones existentes de adquisiciones, privacidad o antidiscriminación según su aplicación por los departamentos.[1]
- ¿Quién investiga las quejas sobre sesgo algorítmico en un sistema municipal?
- Las quejas las maneja el departamento correspondiente, el City Clerk o las oficinas de cumplimiento municipal según la materia; consulte Ayuda y Recursos para contactos.
- ¿Puede un proveedor ser removido de contratos municipales por no pasar una auditoría?
- Los remedios contractuales, incluida la suspensión o rescisión, pueden aplicarse si las cláusulas del contrato exigen cumplimiento y la auditoría demuestra incumplimiento; los remedios específicos están en los documentos de adquisición.
How-To
- Definir el alcance de la auditoría e identificar servicios afectados y clases protegidas.
- Recopilar un inventario completo de conjuntos de datos y modelos implicados en la toma de decisiones.
- Realizar pruebas cuantitativas de sesgo y documentar resultados por subgrupo.
- Elaborar un plan de remediación con plazos y responsables.
- Implementar monitoreo, disparadores de reentrenamiento y publicar un resumen no técnico.
Ayuda y Recursos
- City of Birmingham Code of Ordinances (Municode)
- City Clerk - City of Birmingham
- City Departments - City of Birmingham