Política de ética de IA y auditoría de sesgos de la ciudad de Dayton
Dayton, Ohio está utilizando cada vez más sistemas automatizados y herramientas basadas en datos en los servicios de la ciudad. Esta guía explica cómo puede enmarcarse una política municipal de ética en IA y un proceso de auditoría de sesgos para las herramientas de Dayton, quiénes supervisarían el cumplimiento y qué pasos deben seguir los departamentos y proveedores al desplegar sistemas algorítmicos que afectan decisiones públicas.
Alcance y propósito
Esta guía cubre los sistemas de IA operados por la ciudad o contratados por la ciudad que afectan servicios públicos, permisos, licencias, beneficios, seguridad pública o cumplimiento normativo. Recomienda principios básicos: transparencia, documentación, no discriminación, supervisión humana, minimización de datos y auditorías de sesgo periódicas. Cuando la Ciudad de Dayton tenga texto aplicable y exigible sobre adquisiciones o prácticas de datos, esas disposiciones permanecen primarias; las secciones específicas de la ordenanza para la gobernanza de IA no están especificadas en la página citada City of Dayton Code of Ordinances[1].
Elementos recomendados de la política
- Responsabilidad: asignar un responsable del sistema de IA y un patrocinador ejecutivo en cada departamento.
- Documentación: exigir model cards, datasheets y una declaración de impacto de despliegue para cada sistema.
- Auditorías de sesgo: requerir auditorías antes del despliegue y auditorías periódicas posteriores al despliegue por revisores independientes o equipos de auditoría internos.
- Cadencia de revisión: establecer ciclos de auditoría (por ejemplo, base, 6 meses, 12 meses) y disparadores de reauditoría tras cambios importantes.
- Supervisión humana: exigir revisión humana para decisiones de alto impacto y rutas claras de apelación para los residentes afectados.
Gobernanza de datos
Adoptar minimización de datos, límites de retención, controles de acceso y estándares de registro para modelos y datos de entrenamiento. Cuando los registros sean parte de los registros públicos, siga las reglas de la Ciudad de Dayton sobre registros y retención; las duraciones específicas de retención para artefactos de IA no están especificadas en la página citada City of Dayton Code of Ordinances[1].
Sanciones y cumplimiento
Dado que Dayton no lista actualmente una ordenanza explícita de IA en la página consolidada del código municipal, las multas monetarias exactas o las secciones estatutarias para violaciones de políticas de IA no están especificadas en la página citada; la ejecución recaería en las autoridades municipales existentes y en los recursos contractuales de adquisición City of Dayton Code of Ordinances[1].
- Multas: no especificadas en la página citada.
- Escalado: rangos para primera infracción, repetición y violaciones continuas no están especificados en la página citada.
- Sanciones no monetarias: las medidas probables incluyen órdenes de cese, medidas cautelares, terminación de contratos o planes de acción correctiva; los mecanismos exactos se determinan por contratos de adquisición y disposiciones del código aplicables.
- Agente de aplicación: la aplicación típicamente involucraría al Fiscal Municipal, el departamento responsable del sistema (por ejemplo, Tecnología de la Información o el departamento de servicio correspondiente) y las oficinas de adquisición o contratación.
- Apelaciones: las rutas formales de apelación y los plazos legales específicos para acciones relacionadas con IA no están especificados en la página citada; las partes afectadas deben consultar al Oficial de Audiencias de la ciudad, las normas del Concejo o las cláusulas de resolución de disputas contractuales.
Solicitudes y formularios
No hay un permiso municipal estándar para IA ni un formulario público de auditoría de sesgos publicado en la página del código municipal citada; los departamentos que adopten gobernanza de IA deberían publicar una plantilla estándar de declaración de impacto y un formulario de envío de auditoría para proveedores y contratistas City of Dayton Code of Ordinances[1].
Pasos operativos para departamentos
- Inventario: registre todos los sistemas, fuentes de datos, funciones de decisión y relaciones con proveedores.
- Evaluación de riesgos: clasifique los sistemas por impacto y sensibilidad y requiera mayor escrutinio para usos de alto impacto.
- Plan de auditoría: programe auditorías técnicas y de equidad antes del despliegue y seguimientos periódicos.
- Reportes: establezca una vía de denuncia e incidentes hacia el Fiscal Municipal y el departamento responsable.
FAQ
- ¿Quién aplica las normas de IA en Dayton?
- El Fiscal Municipal y el departamento que opera o contrata el sistema serían los aplicadores habituales; el texto específico de aplicación de IA no está especificado en la página del código municipal citada.[1]
- ¿Hay multas por incumplimiento de políticas de IA?
- Las multas o tarifas específicas para la gobernanza de IA no están especificadas en la página del código municipal citada; los recursos seguirán las disposiciones de adquisiciones y el código aplicable.[1]
- ¿Cómo puede un residente impugnar una decisión automatizada?
- Los residentes deben usar el contacto del departamento o las rutas formales de apelación del programa afectado; exija que el departamento proporcione revisión humana y una vía clara de apelación en cualquier política de IA adoptada.
How-To
- Catalogar sistemas: identificar cada sistema de decisión automatizada usado por el departamento, su propósito y partes interesadas.
- Realizar auditoría previa al despliegue: evaluar datos de entrenamiento, comportamiento del modelo y impactos dispares.
- Documentar controles: producir model cards, declaraciones de impacto, calendarios de retención y asignaciones de supervisión.
- Publicar aviso: informar a las comunidades afectadas y proporcionar una vía de contacto y apelación.
- Programar revisiones periódicas: reauditar tras actualizaciones de modelos, cambios de datos o daños observados.
Conclusiones clave
- Comience con un inventario y una clasificación de riesgo para todos los sistemas de IA de la ciudad.
- Requiera documentación lista para auditoría y supervisión humana para herramientas de alto impacto.
- Si falta un lenguaje específico de ordenanza, confíe en adquisiciones, recursos contractuales y el Fiscal Municipal para la aplicación.
Ayuda y recursos
- City of Dayton Code of Ordinances
- Sitio oficial de la Ciudad de Dayton
- Oficina del City Manager y contactos departamentales