Ordenanza de auditoría de ética y sesgos de IA de Denton
Esta guía explica cómo la Ciudad de Denton, Texas aborda las auditorías de ética y sesgos para herramientas municipales de IA, quién es responsable de la supervisión y dónde encontrar reglas o políticas oficiales. Resume las secciones aplicables del código municipal y las políticas de la ciudad donde podrían aparecer la gobernanza de IA, la contratación o las normas de uso de datos, explica la aplicación y los recursos de apelación, y ofrece pasos de acción para funcionarios, contratistas y residentes que buscan una revisión o desean presentar inquietudes.[1]
Ámbito y propósito
La ciudad pretende asegurar que las herramientas de IA municipales utilizadas para la toma de decisiones sean transparentes, equitativas y estén sujetas a auditorías periódicas de sesgo y ética. Esta guía cubre sistemas de decisión automatizados, análisis predictivos, evaluaciones de riesgo algorítmico y otras herramientas impulsadas por IA utilizadas por los departamentos de la ciudad.
Requisitos clave para auditorías de ética y sesgos de IA
- Alcance de la auditoría: entradas de datos, diseño del modelo, procedencia de los datos de entrenamiento, métricas de rendimiento y resultados por grupos demográficos.
- Documentación: documentación algorítmica, tarjetas de modelo, diccionarios de datos y registros de decisión deberán mantenerse.
- Frecuencia: auditoría inicial antes del despliegue y reauditorías periódicas en un cronograma definido.
- Revisión externa: auditorías independientes cuando exista acceso del proveedor o conflictos.
Sanciones y aplicación
El código municipal y las páginas oficiales de políticas de la ciudad no publican actualmente una ordenanza específica de Denton que establezca multas monetarias fijas o sanciones por incumplimiento exclusivamente para auditorías de ética o sesgo de IA; las multas y sanciones relacionadas con contratación o privacidad no están especificadas en la página citada.[1]
Los elementos típicos de aplicación que pueden ser aplicables bajo la autoridad municipal existente o los recursos contractuales incluyen:
- Multas monetarias o deducciones contractuales por incumplimiento del contrato o términos de contratación - no especificado en la página citada.
- Acciones civiles, medidas cautelares o terminación de contratos disponibles a través de la contratación municipal o procesos legales.
- Órdenes administrativas para corregir o suspender una herramienta de IA mientras se remedia; la aplicación suele coordinarse con el Departamento de Tecnología de la Información y la Oficina del Abogado de la Ciudad.[2]
Escalamiento, apelaciones y plazos
- Escalamiento: aviso informal, orden administrativa y luego acción formal o recursos contractuales - los pasos exactos de escalamiento no están especificados en la página citada.
- Las apelaciones y revisiones suelen seguir canales administrativos o de contratación; los plazos específicos de apelación no están especificados en las páginas citadas.
- Defensas: la dependencia de buena fe en divulgaciones del proveedor o evaluaciones de riesgo aprobadas puede considerarse; no especificado en la página citada.
Solicitudes y formularios
No hay un formulario dedicado de la ciudad para presentaciones de auditoría de ética o sesgos de IA publicado en el código municipal o las páginas de los departamentos; las solicitudes de auditoría o las denuncias deben enviarse a través del contacto del departamento o el proceso de denuncias de contratación descrito en las páginas oficiales.[3]
Pasos de acción para funcionarios, proveedores y residentes
- Funcionarios: documente los casos de uso de IA y exija tarjetas de modelo y conjuntos de prueba proporcionados por el proveedor antes de la contratación.
- Proveedores: proporcione artefactos reproducibles de auditoría, informes de explicabilidad y planes de remediación para hallazgos de sesgo.
- Residentes: presente inquietudes sobre el uso municipal de IA a través de los canales de quejas de la ciudad; solicite transparencia o una auditoría independiente.
Preguntas frecuentes
- ¿Tiene Denton una ordenanza independiente sobre IA?
- No se encontró una ordenanza independiente de la ciudad específicamente para auditorías de ética y sesgos de IA en el código municipal o los recursos del consejo citados.[1]
- ¿Quién aplica los requisitos de auditoría de IA en Denton?
- La aplicación y supervisión involucrarían al Departamento de Tecnología de la Información y la Oficina del Abogado de la Ciudad para recursos legales o contractuales, con supervisión del consejo para la adopción de políticas u ordenanzas.[2]
- ¿Cómo puedo solicitar una auditoría o reportar un problema?
- Envíe una solicitud o denuncia a través del contacto del departamento o el proceso de solicitudes del City Council; no hay un formulario específico de auditoría de IA publicado en las páginas citadas.[3]
Cómo hacerlo
- Documente el propósito del sistema de IA, las partes interesadas y las poblaciones afectadas.
- Recolecte y preserve conjuntos de datos, artefactos del modelo y registros de decisión para su revisión.
- Realice pruebas estadísticas de equidad y análisis de resultados por subgrupos.
- Elabore un plan de remediación para sesgos identificados y establezca metas de rendimiento medibles.
- Programe una auditoría independiente de terceros o una revisión por pares y publique un informe resumido.
- Monitoree el rendimiento posterior al despliegue y repita las auditorías con regularidad.
Puntos clave
- No existe una ordenanza específica publicada para auditorías de IA en Denton según las fuentes citadas.
- Incluir requisitos en la contratación y documentación garantiza que las auditorías sean posibles y exigibles.
Ayuda y recursos
- Departamento de Tecnología de la Información de la Ciudad de Denton
- Código de Ordenanzas de Denton (Municode)
- Agendas y actas del City Council
- Informar un problema / Contactar con la ciudad