Guía de revisión ética de IA de la ciudad de Austin
Austin, Texas departamentos municipales usan cada vez más IA y sistemas automatizados para prestar servicios. Esta guía explica el proceso típico de revisión ética de IA para herramientas de la ciudad, cómo la revisión interactúa con las ordenanzas y la gobernanza de Austin, quién hace cumplir las normas y qué pasos deben seguir los responsables y los residentes para solicitar revisiones, reportar problemas o apelar decisiones. Es práctica y orientada al proceso para que el personal municipal, contratistas y la comunidad sepan dónde buscar obligaciones, cómo preparar presentaciones y qué remedios están disponibles si una herramienta causa daños o incumplimiento.
Resumen del proceso de revisión ética de IA
Una revisión ética de IA para herramientas municipales normalmente cubre propósito, fuentes de datos, precisión, evaluación de sesgos, transparencia, privacidad, seguridad y responsabilidad. Las revisiones pueden ser internas (dirigidas por el departamento) o centralizadas a través de una Oficina de Datos y Tecnología de la Ciudad o equivalente, e incluir revisión legal por parte del Fiscal de la Ciudad. El proceso suele requerir documentación, evaluaciones de riesgo y aprobación antes de la contratación, el despliegue o cambios importantes de configuración.
Sanciones y ejecución
La aplicación de requisitos relacionados con IA en Austin depende del instrumento legal que controle (código municipal, ordenanzas, reglas de contratación, términos contractuales o directrices administrativas). Cantidades específicas de multas y sanciones monetarias por incumplimientos en gobernanza de IA no están especificadas en las páginas citadas a continuación.[2]
- Multas y sanciones monetarias: no especificadas en la página citada.
- Escalada: primero, remediación departamental y planes correctivos; el incumplimiento repetido puede activar recursos contractuales o acción administrativa, pero no se especifican rangos concretos en la página citada.
- Sanciones no monetarias: órdenes para modificar o discontinuar el uso, recursos contractuales, requisitos de auditoría, conservación de registros y posible remisión al Fiscal de la Ciudad para hacer cumplir.
- Autoridad y vía de denuncia: la Oficina de Datos y Tecnología de la Ciudad coordina revisiones y recepción; las denuncias pueden remitirse al Fiscal de la Ciudad o al departamento encargado para su investigación.[1]
- Apelaciones y revisión: los procedimientos de revisión administrativa o impugnación se tramitan conforme a las normas administrativas y de contratación de la ciudad; los plazos específicos no están especificados en las páginas citadas.
Solicitudes y formularios
Los departamentos o proveedores suelen presentar documentación como evaluación de riesgos de IA, inventario de datos, evaluación de impacto en la privacidad y resultados de pruebas. No existe un formulario estandarizado publicado para la revisión ética de IA en las páginas citadas; los departamentos pueden requerir anexos o divulgaciones personalizadas como parte de la contratación o flujos de aprobación internos.
Violaciones comunes y ejemplos
- Desplegar un modelo predictivo sin pruebas documentadas de sesgo ni planes de mitigación.
- No incluir en contratos cláusulas requeridas sobre auditorías, transparencia o restricciones de intercambio de datos con el proveedor.
- Registros insuficientes sobre procedencia de datos, consentimiento o políticas de retención para conjuntos de datos usados por herramientas municipales.
FAQ
- ¿Quién decide si una herramienta municipal necesita revisión ética de IA?
- El departamento que propone la herramienta, en coordinación con la Oficina de Datos y Tecnología de la Ciudad y asesoría legal, determina el alcance de la revisión y si se requiere aprobación centralizada.
- ¿Pueden los residentes solicitar una revisión de un sistema de IA municipal?
- Sí; los residentes pueden reportar preocupaciones al departamento responsable o a la Oficina de Datos y Tecnología para su recepción e investigación.[1]
- ¿Existen multas publicadas por fallas en la gobernanza de IA?
- No hay multas específicas publicadas en las páginas citadas; los recursos disciplinarios o contractuales se aplican caso por caso.[2]
- ¿Qué protecciones existen para la privacidad de datos en sistemas de IA?
- Las políticas de la ciudad exigen cumplimiento con leyes de privacidad y de registros, y normalmente piden datos mínimos necesarios, controles de acceso y reglas de retención.
How-To
- Prepare la documentación: compile declaración de propósito, inventario de datos, descripción del algoritmo, resultados de pruebas y planes de mitigación.
- Envíe para revisión: remita documentos al responsable departamental y a la Oficina de Datos y Tecnología de la Ciudad lo antes posible en la planificación del proyecto o la contratación.
- Responda a los comentarios de la revisión: implemente las mitigaciones requeridas, aporte evidencia adicional y documente los cambios.
- Apelé o escale: si no está de acuerdo con una determinación, siga los procedimientos de revisión administrativa o de impugnación de la contratación del departamento.
Conclusiones clave
- Inicie la revisión ética de IA temprano y documente propósito, datos y mitigaciones.
- Mantenga registros y términos contractuales para garantizar aplicabilidad y capacidad de auditoría.
- Si una herramienta causa daños, repórtelo de inmediato al departamento y a la Oficina de Datos y Tecnología.
Ayuda y apoyo / Recursos
- City of Austin - Data & Technology Office
- City of Austin Code of Ordinances (Municode)
- City of Austin - Office of the City Attorney