Proceso de revisión ética de IA para herramientas municipales de Arlington
Arlington, Texas está utilizando cada vez más herramientas automatizadas y basadas en datos para prestar servicios. Esta guía explica el proceso de revisión a nivel municipal para herramientas de inteligencia artificial (IA) y algorítmicas utilizadas por los departamentos de Arlington, resume la aplicación y las apelaciones, y muestra dónde enviar solicitudes o quejas. Dado que Arlington no publica una ordenanza única sobre IA, el proceso se basa en el código municipal, la política de tecnología de la información y las reglas de contratación mantenidas por los departamentos de la ciudad que se enumeran a continuación.[1]
Alcance y cuándo se requiere una revisión
Las herramientas municipales que utilizan toma de decisiones automatizada, perfilado o modelos de aprendizaje automático para servicios al público, permisos, aplicación o asignación de recursos normalmente desencadenan una revisión ética y de riesgos antes del despliegue. Las revisiones suelen cubrir fuentes de datos, salvaguardas de privacidad, explicabilidad, pruebas de sesgo y cumplimiento de proveedores externos. El Departamento de Tecnología de la Información coordina las evaluaciones técnicas y la Oficina de Finanzas/Contrataciones revisa los contratos y el cumplimiento del proveedor.[2][3]
Sanciones y aplicación
Arlington hace cumplir las normas municipales y los términos contractuales a través de los departamentos de la ciudad y los recursos contractuales. Para el uso indebido o el incumplimiento de herramientas de IA, las multas monetarias y sanciones administrativas específicas no están publicadas en la página citada y dependerán de la ordenanza aplicable, la cláusula contractual o la norma administrativa citada por la oficina que haga cumplir la norma.[1]
- Multas monetarias: no especificadas en la página del código municipal citada; pueden regirse por disposiciones de incumplimiento contractual o secciones generales de sanciones del código.[1]
- Escalada: primera infracción, repetición e infracciones continuas no están especificadas en las páginas citadas y pueden abordarse mediante recursos administrativos progresivos o cláusulas de terminación de contrato.[1]
- Sanciones no monetarias: órdenes correctivas, suspensión del uso del sistema, terminación de contratos, incautación de datos y referencia a tribunales son acciones de aplicación posibles según la autoridad de la ciudad o los términos contractuales.
- Aplicador y quejas: el cumplimiento técnico lo lidera el Departamento de Tecnología de la Información; las violaciones de contratos y adquisiciones las gestiona Finanzas/Contrataciones. Use la página de contacto del departamento o de quejas de proveedores para informar problemas.[2][3]
- Apelaciones y revisión: las vías de apelación suelen incluir revisión administrativa dentro del departamento, procedimientos de resolución de disputas contractuales y revisión judicial. Los plazos específicos para apelaciones no están especificados en las páginas citadas y dependerán de la ordenanza o cláusula contractual aplicable.[1]
Solicitudes y formularios
No existe un formulario único publicado por la ciudad titulado "Revisión ética de IA" en las páginas referenciadas. Los departamentos normalmente requieren:
- Resumen del proyecto y documento de propósito.
- Inventario de datos y evaluación de impacto en privacidad.
- Documentación del proveedor y declaraciones de cumplimiento contractual.
Para nombres exactos de formularios, tasas, plazos y puntos de envío, contacte al Departamento de Tecnología de la Información y a Finanzas/Contrataciones como se cita abajo. Si se publica un formulario formal, no está especificado en las páginas citadas.[2][3]
Cómo hacerlo
- Prepare un resumen del proyecto que describa propósito, usuarios afectados y el impacto de la decisión.
- Reúna un inventario de datos, evaluación de privacidad y sesgo, y documentos de cumplimiento del proveedor.
- Envíe los materiales al Departamento de Tecnología de la Información y a Finanzas/Contrataciones para revisión técnica y contractual concurrente.[2][3]
- Atienda las solicitudes de remediación de los evaluadores, ejecute las pruebas requeridas y documente las medidas de mitigación.
- Obtenga la aprobación formal antes del despliegue público y registre planes de monitoreo para el desempeño y la equidad continuos.
Preguntas frecuentes
- ¿Arlington tiene una ordenanza específica sobre IA?
- No. No existe una ordenanza única y específica sobre IA publicada en el código municipal o las páginas de los departamentos citadas; la ciudad recurre al código existente, la política de TI y las reglas de contratación.[1]
- ¿Quién revisa las herramientas de IA para uso municipal?
- El Departamento de Tecnología de la Información realiza las revisiones técnicas y de privacidad, mientras que Finanzas/Contrataciones revisa contratos y cumplimiento de proveedores.[2][3]
- ¿Cómo informo un problema con una decisión municipal impulsada por IA?
- Informe al departamento que emitió la decisión y al Departamento de Tecnología de la Información o a Finanzas/Contrataciones para problemas a nivel de sistema; consulte los contactos a continuación para las páginas de envío.[2][3]
Conclusiones clave
- La gobernanza de IA en Arlington combina políticas departamentales, contratación y el código municipal.
- Inicie revisiones temprano y prepare documentación técnica y contractual completa.
Ayuda y recursos
- City of Arlington Code of Ordinances
- Information Technology Department - City of Arlington
- Finance / Purchasing - City of Arlington