Ordenanza de etica de IA de Salt Lake City y proceso de auditoria de sesgos
Salt Lake City, Utah departamentos que adopten IA deben seguir una guía ética escrita, documentar los flujos de trabajo de auditoría de sesgos y disponer rutas de queja y apelación. Este artículo explica pasos departamentales recomendados, las autoridades municipales relevantes para la supervisión, vías de ejecución y pasos prácticos para realizar una auditoría de sesgos en operaciones municipales. Está dirigido a gerentes, oficiales de cumplimiento y personal jurídico que deben alinear la compra de IA, los datos de entrenamiento y los sistemas de decisión automatizada con las obligaciones y prácticas de responsabilidad de la ciudad.
Alcance y definiciones
Esta orientación se aplica a sistemas de IA usados por departamentos de Salt Lake City para toma de decisiones, enrutamiento automatizado, clasificación, reconocimiento facial o cualquier sistema que afecte materialmente a residentes. Términos clave: "sistema de IA" (modelos, algoritmos, canalizaciones), "auditoría de sesgos" (revisión sistemática de conjuntos de datos, resultados y daños), y "departamento" (cualquier agencia municipal que use IA).
Sanciones y ejecución
Salt Lake City aplica normas municipales mediante la autoridad de ordenanzas y políticas departamentales; las cantidades específicas de multas o sanciones legales por el uso indebido de IA o la falta de auditorías no están especificadas en las páginas citadas. Los departamentos deben esperar revisiones administrativas, órdenes correctivas, restricciones de contratación y remisión a la Oficina del Abogado de la Ciudad para acciones legales cuando proceda. Para la autoridad del código municipal consulte los recursos del código municipal de Salt Lake City y las páginas de gobierno de la ciudad.Código municipal oficial[1] y la oficina de TI de la ciudad ofrecen supervisión de políticas y tecnología.TI de la ciudad[2]
- Multas: no especificadas en la página citada.
- Escalada: primera infracción, repetición y faltas continuas no especificadas en la página citada.
- Sanciones no monetarias: órdenes correctivas, suspensión de operación, inhabilitación en contratación y acciones judiciales.
- Autoridad aplicadora: departamentos de la ciudad (TI, Contratación), la Oficina del Abogado de la Ciudad y el Concejo Municipal; vías de queja y gobernanza en las páginas del gobierno de la ciudad.Concejo Municipal[3]
- Inspección y quejas: use los canales de cumplimiento departamentales y los mecanismos oficiales de reporte.
Solicitudes y formularios
No hay un formulario municipal único publicado para "auditoría de IA" en las páginas citadas; los departamentos deben documentar las auditorías como registro en los expedientes de contratación o portales internos de cumplimiento, y consultar con la oficina de TI para los requisitos de plantilla.TI de la ciudad[2]
Procedimiento departamental recomendado
- Adoptar una política de ética de IA que describa usos permitidos y auditorías requeridas.
- Realizar una auditoría de sesgos previa al despliegue: revisión de conjuntos de datos, análisis de impacto demográfico y pruebas de equidad.
- Documentar medidas de mitigación y monitorear resultados posteriores al despliegue.
- Reportar incidentes a TI de la ciudad y a la Oficina del Abogado de la Ciudad cuando exista potencial de perjuicio legal.
Preguntas frecuentes
- ¿Quién aplica los requisitos de ética de IA en Salt Lake City?
- La oficina de TI de la ciudad, las unidades de cumplimiento departamentales, la Oficina del Abogado de la Ciudad y el Concejo Municipal proporcionan supervisión y aplicación según corresponda.
- ¿Existen multas estandarizadas por violaciones de políticas de IA?
- Las multas concretas por violaciones de políticas de IA no están especificadas en las páginas municipales citadas; la aplicación suele usar órdenes correctivas y recursos legales.
- ¿Dónde presentan los departamentos quejas o informes sobre sistemas de IA?
- Los departamentos deben reportar a TI de la ciudad y a la Oficina del Abogado de la Ciudad; hay vías públicas de queja en las páginas de contacto departamentales.
Cómo hacer
Cómo realizar una auditoría básica de sesgos departamental para un sistema de IA:
- Definir el alcance: enumerar funciones del sistema, poblaciones afectadas y puntos de decisión.
- Recopilar artefactos: conjuntos de datos, especificaciones del modelo, registros de entrenamiento y umbrales de decisión.
- Ejecutar pruebas: paridad estadística, comparaciones de tasas de error por grupo y simulaciones de escenarios.
- Mitigar: ajustar datos, afinar modelos, añadir revisión humana y documentar cambios.
- Revisar y apelar: proporcionar documentación a TI de la ciudad y conservar registros para auditoría y apelaciones posibles.
Puntos clave
- Los departamentos de Salt Lake City deben adoptar políticas escritas de ética de IA vinculadas a la contratación y supervisión.
- Realice auditorías de sesgos documentadas antes y después del despliegue y conserve registros para responsabilidad.
Ayuda y soporte / Recursos
- Código municipal de Salt Lake City (Municode)
- Oficina de TI de Salt Lake City
- Concejo Municipal de Salt Lake City
- Desarrollo urbano / Planificación y Construcción