Directrices de ética de IA y pasos de auditoría de sesgo para la ordenanza de North Las Vegas
North Las Vegas, Nevada departamentos municipales que desarrollan o adquieren sistemas de decisión automatizados deben seguir procedimientos claros para gestionar riesgos, garantizar equidad y documentar cumplimiento. Esta guía explica prácticas éticas recomendadas, las fuentes oficiales más cercanas para reglas municipales, cómo realizar una auditoría de sesgo para herramientas municipales, vías de cumplimiento y dónde presentar quejas o solicitudes de revisión.
Alcance y definiciones
Este artículo trata las herramientas municipales en alcance: sistemas algorítmicos, modelos de aprendizaje automático, sistemas de decisión automatizados y análisis suministrados por proveedores que usan los departamentos de North Las Vegas para licencias, permisos, cumplimiento, seguridad pública o prestación de servicios. Explica roles, puntos de control de gobernanza típicos y medidas de transparencia que el personal municipal debe aplicar.
Gobernanza y mejores prácticas
Adopte un enfoque proporcional según el riesgo: documente el uso previsto, fuentes de datos, métricas de rendimiento, análisis de errores y planes de mitigación antes del despliegue. Solicite divulgación del proveedor sobre el origen de los datos de entrenamiento, responsables del modelo y un plan para auditorías periódicas de sesgo y monitoreo.
- Mantenga un registro de sistemas de IA con propietario, propósito y estado de despliegue.
- Exija documentación del proveedor sobre conjuntos de datos, prácticas de etiquetado y limitaciones conocidas.
- Use niveles de riesgo para determinar el nivel de revisión: informativo, supervisor o de alto impacto.
- Programe auditorías de sesgo periódicas y monitoreo posdespliegue en intervalos definidos.
Sanciones y cumplimiento
No se encuentra una ordenanza específica de IA en las páginas oficiales del código municipal; las multas o sanciones estatutarias específicas por uso indebido de IA no están especificadas en la página del código municipal citada.Municipal Code[1]
- Multas monetarias: no especificadas en la página citada para infracciones específicas de IA; consulte secciones aplicables del código para infracciones relacionadas como declaraciones falsas, violaciones de licencias o incumplimientos de contratación.
- Escalamiento: no especificado para sistemas de IA; el escalamiento general de cumplimiento del código (primera, repetida, continuada) se rige por procedimientos del código municipal.
- Sanciones no monetarias: posibles órdenes correctivas, revocación o suspensión de permisos/licencias, desactivación del sistema, terminación de contratos con la ciudad y remisión a procesos judiciales; las sanciones específicas para IA no se enumeran en la página citada.
- Responsable y inspecciones: la supervisión y asesoría primaria para TI y adquisiciones las realiza el Departamento de Tecnología de la Información y la Oficina del Fiscal de la Ciudad; contacte TI para revisiones operativas.Information Technology[2]
- Apelación/revisión: los derechos de apelación y plazos dependen de la ordenanza o la orden administrativa aplicable; cuando falta un proceso específico, se aplican las apelaciones administrativas estándar a través del City Clerk.
Solicitudes y formularios
No se publica un formulario dedicado a la ética de IA o auditoría de sesgo en las páginas del City Clerk o del código municipal; las vías de envío para quejas o solicitudes de registros siguen los procedimientos existentes publicados por el City Clerk.[3]
- Si necesita registros, presente una solicitud de registros públicos conforme a la guía del City Clerk; no se especifica un formulario independiente para auditorías de IA en las páginas citadas.
Cómo realizar una auditoría de sesgo para una herramienta municipal
- Reúna un equipo interdisciplinario: TI, departamento propietario, legal y un auditor externo si es necesario.
- Documente el propósito, fuentes de datos, canal de entrenamiento y puntos de decisión.
- Pruebe el rendimiento del modelo por grupos demográficos y subpoblaciones operativas.
- Identifique impactos dispares y causas raíz; priorice las correcciones según el daño potencial.
- Implemente mitigaciones: reequilibrio de datos, cambios de umbral, supervisión humana o suspensión si el riesgo es inaceptable.
- Documente hallazgos, pasos de remediación y programe revisiones de seguimiento.
Violaciones comunes
- Desplegar modelos no probados o sin documentación para decisiones de alto impacto.
- No divulgar el uso de decisiones automatizadas a las personas afectadas.
- Mala gobernanza de datos que conduce a resultados sesgados.
Preguntas frecuentes
- ¿North Las Vegas tiene una ordenanza específica de IA?
- No; no se encontró una ordenanza específica de IA en las páginas oficiales del código municipal. Para el código general, consulte el Municipal Code. Municipal Code[1]
- ¿Quién hace cumplir las reglas sobre algoritmos municipales?
- La supervisión operativa suele corresponder al Departamento de Tecnología de la Información con revisión legal por la Oficina del Fiscal de la Ciudad; impactos de adquisiciones o licencias pueden involucrar al City Clerk o al departamento correspondiente. Information Technology[2]
- ¿Cómo reporto un problema con una decisión automatizada de la ciudad?
- Presente una queja o una solicitud de registros públicos a través de los procedimientos publicados por el City Clerk; no hay un formulario de queja de IA dedicado en las páginas citadas. City Clerk[3]
Cómo hacerlo
- Identifique el sistema y documente su propósito y entradas de datos.
- Efectúe pruebas de rendimiento desagregadas por grupos relevantes.
- Implemente mitigaciones y repita pruebas hasta abordar las disparidades.
- Publique un breve resumen público y programe auditorías futuras.
Puntos clave
- North Las Vegas no tiene una ordenanza específica de IA publicada en las páginas del código municipal; siga los procesos de adquisiciones y código existentes.[1]
- El Departamento de Tecnología de la Información y el City Clerk son contactos principales para revisión operativa y solicitudes de registros.
Ayuda y recursos
- City of North Las Vegas - Information Technology
- City of North Las Vegas - Municipal Code (Municode)
- City Clerk - Records & Hearings
- Planning & Development / Building