Reglas de auditoría de ética y sesgo de IA para el personal de Pasadena
En Pasadena, California, el personal municipal debe seguir expectativas formales al desplegar o auditar sistemas de inteligencia artificial. Esta guía resume las autoridades municipales disponibles, los pasos internos recomendados para auditorías, las vías de aplicación y cómo documentar resultados para que la ciudad cumpla obligaciones de transparencia y no discriminación. Dado que a nivel municipal hay pocas ordenanzas específicas sobre IA, esta página señala el código municipal y las políticas de tecnología de la información del Ayuntamiento que gobiernan adquisición, privacidad y uso aceptable de los sistemas municipales. El personal debe considerar esto como orientación de cumplimiento práctica y seguir la revisión y aprobación departamental antes de implementar sistemas algorítmicos.
Alcance y definiciones
Este artículo cubre auditorías de sistemas de decisión algorítmica usados por departamentos de Pasadena, incluidos sistemas automatizados de decisión, analítica predictiva y flujos de trabajo asistidos por máquina. Términos clave:
- Sistema de IA/algorítmico — cualquier software o modelo que tome o asista decisiones que afecten a residentes.
- Auditoría de sesgo — evaluación de entradas, salidas y resultados del modelo en busca de impactos desiguales.
- Revisión ética — evaluación de equidad, transparencia, privacidad y rendición de cuentas.
Política y fuentes legales
La fuente primaria de reglas exigibles es el Código de Ordenanzas de Pasadena y las políticas administrativas adoptadas por los departamentos; cuando el código municipal no especifica reglas sobre IA, las políticas de TI y de adquisiciones del departamento rigen el uso aceptable y los procesos de evaluación de riesgos. Para el código municipal y la autoridad general consulte la biblioteca del código de la ciudad Código de Ordenanzas de Pasadena[1]. Para políticas departamentales de TI y estándares de adquisición consulte las páginas de la Oficina de Tecnología de la Ciudad Oficina de TI de la Ciudad[2].
Sanciones y aplicación
Como Pasadena no publica actualmente una ordenanza específica de IA con multas detalladas, las sanciones monetarias concretas por incumplimientos de ética o sesgo no están especificadas en las páginas municipales citadas. La aplicación de uso indebido de tecnología municipal normalmente implica recursos administrativos según el código municipal, recursos contractuales y posible remisión a la Oficina del Abogado de la Ciudad para acción legal. A continuación se resume lo que el personal debe esperar y dónde encontrar autoridades de aplicación.
- Autoridad: el Abogado de la Ciudad, el Administrador Municipal y los jefes de departamento son las autoridades principales de aplicación para violaciones del código municipal y contratos; roles específicos no están detallados en la página citada.[1]
- Multas y tasas: no especificadas en la página citada; las sanciones monetarias dependen de la ordenanza concreta, términos contractuales o remedios legales invocados.[1]
- Escalamiento: las vías típicas son órdenes correctivas, suspensión del uso del sistema, terminación de contrato y acción civil; esquemas de primera/reincidencia/continuación no están especificados en la página citada.[1]
- Inspección y presentación de quejas: las quejas sobre sistemas municipales pueden presentarse ante el Administrador Municipal o el Abogado de la Ciudad, y TI realiza revisiones técnicas; consulte los contactos departamentales para procedimientos de envío.[2]
- Apelaciones y revisiones: las vías de apelación y plazos están regidos por el código municipal o la política departamental pertinente y no se especifican en la página citada.[1]
- Sanciones no monetarias: órdenes correctivas, auditorías obligatorias, suspensión o retiro de sistemas, remedios contractuales y acciones judiciales.
Solicitudes y formularios
Actualmente no existe un formulario estandarizado de "auditoría de IA" publicado en la página del código municipal; los departamentos suelen usar listas de verificación internas o evaluaciones de riesgo de adquisiciones mantenidas por TI o compras. Para remisiones formales relacionadas con quejas o acciones legales, utilice los puntos de contacto del Administrador Municipal o del Abogado de la Ciudad en las páginas departamentales.[2]
Proceso de auditoría: roles y pasos para el personal
Una auditoría de ética y sesgo defensible debe documentar alcance, datos, métodos, conclusiones y acciones correctivas. La siguiente lista procedimental es adecuada como plantilla operativa para los departamentos de Pasadena.
- Defina el alcance y los puntos de decisión del sistema, las partes interesadas y la autoridad de aprobación.
- Recoja artefactos del modelo, descripciones de metadatos de datos de entrenamiento y registros de entrada/salida.
- Realice pruebas de sesgo y equidad, desagregación de tasas de error y pruebas de resistencia según el caso de uso.
- Documente hallazgos, propuestas de mitigación y un cronograma de remediación.
- Remita los resultados al liderazgo del departamento, a TI y al Abogado de la Ciudad si surgen preocupaciones legales o de privacidad.
Pasos de acción para el personal
- Antes de la contratación, complete la evaluación de riesgo departamental y notifique a TI para la revisión tecnológica.
- Al auditar, mantenga un registro de auditoría reproducible y guarde copias de conjuntos de datos y versiones de código probadas.
- Si la auditoría descubre un impacto dispar legalmente relevante, consulte de inmediato al Abogado de la Ciudad.
- Siga la orientación departamental sobre divulgación pública y retención de registros para los informes de auditoría.
FAQ
- ¿Quién debe seguir estas reglas de auditoría?
- Todo el personal y los contratistas de Pasadena que desplieguen o operen sistemas de decisión algorítmica para funciones municipales deben seguir las políticas de revisión departamentales y de adquisiciones de TI y someter sus sistemas a auditorías de ética y sesgo apropiadas.
- ¿Hay multas específicas por violaciones de IA?
- No hay multas monetarias específicas por violaciones de IA detalladas en las páginas municipales citadas; la aplicación se maneja mediante recursos administrativos y contractuales y, cuando corresponda, acciones legales.[1]
- ¿Cómo reporto preocupaciones sobre un sistema municipal?
- Reporte preocupaciones a su director de departamento, al Administrador Municipal o al Abogado de la Ciudad; preocupaciones técnicas y solicitudes de revisión de TI deben dirigirse a la Oficina de TI.[2]
How-To
- Forme un equipo con TI, legal y el responsable del programa.
- Defina el alcance de la auditoría: decisiones afectadas, fuentes de datos y periodos de tiempo.
- Recoja el código del modelo, metadatos de entrenamiento y registros operativos.
- Realice pruebas de equidad y documente pruebas de impacto dispar.
- Redacte pasos de remediación y asigne responsables con plazos.
- Envíe el informe a TI y legal para revisión y archive los registros según la política de retención.
Conclusiones clave
- La ciudad se guía por el código municipal y las políticas departamentales de TI para el uso de IA.
- Los registros reproducibles y la documentación son esenciales para cumplir y responder a auditorías.
Ayuda y recursos
- Abogado de la Ciudad - City of Pasadena
- Oficina de Tecnología de la Información - City of Pasadena
- Oficina del Administrador Municipal - City of Pasadena