Reglas de auditoría de ética y sesgo de IA de la ciudad de Fremont

Fremont, California, los departamentos municipales usan cada vez más herramientas automatizadas e IA para prestar servicios; esta guía explica las normas municipales aplicables, las vías de supervisión y los pasos prácticos para solicitar, auditar o impugnar decisiones que involucren herramientas de IA municipales. Resume cómo el código municipal, las políticas de la ciudad y la práctica administrativa regulan las revisiones éticas, las auditorías de sesgo, la transparencia y los controles de contratación para algoritmos usados por agencias de Fremont.

Ámbito y base legal

Este artículo cubre las normas de nivel municipal y las prácticas administrativas que se aplican a los sistemas de IA propiedad de la ciudad o contratados por la ciudad utilizados para la prestación de servicios, permisos, ejecución o toma de decisiones internas. Cuando Fremont no ha publicado una ordenanza dedicada a la IA, las autoridades relevantes incluyen el Concejo Municipal, el Procurador de la Ciudad, la Secretaria de la Ciudad y el departamento de Tecnología de la Información, así como el código municipal de Fremont y las políticas publicadas que rigen la contratación, la privacidad y los registros.

Sanciones y ejecución

Fremont no publica actualmente un calendario de sanciones específico para IA en una página dedicada; las cantidades concretas de multas o sanciones no están especificadas en las fuentes municipales citadas. La ejecución suele seguir el código municipal existente, los procedimientos administrativos de ejecución y los recursos contractuales para adquisiciones de la ciudad.

• Responsable: el Procurador de la Ciudad, el Administrador de la Ciudad y el departamento pertinente (por ejemplo, Tecnología de la Información) gestionan el cumplimiento y persiguen los recursos administrativos.
• Vía de queja: envíe quejas a la Secretaria de la Ciudad o al departamento utilizando los formularios de queja publicados; los detalles de envío aparecen en las páginas oficiales del departamento.
• Apelaciones: las apelaciones de órdenes administrativas normalmente siguen las rutas de apelación del código municipal; los plazos y procedimientos de audiencia están regidos por la sección correspondiente del código o la resolución y no están especificados en una sola página de IA.
• Multas y escalamiento: las cantidades numéricas de multas y los pasos de escalamiento para infracciones relacionadas con IA no están especificados en las fuentes municipales citadas y se aplicarán las disposiciones de sanciones que controlen el programa regulador subyacente.
• Sanciones no monetarias: pueden incluir órdenes administrativas de corrección, suspensión o terminación de contratos, auditorías correctivas o remisión a tribunales según el programa.

Solicitudes y formularios

No existe un formulario municipal único de "solicitud de auditoría de IA" publicado actualmente; las solicitudes de registros, revisiones de políticas o recepción de quejas se realizan generalmente mediante el formulario de solicitudes de registros públicos de la Secretaria de la Ciudad, los formularios de queja departamentales o los procedimientos de impugnación de adquisiciones. Para auditorías de proveedores, las cláusulas de adquisiciones y contratos controlan el proceso de auditoría; si necesita un formulario específico, contacte a la Secretaria de la Ciudad o al departamento pertinente para obtener el formulario y las instrucciones de envío actuales.

Supervisión operativa y mejores prácticas

Los departamentos de Fremont que usan herramientas de decisión automatizadas deben aplicar controles municipales estándar: cláusulas de contratación que requieran transparencia y derechos de auditoría, medidas de protección de datos, evaluaciones de impacto de privacidad y revisión humana para decisiones de alto impacto. Los contratos suelen exigir a los proveedores que cooperen con auditorías y que proporcionen documentación algorítmica; cuando la ciudad carece de una política de IA dedicada, estas cláusulas son el principal punto de control.

• Contratación: incluir cláusulas de auditoría, documentación y explicabilidad en las RFP y contratos.
• Documentación: exigir descripciones del algoritmo, fuentes de datos y control de versiones del modelo por parte de los proveedores.
• Plazos: fijar plazos para las respuestas del proveedor y los ciclos de revisión de la ciudad en contratos o directivas de política.
• Mitigación: exigir planes de remediación para problemas de sesgo o precisión identificados.

Pasos de acción

• Solicitar registros: presente una solicitud de registros públicos ante la Secretaria de la Ciudad para obtener documentación del modelo o de la adquisición.
• Presentar una queja: contacte al departamento responsable de la herramienta y a la Secretaria de la Ciudad para registrar una queja formal.
• Apelar: siga la ruta de apelación del código municipal y solicite una audiencia dentro de los plazos que establezca la sección aplicable del código.
• Aplicar recursos contra proveedores: si la herramienta es provista por contrato, utilice los procedimientos de impugnación de adquisiciones o de disputas contractuales para forzar auditorías o remedios.

Preguntas frecuentes

¿Tiene Fremont una ordenanza específica que exija auditorías de sesgo de IA?

No hay una ordenanza de IA dedicada publicada por la ciudad según las páginas de políticas municipales más recientes; utilice cláusulas de contratación, solicitudes de registros públicos y canales departamentales de queja para solicitar auditorías.

¿Quién hace cumplir el cumplimiento de IA para herramientas municipales?

El Procurador de la Ciudad, el Administrador de la Ciudad y el departamento que opera la herramienta suelen ser responsables de la ejecución; los recursos contractuales se aplican cuando la herramienta es proporcionada por un proveedor.

¿Cómo solicito una auditoría o documentación de una herramienta de decisión automatizada?

Presente una solicitud de registros públicos ante la Secretaria de la Ciudad y una queja por escrito al departamento responsable para iniciar la revisión y la posible publicación de documentación según lo permita la ley.

Cómo hacerlo

1. Identifique la herramienta y el departamento responsable y recopile referencias públicas sobre su uso.
2. Prepare y presente una solicitud de registros públicos a la Secretaria de la Ciudad para obtener documentación del modelo, la adquisición y los datos.
3. Presente una queja formal al departamento responsable describiendo el posible sesgo o daño y solicite una auditoría de sesgo o una acción correctiva.
4. Si la herramienta la proporciona un proveedor, revise el contrato de adquisición y persiga los recursos contractuales o una impugnación de la adquisición si procede.
5. Si las vías administrativas no resuelven el asunto, explore las rutas de apelación del código municipal o consulte con la oficina del Procurador de la Ciudad sobre opciones adicionales.

Conclusiones clave

• Fremont no cuenta con una ordenanza única sobre IA; las adquisiciones y los registros públicos son las vías prácticas para auditorías.
• Las solicitudes de registros públicos y las cláusulas contractuales de adquisición son las principales herramientas para exigir auditorías.

Ayuda y recursos

• City of Fremont Municipal Code - Code of Ordinances
• City Clerk - Fremont (registros públicos y ordenanzas)
• Departamento de Tecnología de la Información - Fremont (políticas y contacto)