Reglas de etica de IA y proceso de auditoria de sesgo para herramientas municipales de Pomona
Esta guía explica cómo Pomona, California evalúa y regula el uso ético de la inteligencia artificial en herramientas propiedad del municipio o contratadas por el municipio, quién hace cumplir las normas y cómo los residentes y el personal pueden solicitar auditorías, reportar sesgos o apelar decisiones. Resume el código municipal y las políticas tecnológicas oficiales relevantes, indica lo que está y no está especificado en las páginas oficiales, y proporciona pasos concretos para el cumplimiento y las solicitudes públicas.
Ámbito y definiciones
"Herramientas municipales" significa software, sistemas de decisión automatizada o procesos algorítmicos usados por la Ciudad de Pomona para funciones públicas como permisos, determinación de beneficios, licencias, cumplimiento o seguridad pública. "Auditoría de sesgo" se refiere a una revisión independiente o interna de un algoritmo o conjunto de datos para detectar impactos desiguales o resultados injustos.
Normas y autoridades aplicables
Los instrumentos aplicables de Pomona para las operaciones de la ciudad son el código municipal y las políticas oficiales de la ciudad sobre adquisiciones, datos y tecnología. El código municipal no incluye actualmente un capítulo específico sobre IA; las políticas oficiales de tecnología y de adquisiciones son los controles operativos primarios Municipal Code[1] y las políticas del Departamento de Tecnología de la Ciudad City IT Department[2].
- Las definiciones, cláusulas de adquisiciones y contratos en el código municipal determinan las obligaciones del proveedor y los términos contractuales.
- Las políticas de TI de la ciudad establecen el manejo de datos, seguridad y procedimientos de evaluación de proveedores.
- Las reglas existentes de privacidad o no discriminación se aplican a los resultados de sistemas automatizados.
Sanciones y cumplimiento
No existe un calendario de sanciones dedicado a la IA publicado en el código municipal ni en la página de políticas de TI; las multas monetarias específicas para herramientas de IA no están detalladas en las páginas citadas, por lo que los importes exactos no están especificados en la página citada Municipal Code[1]. La ejecución normalmente sigue los mecanismos existentes de cumplimiento municipal y recursos contractuales.
- Importes de multas: no especificado en la página citada.
- Escalada: rangos para primera/reincidencia/continuación no especificados en la página citada.
- Sanciones no monetarias: terminación de contrato, exclusión de proveedores, acciones judiciales e instrucciones de suspender el uso de una herramienta son los remedios probables según las cláusulas de contratación.
- Autoridad ejecutora: el Departamento de Tecnología de la Ciudad de Pomona y la Oficina de Código o el Fiscal Municipal hacen cumplir el cumplimiento de contratos y ordenanzas City IT Department[2].
- Apelaciones/revisión: los procedimientos de apelación para acciones administrativas siguen el código municipal o las cláusulas de resolución de disputas contractuales; los plazos específicos para apelaciones relacionadas con IA no están especificados en las páginas citadas.
- Defensas/discreción: las exenciones, variaciones de adquisiciones o planes de mitigación de riesgos documentados pueden considerarse según las reglas contractuales existentes; los detalles no están listados en las páginas citadas.
Solicitudes y formularios
No se publica un formulario público dedicado para solicitar una auditoría de sesgo de IA en el código municipal o en las páginas de políticas de TI; los residentes deben enviar solicitudes a través de los portales de registros públicos o quejas de la ciudad o contactar directamente al departamento de TI de la ciudad City IT Department[2]. Si se adopta un formulario estandarizado, será publicado por el departamento responsable.
Violaciones comunes y resultados típicos
- Uso de conjuntos de datos no validados que producen impactos desiguales — posibles recursos contractuales o suspensión.
- Documentación insuficiente del proveedor o falta de evaluaciones de riesgo — acción correctiva al proveedor u obligación de realizar auditorías.
- Incumplimiento de reglas de retención de datos o privacidad — ejecución conforme a leyes de privacidad o de registros.
Pasos prácticos
- Reportar sesgo o daño: presente una queja ante el Departamento de TI de la Ciudad o Cumplimiento de Código y copie al Fiscal Municipal.
- Solicitar auditoría: envíe una solicitud por escrito describiendo la herramienta, la decisión afectada, fechas y personas afectadas.
- Pagar tarifas o sanciones si se imponen: siga las instrucciones de la oficina de Finanzas o Compras de la Ciudad.
- Apelar: utilice la ruta de impugnación en el código municipal o la cláusula de disputas contractuales; verifique los plazos con el Secretario Municipal.
Preguntas frecuentes
- ¿Tiene Pomona una ordenanza específica sobre IA?
- No; no existe una ordenanza específica publicada en el código municipal en las páginas citadas. Consulte la referencia del código municipal a continuación.[1]
- ¿Quién investiga el sesgo algorítmico?
- El Departamento de TI coordina las revisiones técnicas y Cumplimiento de Código o el Fiscal Municipal manejan la ejecución o los recursos contractuales.
- ¿Puede un residente solicitar una auditoría de un tercero?
- Sí; los residentes pueden solicitar una auditoría, pero la aceptación por parte de la ciudad depende de los términos de adquisición y contrato; envíe una solicitud por escrito al Departamento de TI de la ciudad.
Cómo hacer
- Identifique la herramienta: anote el departamento, proveedor, tipo de decisión y fechas.
- Presente una queja por escrito al Departamento de TI y Cumplimiento de Código, incluyendo evidencia e información de contacto.
- Solicite una auditoría de sesgo e indique si busca una revisión interna o una auditoría externa independiente.
- Dé seguimiento a los resultados y, si es necesario, presente una apelación conforme a los procedimientos municipales o busque recursos contractuales.
Conclusiones clave
- Pomona regula la IA mediante políticas de adquisiciones y TI existentes en lugar de una ordenanza independiente.
- Reporte los sesgos al Departamento de TI y a Cumplimiento de Código y conserve documentación detallada.
Ayuda y recursos
- City of Pomona - Information Technology
- City of Pomona Municipal Code (Municode)
- Desarrollo Comunitario - Planificación y Edificación
- Secretario Municipal - registros y apelaciones