Reglas de auditoría de ética e imparcialidad de IA para uso municipal en San Diego, California
San Diego, California utiliza cada vez más sistemas automatizados y de IA en programas municipales. Esta guía explica cómo las ordenanzas y procedimientos oficiales de la ciudad se aplican a las auditorías de ética e imparcialidad de IA para uso municipal en San Diego, identifica los departamentos responsables y detalla los pasos para el cumplimiento, la presentación de informes y las apelaciones. Cuando la Ciudad no ha publicado una ordenanza única dedicada a la IA, este artículo señala las fuentes oficiales más cercanas del código municipal, adquisiciones, privacidad y políticas de TI y explica lo que sí y lo que no figura en esas páginas.
Alcance y definiciones
Esta guía cubre el uso municipal de sistemas de decisión automatizados, herramientas algorítmicas y modelos de IA utilizados por departamentos de la ciudad para servicios públicos, permisos, cumplimiento o toma de decisiones internas. Los términos clave incluyen "sistema de decisión automatizado", "auditoría de sesgo", "datos de entrenamiento" y "clase afectada" según se usan en los contextos de adquisiciones y privacidad. Para el código municipal y las reglas generales de la ciudad, consulte el Código Municipal de la Ciudad de San Diego.City of San Diego Municipal Code[1]
Normas y requisitos de auditoría
Según las páginas oficiales citadas, San Diego no publica una ordenanza de IA única y consolidada; los departamentos municipales aplican las normas de adquisiciones, privacidad y no discriminación a los proyectos de IA. Normalmente, los departamentos requieren evaluaciones de riesgo documentadas, linaje de datos y certificaciones de proveedores al adquirir sistemas que afectan a individuos. Para políticas a nivel de departamento y gobernanza de datos, consulte las páginas de TI y privacidad de la Ciudad.City of San Diego Information Technology[2]
- Exigir auditorías de sesgo documentadas antes del despliegue.
- Mantener registros de adquisiciones y documentación del proveedor.
- Conservar inventarios de datos de entrenamiento y registros de minimización de datos.
- Aplicar revisiones de no discriminación y derechos civiles a los resultados.
Sanciones y aplicación
San Diego hace cumplir el código municipal, las reglas de adquisiciones y privacidad mediante revisiones departamentales, remedios contractuales y acciones civiles cuando procede; las cantidades específicas de multas por fallos en ética de IA o auditorías de sesgo no se indican en las páginas municipales citadas y deben determinarse a partir de los términos del contrato o las secciones del código aplicable.[1]
- Multas monetarias: no especificadas en la página citada; los montos dependen de la sección del código aplicable o los remedios contractuales.[1]
- Escalada: el tratamiento de la primera, repetida y continua infracción no está especificado en la página citada y puede seguir las disposiciones de aplicación civil o terminación contractual.[1]
- Sanciones no monetarias: órdenes correctivas, suspensión del uso del sistema, terminación de contrato, medidas cautelares o referencia a la Oficina del Fiscal de la Ciudad para acción civil.
- Responsable e inspección: las oficinas responsables incluyen el departamento que adquirió, el Fiscal de la Ciudad y el Auditor de la Ciudad; las quejas se canalizan a través de los contactos departamentales o el Secretario de la Ciudad para presentaciones formales.[1]
- Apelaciones/revisión: las vías de apelación están regidas por el instrumento controlador o los términos del contrato; los plazos específicos no están especificados en la página citada y deben confirmarse en el instrumento controlador o el aviso departamental.[1]
Solicitudes y formularios
No existe un formulario único de la ciudad titulado "auditoría de sesgo de IA" publicado en las páginas citadas; los departamentos suelen aceptar informes de auditoría, anexos de adquisición y declaraciones de proveedores como parte de la solicitud o del paquete contractual. Cuando un departamento publica un formulario requerido, aparece en la página de adquisiciones o políticas de TI de ese departamento.[2]
- Envíe los informes de auditoría de sesgo y los documentos de respaldo como anexos a las presentaciones de adquisiciones o al sistema de registros del departamento responsable.
- Contacte al departamento adquirente para cualquier método de presentación específico o formulario requerido.
Pasos de acción para los departamentos
- Inventariar los sistemas de IA y clasificar niveles de riesgo.
- Exigir auditorías de sesgo de terceros o internas antes del despliegue público.
- Incluir entregables de auditoría en contratos y acuerdos de nivel de servicio.
- Establecer canales de queja con el Secretario de la Ciudad y conservar registros para revisión.
FAQ
- ¿Tiene San Diego una ordenanza dedicada a la IA que exija auditorías de sesgo?
- No actualmente; la Ciudad no ha publicado una ordenanza única y consolidada sobre IA en las páginas municipales citadas y la gobernanza se aplica mediante normas de adquisiciones, privacidad y no discriminación.[1]
- ¿Quién hace cumplir el cumplimiento de los sistemas de IA usados por la ciudad?
- La aplicación corresponde típicamente al departamento adquirente, al Fiscal de la Ciudad o al Auditor de la Ciudad; las quejas formales pueden presentarse ante el Secretario de la Ciudad para su revisión.[1]
- ¿Dónde presento una auditoría de sesgo de IA o una queja?
- Envíe los informes de auditoría como anexos de adquisiciones al departamento responsable; para quejas, contacte al Secretario de la Ciudad o a la página de contacto del departamento correspondiente.[2]
How-To
Cómo realizar una auditoría de sesgo de IA para un programa municipal de San Diego:
- Definir el alcance y las poblaciones afectadas y documentar el propósito.
- Recopilar inventarios de datos, conjuntos de entrenamiento y documentación del modelo.
- Ejecutar pruebas técnicas de sesgo y validar resultados con métricas desagregadas.
- Elaborar un informe de auditoría con pasos de remediación y remitirlo a adquisiciones o TI.
- Supervisar los resultados post-despliegue y programar reauditorías periódicas.
Conclusiones clave
- San Diego aplica actualmente las normas existentes de adquisiciones, privacidad y no discriminación a los sistemas de IA.
- Las multas o los plazos específicos por incumplimiento de auditorías de IA no están especificados en las páginas municipales citadas.
- Contacte al departamento adquirente, al Fiscal de la Ciudad o al Secretario de la Ciudad para información sobre aplicación, formularios o apelaciones.
Ayuda y soporte / Recursos
- City Attorney, City of San Diego
- City Clerk, City of San Diego
- Development Services, City of San Diego