Pasos de auditoría de ética y sesgo de IA de la ciudad de Sacramento
Sacramento, California, las agencias y contratistas cada vez usan más sistemas automatizados. Esta guía explica pasos prácticos para realizar auditorías de ética y sesgo de IA que se alineen con la práctica de la ciudad de Sacramento, identifica las oficinas municipales que probablemente hagan cumplir los estándares y muestra cómo informar preocupaciones o solicitar una revisión. Resume las fuentes oficiales disponibles, lo que no está especificado en la ley municipal y las acciones inmediatas que los organismos públicos y proveedores pueden tomar para reducir riesgos en la contratación, el despliegue y los contratos.
Descripción general
Una auditoría de ética y sesgo de IA revisa fuentes de datos, entrenamiento del modelo, rendimiento por grupos, documentación y controles de gobernanza usados por un departamento de la ciudad o un contratista. Cuando no existe una ordenanza específica de Sacramento para auditorías de IA, los departamentos suelen apoyarse en las reglas existentes de contratación, privacidad y no discriminación mientras siguen la gobernanza tecnológica interna y la revisión legal.
El código municipal de la Ciudad de Sacramento y las páginas públicas departamentales son las referencias primarias para normas y autoridades oficiales; el código consolidado y las páginas departamentales de TI son las fuentes oficiales más cercanas para requisitos y responsabilidades de la ciudad Código municipal de la Ciudad de Sacramento[1] y Departamento de Tecnología de la Información de la Ciudad[2].
Sanciones y fiscalización
Según las fuentes oficiales citadas, no existe una ordenanza independiente de la ciudad de Sacramento que prescriba multas específicas únicamente por fallas en auditorías de ética o sesgo de IA; las cantidades monetarias y las reglas de escalada no están especificadas en las páginas citadas. Los departamentos que hacen cumplir las obligaciones contractuales, de privacidad o de no discriminación normalmente utilizan los recursos contractuales existentes y procesos administrativos. Para una multa monetaria exacta o una cita estatutaria, consulte el código municipal o los documentos de contratación referenciados a continuación código municipal[1].
- Responsables: el Departamento de Tecnología de la Información y el Fiscal de la Ciudad supervisan normalmente el cumplimiento y la fiscalización legal; los jefes de departamento gestionan la adherencia operativa.
- Multas y tasas: no especificadas en la página citada.
- Escalada: recursos contractuales, avisos de subsanación, suspensión de servicios, resolución de contrato y ejecución civil son las vías probables; los plazos de escalada concretos no están especificados en las páginas citadas.
- Sanciones no monetarias: órdenes de remediación, suspensión de acceso, incautación de datos para investigación, terminación de contratos y remisión a tribunales pueden aplicar bajo las reglas existentes de la ciudad.
- Inspección y quejas: informe preocupaciones de cumplimiento al Departamento de Tecnología de la Información o al Fiscal de la Ciudad; use las páginas de contacto departamentales oficiales para la recepción Tecnología de la Información[2].
- Apelación y revisión: las vías de apelación dependen del instrumento que haga cumplir (procedimientos de disputa contractual, apelación administrativa al departamento o al consejo de la ciudad, o revisión judicial); los límites de tiempo específicos de apelación no están especificados en las páginas citadas.
Solicitudes y formularios
No se localizó un formulario específico de la ciudad de Sacramento para auditorías de ética o sesgo de IA en las páginas departamentales citadas; los departamentos generalmente aceptan informes de auditoría por escrito, documentación de cumplimiento de contratación y evaluaciones de impacto de privacidad como materiales presentados, y los entregables exigidos por contratos aparecen en documentos de contratación individuales en lugar de un formulario publicado por la ciudad.
Violaciones comunes
- Uso de datos de entrenamiento sesgados o falta de pruebas de rendimiento por grupos protegidos.
- Documentación ausente o insuficiente sobre diseño del modelo, procedencia de datos o lógica de decisión.
- No cumplir con auditorías, supervisión o informes requeridos contractualmente.
- Mala gestión de registros que impide reproducibilidad o supervisión.
Cómo hacerlo
- Planifique el alcance y los objetivos del auditoría vinculados a los casos de uso de la ciudad y a las obligaciones contractuales.
- Recoja documentación: conjuntos de datos, versiones del modelo, registros de entrenamiento, repositorios de código y registros de despliegue.
- Realice comprobaciones técnicas: métricas de sesgo, desglose del rendimiento y pruebas de robustez.
- Elabore un plan de remediación con plazos, responsables y medidas de supervisión.
- Remita los hallazgos al departamento responsable de la ciudad y siga los procedimientos contractuales de notificación para acciones correctivas.
Preguntas frecuentes
- ¿La ley municipal de Sacramento exige auditorías de sesgo de IA?
- No existe una ordenanza independiente de Sacramento que exija expresamente auditorías de sesgo de IA; los departamentos se basan en normas de contratación, privacidad y no discriminación y en procesos internos de TI según las fuentes citadas código municipal[1].
- ¿Quién hace cumplir los requisitos de auditoría?
- El Departamento de Tecnología de la Información, el Fiscal de la Ciudad y los gestores del departamento contratante son los principales responsables; informe preocupaciones a través de las páginas de contacto departamentales departamento de TI[2].
- ¿Dónde presento una auditoría o una queja?
- Remita los informes de auditoría y las quejas al departamento contratante de la ciudad y, según corresponda, copie al Departamento de Tecnología de la Información y al Fiscal de la Ciudad utilizando los canales oficiales de contacto o de contratación.
Resumen
- Comience auditorías durante la contratación y exija documentación en los contratos.
- Utilice métricas desagregadas de rendimiento y mantenga registros reproducibles.
- Informe problemas al Departamento de TI y siga los recursos contractuales.
Ayuda y recursos
- Código municipal de la Ciudad de Sacramento
- Departamento de Tecnología de la Información de la Ciudad
- Secretaría de la Ciudad - Registros y Trámites
- Desarrollo Comunitario / Planificación y Construcción