Guía de la ordenanza de auditoría de ética y sesgo de IA de Sunnyvale
Sunnyvale, California está abordando activamente la gobernanza tecnológica; esta guía explica cómo la revisión a nivel municipal del proceso de auditoría de ética y sesgo de IA se relaciona con el código municipal, la aplicación y la política administrativa en Sunnyvale, California. Resume los pasos típicos para que un departamento municipal o contratista realice una auditoría de ética de IA, explica las vías de aplicación y apelación, y señala cómo los residentes y proveedores pueden solicitar revisiones o presentar quejas.
Ámbito y propósito
Este artículo cubre el marco municipal para revisar procesos de auditoría de ética y sesgo de IA cuando los departamentos de Sunnyvale, los contratistas o los titulares de licencias implementan sistemas de decisión automatizados que afectan a los residentes. Se centra en la transparencia, la documentación, las evaluaciones de riesgo requeridas y las medidas correctivas que la política o el código municipal normalmente exigirían.
Requisitos clave para auditorías de ética y sesgo de IA
- Mantener un plan de auditoría documentado que describa la procedencia de los datos, la arquitectura del modelo y las métricas de rendimiento.
- Publicar o proporcionar un resumen ejecutivo de los hallazgos al departamento contratante de la ciudad o al funcionario de registros públicos.
- Incluir métodos de detección de sesgos y pasos de mitigación, con casos de prueba y criterios de umbral.
- Programar reauditorías periódicas y controlar versiones de los artefactos para permitir reproducibilidad.
Sanciones y aplicación
Sunnyvale no enumera actualmente una ordenanza municipal independiente que prescriba multas o sanciones específicas por no realizar una auditoría de ética o sesgo de IA; las multas monetarias y los procedimientos de escalada específicos por incumplimiento de auditoría de IA no están especificados en la página citada.[1]
- Multas: no especificado en la página citada.
- Escalada: no hay rangos especificados para primera, repetida o continuada infracción en la página citada.
- Sanciones no monetarias: órdenes administrativas de remediación, suspensión de contrato o servicio, medidas judiciales o remisión a tribunales según la autoridad del departamento.
- Responsable de la ejecución: el departamento pertinente (por ejemplo, Tecnología/TI, Contratación o Cumplimiento de Normas) supervisa normalmente el cumplimiento y la recepción de quejas.
- Vías de inspección y queja: presente quejas ante el departamento que opera el sistema o ante la oficina del City Clerk según los procedimientos municipales.
- Apelaciones y revisión: apelación administrativa ante el departamento ejecutor o ante el city manager/city council si la política lo permite; los plazos exactos para apelaciones no están especificados en la página citada.
- Defensas/discrecionalidad: excusa razonable, variaciones aprobadas o renuncias autorizadas pueden aplicarse cuando lo prevea expresamente la política o el contrato.
Solicitudes y formularios
No existe un formulario municipal publicado específico para el "registro de auditoría de ética de IA" en la página del código municipal citada; los departamentos normalmente solicitan entregables de auditoría a través de documentos de contratación, anexos de contrato o solicitudes de registros.[1]
Pasos de acción para personal de la ciudad, proveedores y residentes
- Personal municipal: incluya cláusulas de auditoría y listas de verificación de entregables en las RFP y contratos.
- Proveedores: prepare un paquete de auditoría reproducible, un resumen ejecutivo y conjuntos de datos anonimizados cuando sea requerido.
- Residentes: presente una queja ante el departamento operador o solicite registros públicos al City Clerk si sospecha resultados sesgados.
- Conserve plazos: mantenga informes versionados y guarde artefactos de auditoría durante el periodo de retención fijado por el contrato o la política.
Violaciones comunes
- Informes de auditoría faltantes o incompletos.
- Falta de documentación sobre la procedencia de los datos o métodos de prueba.
- Pasos de mitigación no atendidos tras detectar sesgo.
FAQ
- ¿Sunnyvale tiene una ordenanza específica de auditoría de IA?
- No hay una ordenanza específica listada en la página del código municipal citada; los departamentos usan las políticas de contratación y administrativas para exigir auditorías.
- ¿Cómo solicito registros de auditoría?
- Solicite registros al departamento operador o presente una solicitud de registros públicos a través del City Clerk; siga las instrucciones del departamento para redactados y salvaguardas de privacidad.
- ¿Quién aplica el cumplimiento?
- La aplicación la gestiona normalmente el departamento responsable del sistema, la supervisión de la contratación y la City Attorney para remedios legales.
How-To
- Identifique el sistema y el departamento responsable.
- Solicite el plan de auditoría o el anexo del contrato que describa los entregables de auditoría requeridos.
- Revise la auditoría presentada en cuanto a metodología, conjuntos de datos, pasos de mitigación y notas de reproducibilidad.
- Si hay deficiencias, solicite por escrito la remediación al departamento y supervise la respuesta.
- Si no se resuelve, presente una solicitud de registros públicos o una queja ante el City Clerk y considere rutas de apelación administrativa.
Conclusiones clave
- Sunnyvale depende de políticas de contratación y administrativas para exigir auditorías de IA cuando proceda.
- Los entregables de auditoría deben incluir pruebas reproducibles y planes de mitigación claros.
Ayuda y Recursos
- City Clerk - Records & Requests
- Departamentos de la Ciudad de Sunnyvale (TI, Contratación, Planificación)
- Código Municipal de Sunnyvale (Code of Ordinances)