Reglas de auditoría ética de IA para herramientas de la ciudad de Santa Rosa
Santa Rosa, California, los departamentos municipales deben comprender cómo se aplican las auditorías éticas de IA a los sistemas automatizados propiedad o gestionados por la ciudad. Esta guía explica dónde buscar en el código oficial de Santa Rosa y en las prácticas tecnológicas de la ciudad, los pasos prácticos que los departamentos deben seguir para documentar y auditar herramientas de IA, y cómo el público puede reportar preocupaciones. Cuando el código municipal o las páginas del departamento no especifican un requisito, esta guía lo indica y señala la oficina responsable y las vías de denuncia para que los funcionarios y proveedores actúen de forma consistente.
Penalties & Enforcement
Santa Rosa no publica actualmente una ordenanza específica denominada "auditorías éticas de IA" en el código municipal consolidado; las sanciones monetarias detalladas por no realizar una auditoría ética de IA no están especificadas en la página del código municipal citada.[1]
- Multas: no especificado en la página del código municipal citada; no se enumeran montos específicos por incumplimientos de auditoría de IA.[1]
- Escalamiento: el código municipal no establece rangos de primera/reincidencia/ofensas continuas para el cumplimiento de IA; consulte las directrices departamentales para remedios progresivos.[1]
- Sanciones no monetarias: las herramientas de aplicación probables incluyen órdenes administrativas, directivas de cese de uso, inhabilitación en contrataciones y remisión al City Attorney para acciones civiles o cautelares; estos remedios están generalmente disponibles según la práctica municipal pero no están detallados para auditorías de IA en las páginas citadas.[1]
- Agente de cumplimiento y denuncias: la responsabilidad operativa principal y las primeras denuncias las maneja el Departamento de Tecnología de la Información de la ciudad y la supervisión puede implicar la oficina del City Manager o el City Attorney; la orientación de contacto y notificación la proporciona la oficina de TI de la ciudad.[2]
- Recursos y apelaciones: las vías formales de apelación suelen seguir el procedimiento administrativo o revisión judicial local; los plazos específicos de apelación por aplicación relacionada con auditorías de IA no están especificados en la página del código municipal citada.[1]
Applications & Forms
No se publica en la página del código municipal un formulario dedicado para una "auditoría ética de IA"; los departamentos deben consultar con el Departamento de Tecnología de la Información para los procedimientos de envío internos y cualquier formulario de revisión de privacidad o contratación requerido.[2]
Qué deben hacer las oficinas municipales
Los departamentos que implementan o adquieren sistemas con IA deben tomar pasos claros y documentados para cumplir con estándares éticos y legales incluso cuando el código esté en silencio:
- Registrar el propósito de la herramienta, las entradas de datos, las salidas de decisión y la documentación del proveedor.
- Realizar una evaluación documentada de sesgo, equidad y seguridad antes del despliegue.
- Establecer protocolos de monitoreo e informes de incidentes.
- Programar reauditorías periódicas alineadas con la contratación o actualizaciones importantes.
Infracciones comunes
- Desplegar una herramienta de IA sin revisión o aprobación documentada.
- Fallar en conservar registros y datos necesarios para la auditoría.
- Ignorar impactos adversos documentados reportados por el personal o el público.
FAQ
- ¿Tiene Santa Rosa una ley específica que exija auditorías éticas de IA?
- No hay una ordenanza específica sobre auditoría de IA en el código municipal consolidado; la página del código municipal citada no especifica un requisito dedicado de auditoría de IA.[1]
- ¿Quién hace cumplir los requisitos sobre herramientas de IA de la ciudad?
- La supervisión operativa y las denuncias de primera línea las maneja el Departamento de Tecnología de la Información de la ciudad, con supervisión legal del City Attorney o el City Manager cuando sea necesario.[2]
- ¿Cómo puede el público reportar preocupaciones sobre un sistema de IA municipal?
- Reportar al Departamento de Tecnología de la Información de la ciudad o presentar una queja ante el City Clerk o Code Enforcement según las indicaciones en las páginas departamentales; utilice la página de contacto de TI para el reporte inicial.[2]
How-To
- Identificar la herramienta de IA, incluyendo proveedor, versión y fecha de despliegue.
- Recopilar documentación: fuentes de datos, métodos de entrenamiento, reglas de decisión y auditorías del proveedor.
- Realizar una evaluación de sesgo y seguridad y documentar los resultados.
- Enviar la evaluación y las mitigaciones recomendadas al Departamento de Tecnología de la Información para su revisión.[2]
- Si procede, actualizar los registros de contratación e implementar monitoreo y vías de queja de usuarios.
Conclusiones clave
- El código municipal de Santa Rosa no detalla actualmente multas ni una ordenanza única sobre auditorías de IA.
- Los departamentos deben documentar evaluaciones de riesgo, exigir acceso contractual a auditorías y seguir los procedimientos de revisión de TI.
Ayuda y Recursos
- Departamento de Tecnología de la Información, Ciudad de Santa Rosa
- Código Municipal de Santa Rosa (Municode)
- Code Enforcement, Ciudad de Santa Rosa