Requisitos de la ordenanza sobre auditoría de sesgo de IA en San José
San José, California, los departamentos municipales evalúan cada vez más los sistemas algorítmicos usados para servicios públicos. Esta guía explica cómo aborda la ciudad las auditorías de sesgo, qué esperar en cuanto a cumplimiento y apelaciones, y pasos prácticos para proveedores y equipos municipales para diseñar, documentar y responder a solicitudes de auditoría. Cuando el código municipal no establece un programa específico de auditoría de IA, la contratación, la privacidad y las cláusulas contractuales suelen marcar las revisiones requeridas. Para el texto actual de la ordenanza y el código de la ciudad, consulte el recurso oficial del código de San José.[1]
Penalties & Enforcement
El código municipal de San José y las normas de contratación relacionadas no establecen un calendario único de multas específicamente para fallas en auditorías de sesgo de IA; los montos y la escalada para infracciones algorítmicas o de contratación se gestionan mediante secciones existentes del código y remedios contractuales, no mediante una tabla de sanciones separada.
- Multas: no especificado en la página citada.
- Autoridad: típicamente el City Attorney, el City Manager o el departamento contratante mediante remedios administrativos y aplicación de contratos.
- Escalada: primero avisos correctivos y plazos para subsanar; incumplimientos repetidos pueden llevar a la terminación del contrato o acciones judiciales; los rangos de tiempo específicos no están especificados en la página citada.
- Sanciones no monetarias: órdenes para pausar o remover sistemas, medidas cautelares, suspensión del contrato, planes de acción correctiva y eliminación de datos no autorizados cuando la ley lo permite.
- Inspección y quejas: las quejas normalmente se dirigen al departamento contratante o al City Attorney para su investigación; consulte los procedimientos municipales para presentar quejas formales.
Applications & Forms
No existe un formulario dedicado publicado por la ciudad para auditorías de sesgo; los requisitos suelen integrarse en los documentos contractuales, las solicitudes de contratación o las políticas departamentales y especificarán entregables y métodos de presentación si se requieren.
How-To
- Identifique si el contrato o la solicitud exige una auditoría independiente o entregables como conjuntos de datos, documentación del modelo o evaluaciones de impacto.
- Prepare documentación: fuentes de datos, métodos de entrenamiento, resultados de validación, métricas de equidad y un plan de mitigación de impactos desiguales.
- Contrate a un revisor independiente cuando sea necesario y conserve los registros del alcance, los hallazgos y las remediaciones del revisor.
- Responda rápidamente a los avisos de remediación y cumpla los periodos de subsanación para evitar sanciones contractuales o la terminación del contrato.
- Si se le impone una sanción, utilice los procedimientos de disputa y apelación del contrato; conserve registros y cumpla los plazos de apelación.
FAQ
- ¿San José tiene una ordenanza específica de auditoría de sesgo de IA?
- Según el recurso del código municipal citado, la ciudad no publica una ordenanza única que exija auditorías de sesgo de IA; los requisitos suelen establecerse mediante contratación, privacidad o políticas departamentales.[1]
- ¿Quién hace cumplir el cumplimiento de los sistemas de IA de la ciudad?
- La ejecución suele ser responsabilidad del departamento contratante en coordinación con el City Attorney o el City Manager; los mecanismos específicos de aplicación dependen de los términos del contrato y las secciones aplicables del código.
- ¿Dónde presento una queja sobre una decisión algorítmica?
- Comience con el departamento que proporcionó el servicio y, si no se resuelve, escale al City Attorney o a la oficina contratante.
Key Takeaways
- San José depende del lenguaje de contratación y de los contratos para exigir auditorías de sesgo más que de una tabla de multas específica para IA.
- Los proveedores deben cumplir con los entregables contractuales y conservar documentación detallada para demostrar cumplimiento.
- Las apelaciones y remedios siguen los procedimientos contractuales y los canales generales de aplicación municipal.
Help and Support / Resources
- City Clerk - Ordinances and Council Records
- City Attorney - Legal Counsel and Enforcement
- Information Technology / IT Department