Directrices éticas de IA en Valencia y proceso de auditoría de sesgo
Valencia, California exige que los sistemas del sector público y ciertos contratistas municipales cumplan estándares de equidad algorítmica, transparencia y auditorías de sesgo documentadas. Esta guía explica cómo se aplican las normas locales en Valencia, las posibles obligaciones para contratistas municipales, dónde presentar quejas y qué esperar en materia de cumplimiento y recursos.
Ámbito y aplicabilidad
Las normas locales sobre herramientas automatizadas se encuentran a través del secretario municipal y los recursos del código municipal y se aplican principalmente a las agencias de la ciudad y a los contratistas que operan en Valencia como parte de la Ciudad de Santa Clarita. Para el lenguaje específico del código y cláusulas de contratación, consulte el código municipal y las listas de ordenanzas. [1]
Requisitos clave
Las expectativas municipales habituales para los sistemas de IA usados por departamentos de la ciudad incluyen auditorías de sesgo documentadas, declaraciones de transparencia, minimización de datos y retención de registros con fines de auditoría. Cuando no se publica una ordenanza específica de IA, las políticas de contratación y privacidad en el código municipal o los instrumentos contractuales rigen las obligaciones. [2]
- Realizar una auditoría de sesgo independiente antes del despliegue y a intervalos regulares.
- Proporcionar avisos públicos que describan el uso de decisiones automatizadas y las fuentes de datos.
- Incluir cláusulas contractuales que obliguen a los proveedores a remediar sesgos identificados y a indemnizar a la ciudad por el incumplimiento.
- Mantener registros y evidencias suficientes para que los inspectores o auditores de la ciudad verifiquen resultados y entrenamientos.
- Conservar la documentación por el periodo exigido por las reglas de conservación de registros de la ciudad o según se especifique en los contratos de adquisición.
Sanciones y cumplimiento
Las cantidades específicas de multas por infracciones de ética de IA no están codificadas de forma uniforme en una sola ordenanza de Valencia; cuando existan sanciones, normalmente figurarán en la sección de contratación o en la ordenanza aplicable, o en una resolución de ejecución. Si no se publica una escala de sanciones en las páginas citadas, se indica "no especificado en la página citada". El cumplimiento y las investigaciones las llevan a cabo normalmente Code Compliance de la Ciudad de Santa Clarita y la Oficina del Fiscal de la Ciudad. [3]
- Multas monetarias: no especificadas en la página citada; los montos dependerán de la ordenanza específica o la cláusula contractual que regule la infracción.
- Escalada: infracciones iniciales, reiteradas y continuas se rigen por la ordenanza subyacente o el contrato y no están especificadas en la página citada.
- Sanciones no monetarias: órdenes de cese, requisitos de remediación, suspensión o terminación de contrato y remisión a procedimientos civiles o audiencias administrativas.
- Enforcement: Code Compliance de la Ciudad de Santa Clarita y la Oficina del Fiscal de la Ciudad; las quejas pueden presentarse a través de la página oficial de Code Compliance. [3]
- Recursos y apelaciones: las rutas de apelación típicamente siguen procedimientos de audiencias administrativas en el código municipal o cláusulas de resolución de disputas contractuales; los plazos se definen en el instrumento controlador y no están especificados en la página citada.
- Defensas y discrecionalidad: las defensas pueden incluir una variación permitida, esfuerzos razonables demostrados para mitigar sesgos o aprobaciones contractuales existentes; la redacción específica depende del instrumento controlador.
Solicitudes y formularios
No existe una solicitud única publicada con el título de ética de IA o auditoría de sesgo en las páginas municipales; la documentación requerida se suele presentar con las ofertas de contratación o durante las revisiones de permisos. Si existe un formulario dedicado, se enlazará desde las páginas de contratación o del secretario municipal; de lo contrario, no hay un formulario independiente publicado en las páginas citadas. [2]
Preguntas frecuentes
- ¿Tiene Valencia una ordenanza independiente sobre ética de IA?
- No hay una ordenanza independiente publicada en las páginas municipales citadas; las obligaciones se encuentran actualmente en la contratación, la privacidad y los contratos. [2]
- ¿Quién hace cumplir las normas de ética de IA en Valencia?
- El cumplimiento lo llevan a cabo Code Compliance de la Ciudad de Santa Clarita y la Oficina del Fiscal de la Ciudad; las quejas pueden presentarse a través de los canales oficiales de Code Compliance. [3]
- ¿Qué debe incluir un proveedor para cumplir?
- Los proveedores deben incluir informes de auditoría de sesgo, declaraciones de transparencia, procedencia de datos, planes de remediación e indemnizaciones contractuales; los requisitos de presentación específicos se establecen en los documentos de contratación. [1]
Cómo hacerlo
- Identifique el alcance: determine si su sistema es utilizado por un departamento de la ciudad o está sujeto a un contrato municipal y recopile las cláusulas contractuales relevantes.
- Realice una auditoría de sesgo: organice una auditoría independiente y elabore un plan de remediación para los problemas detectados.
- Presente la documentación: entregue la documentación con las ofertas o al departamento contratante y, si tiene dudas, solicite orientación al secretario municipal o a Code Compliance.
- Responda a notificaciones: si se le notifica una infracción, siga las instrucciones de la notificación, solicite opciones de audiencia administrativa y considere asesoría legal para las apelaciones.
Conclusiones clave
- Revise el lenguaje de contratación y ordenanzas con antelación para identificar obligaciones de IA.
- Realice auditorías de sesgo documentadas y prepare remediaciones antes del despliegue.
- Use los canales oficiales de Code Compliance de la Ciudad de Santa Clarita para consultas y quejas. [3]
Ayuda y soporte / Recursos
- City of Santa Clarita Municipal Code (municode)
- City of Santa Clarita - Ordinances and Resolutions
- City of Santa Clarita - Code Compliance
- City Purchasing and Contracts