Guía de revisión ética de IA y ordenanza en Santa Clara
Residentes, empresas y contratistas de la ciudad de Santa Clara, California, que busquen una revisión ética de IA o una auditoría de sesgo deben seguir procedimientos locales que cruzan adquisiciones, tecnología de la información y requisitos del código municipal. Esta guía explica qué oficinas municipales contactar, qué incluye típicamente una solicitud de revisión ética y cómo funcionan la aplicación y las apelaciones según las normas municipales de Santa Clara. Destaca fuentes oficiales, pasos prácticos para solicitar una revisión, documentación probable y dónde enviar quejas o apelaciones.
Ámbito y cuándo solicitar
Solicite una revisión ética de IA o una auditoría de sesgo cuando un contrato municipal, un sistema operado por la ciudad o un programa financiado por la ciudad utilice toma de decisiones automatizada, modelos algorítmicos o aprendizaje automático que afecten a residentes o servicios regulados. Los desencadenantes típicos incluyen adquisiciones para predicción policial, algoritmos de elegibilidad para beneficios, automatización de permisos/vivienda y herramientas públicas de decisión.
Quién administra las revisiones
- El Departamento de Tecnología de la Información de la Ciudad de Santa Clara gestiona evaluaciones técnicas e inventarios de sistemas; contacte al departamento para solicitar una revisión interna. City of Santa Clara Information Technology[2]
- Compras/Adquisiciones dentro de Finanzas gestiona términos contractuales que pueden exigir auditorías de proveedores o auditorías de sesgo independientes. City of Santa Clara Purchasing[3]
- El Abogado de la Ciudad y la Oficina del Administrador de la Ciudad realizan revisiones legales e interpretación de políticas para el cumplimiento del código municipal. Para secciones aplicables consulte el código municipal. Santa Clara Municipal Code[1]
Sanciones y aplicación
Las fuentes municipales de Santa Clara no publican una ordenanza específica que imponga multas dedicadas por no obtener una revisión ética de IA o llevar a cabo una auditoría de sesgo; las multas monetarias y las vías de aplicación dependen del instrumento que controle (cláusulas contractuales, reglas de adquisición o secciones específicas del código). Cuando el código municipal o el contrato imponga remedios, esas páginas instrumentales deben consultarse para conocer multas y procedimientos exactos. Consulte el código municipal y las reglas de adquisiciones para vías de aplicación y recursos civiles. Santa Clara Municipal Code[1]
Puntos clave de aplicación a considerar:
- Montos de multas: no especificado en la página citada para infracciones específicas de IA; consulte el lenguaje contractual o la sección específica del código municipal en el instrumento controlador. Municipal Code[1]
- Escalada: suele comenzar con un aviso o período de subsanación en un contrato, y puede escalar a terminación, retención de pagos o acción civil; los plazos exactos son específicos del instrumento y no están especificados en la página citada.
- Sanciones no monetarias: órdenes de cese de trabajo, suspensión o terminación de contrato, requisitos de auditorías de terceros, planes de acción correctiva o medidas judiciales.
- Organismos aplicadores y vías de queja: Oficina del Administrador de la Ciudad, Abogado de la Ciudad, Departamento de Tecnología de la Información y Compras; las quejas sobre sistemas municipales pueden enviarse al departamento correspondiente listado arriba. Information Technology[2]
- Apelaciones/revisión: las vías de apelación dependen del contrato o del código; cuando exista una audiencia administrativa o apelación disponible, los plazos y el proceso estarán indicados en el documento que controle—si no están indicados, no están especificados en la página citada.
- Defensas/discreción: defensas típicas incluyen uso permitido bajo un contrato, aprobaciones previas, excepciones de emergencia o variaciones concedidas; la disponibilidad depende del contrato u ordenanza aplicable.
Solicitudes y formularios
La Ciudad no publica un solo formulario público estandarizado de "Revisión Ética de IA" en las principales páginas departamentales; las solicitudes suelen realizarse a través del ingreso del departamento, cláusulas contractuales de adquisiciones o procesos formales de servicio/solicitud de TI. Para revisiones vinculadas a adquisiciones, remita las solicitudes a Compras. Para revisiones técnicas de sistemas, contacte a Tecnología de la Información. Purchasing[3] Information Technology[2]
Cómo solicitar una revisión ética de IA
- Identifique el sistema: documente el propósito, entradas de datos, puntos de decisión y poblaciones afectadas.
- Reúna documentación: diagramas de arquitectura, flujo de datos, resúmenes de datos de entrenamiento, descripciones del modelo e informes de auditoría del proveedor si existen.
- Contacte al departamento apropiado: para sistemas de la ciudad contacte a TI; para obligaciones contractuales contacte a Compras.
- Envíe una solicitud por escrito: incluya pruebas de posible sesgo o impacto, remediación deseada y referencias contractuales pertinentes.
- Acuerde alcance y cronograma: la ciudad definirá el alcance técnico, las necesidades de auditor de terceros y la asignación de costos según los términos del contrato.
- Reciba conclusiones y siguientes pasos: espere un informe, acciones correctivas y posibles recursos contractuales o cambios en la política.
Pasos de acción
- Prepare un resumen de una página y documentos de respaldo antes de contactar al departamento.
- Envíe solicitudes por los canales oficiales del departamento y conserve registros de las presentaciones.
- Si el asunto involucra a un contratista, refiera la cláusula contractual que exige auditorías o cumplimiento.
- Prepárese para discutir la responsabilidad de costos de auditorías de terceros; a menudo lo rige el contrato.
Ayuda y recursos
- City of Santa Clara Information Technology
- City of Santa Clara Purchasing
- City Attorney - City of Santa Clara
- City Clerk - City of Santa Clara