Ley municipal de San Jose: Proceso de revisión ética de IA
San Jose, California exige que los departamentos municipales y contratistas realicen una revisión interna para herramientas automatizadas y sistemas de IA usados en las herramientas de la Ciudad. Este artículo explica cómo solicitar una revisión ética de IA, quién hace cumplir las políticas de revisión, los plazos probables y las apelaciones, y dónde encontrar formularios y contactos oficiales del gobierno de San Jose.
Alcance y cuándo solicitar una revisión
Solicite una revisión ética de IA cuando una herramienta o sistema de la Ciudad propuesto utilice toma de decisiones automatizada, perfilado, aprendizaje automático u otros procesos algorítmicos que afecten a residentes, personal o la prestación de servicios. Los desencadenantes típicos incluyen la adquisición de software, el despliegue de soporte de decisiones automatizadas o proyectos a gran escala basados en datos. El Departamento de Tecnología de la Información coordina la revisión técnica mientras que la revisión de políticas y legal involucra a la Oficina del Abogado de la Ciudad o a la Oficina del Administrador de la Ciudad.[2]
Sanciones y cumplimiento
San Jose hace cumplir el cumplimiento mediante revisión administrativa y supervisión por los departamentos responsables; las multas monetarias específicas o sanciones legales por no obtener una revisión ética de IA no están especificadas en las páginas del código municipal citadas.[1]
- Enforcement: El Departamento de Tecnología de la Información coordina el cumplimiento técnico; el cumplimiento legal lo revisan el Abogado de la Ciudad y el Administrador de la Ciudad según corresponda.[2]
- Multas monetarias: no especificadas en la página citada; las soluciones pueden ser administrativas y contractuales en lugar de multas establecidas.[1]
- Escalada: las inquietudes iniciales suelen dar lugar a cambios obligatorios o a la suspensión del despliegue; los pasos exactos de escalada no están especificados en las páginas citadas.[1]
- Sanciones no monetarias: órdenes de suspender el despliegue, órdenes correctivas, terminación de contratos, preservación de pruebas y remisión a autoridades de cumplimiento pueden ser aplicables según el proyecto y los términos contractuales.
- Inspecciones y quejas: las quejas sobre una herramienta de la Ciudad o sus resultados se dirigen al departamento responsable o al Secretario Municipal; las inspecciones técnicas las realizan los equipos de TI.[2]
Solicitudes y formularios
La Ciudad no publica un único formulario llamado "Revisión ética de IA" en las páginas oficiales citadas; los departamentos suelen usar formularios internos de entrada de proyectos o cuestionarios de contratación. Para detalles sobre formularios o plantillas requeridas, contacte al Departamento de Tecnología de la Información o a la Oficina del Abogado de la Ciudad.[2]
Cómo funciona la revisión
Los pasos típicos en la práctica departamental de San Jose incluyen toma inicial, evaluación técnica, análisis de privacidad y sesgo, revisión legal, recomendaciones y aprobación o mitigación requerida. Los plazos varían según la complejidad del proyecto y las prioridades del departamento; no se publican plazos oficiales en las páginas del código citadas.[1]
- Toma y priorización: cribado inicial para determinar si se requiere una revisión completa.
- Evaluación técnica: explicabilidad del algoritmo, procedencia de los datos y controles de seguridad.
- Revisión de políticas y legal: cumplimiento con políticas de la Ciudad, contratos y la ley aplicable.
- Mitigación: cambios requeridos, salvaguardas adicionales o documentación antes del despliegue.
Pasos de acción
- Prepare un resumen del proyecto con alcance, fuentes de datos, poblaciones afectadas y decisiones previstas.
- Envíe los materiales de entrada al Departamento de Tecnología de la Información y solicite una revisión ética.[2]
- Reserve tiempo para la revisión interdepartamental; cumpla cualquier paso de mitigación requerido antes de la contratación o despliegue.
- Si se niega, siga las vías de apelación departamentales o solicite una variación de política a través del Administrador de la Ciudad o del Abogado de la Ciudad según se indique.
FAQ
- ¿Quién debe solicitar una revisión ética de IA?
- Cualquier departamento de la Ciudad, contratista o proveedor que proponga un sistema de decisiones automatizadas o una herramienta algorítmica que afecte a las operaciones de la Ciudad o a los residentes debe solicitar una revisión.
- ¿Se especifican multas por no obtener una revisión?
- Las multas o sanciones específicas por no solicitar una revisión ética de IA no están especificadas en las páginas del código municipal citadas; la aplicación suele ser administrativa o contractual.[1]
- ¿Cuánto tiempo dura la revisión?
- El tiempo depende de la complejidad del proyecto y la carga de trabajo; no existe un plazo estandarizado publicado en las páginas citadas.
Cómo-Hacer
- Identifique el alcance del proyecto y documente cómo se utilizará la IA o las decisiones automatizadas.
- Reúna inventarios de datos, descripciones de modelos y declaraciones de impacto de privacidad.
- Envíe el paquete de entrada al Departamento de Tecnología de la Información con una solicitud formal de revisión ética.[2]
- Responda a las preguntas del revisor e implemente las mitigaciones requeridas.
- Obtenga aprobación por escrito antes de desplegar la herramienta en producción.
Puntos clave
- Comience las solicitudes de revisión tempranamente para evitar demoras en la contratación.
- Contacte a TI y al Abogado de la Ciudad para asesoría técnica y legal.
- La documentación y la mitigación son centrales para la aprobación.
Ayuda y recursos
- Departamento de Tecnología de la Información - Ciudad de San Jose
- Abogado de la Ciudad - Ciudad de San Jose
- Secretario Municipal - Ciudad de San Jose