Guía de la ordenanza ética de IA y auditoría de sesgos - Cleveland
Cleveland, Ohio, las agencias y departamentos preguntan cada vez más cómo se aplican las normas municipales al uso de la inteligencia artificial (IA) en servicios de la ciudad, adquisiciones y actividades licenciadas. Esta guía resume el alcance probable de los requisitos éticos de IA a nivel municipal, describe un proceso de auditoría de sesgos que comúnmente exigen las oficinas municipales y ofrece pasos prácticos de cumplimiento para proveedores, contratistas y programas de la ciudad en Cleveland, Ohio.
Alcance y definiciones
Cuando las ciudades se refieren a "ética de IA" normalmente significan requisitos que regulan sistemas de toma de decisiones que afectan a residentes, como controles automatizados de licencias, elegibilidad para beneficios, herramientas predictivas en seguridad, algoritmos de permisos y sistemas de selección para contratación o adjudicación. En Cleveland, la jurisdicción sobre adquisiciones, licencias y operaciones municipales la ejercen los departamentos de la Ciudad y las ordenanzas adoptadas por el Ayuntamiento; las reglas de IA específicas para contratistas de la ciudad o sistemas internos se aplican mediante políticas departamentales y cláusulas contractuales.
Sanciones y cumplimiento
No existe actualmente una "ordenanza de ética de IA" publicada como tal en el código municipal según las páginas de Recursos abajo; cuando se imponen requisitos específicos, aparecen en contratos de adquisición, políticas departamentales o resoluciones del Consejo. Cuando una ciudad impone sanciones por incumplimiento de normas éticas o de adquisiciones, la aplicación normalmente sigue el patrón que sigue; cuando una cifra o término específico no está disponible en las páginas municipales citadas, la entrada indica "no especificado en la página citada." Consulte la sección de Ayuda y Soporte / Recursos para las páginas oficiales.
- Multas: no especificado en la página citada.
- Escalado: rangos para primer incumplimiento, reincidencia y continuidad no están especificados en la página citada.
- Sanciones no monetarias: rescisión de contratos, suspensión de licitaciones, órdenes de acción correctiva o acciones judiciales son típicas y pueden ser utilizadas por la oficina encargada.
- Autoridad: oficiales de contratación departamentales, el Departamento Jurídico de la Ciudad o el departamento responsable del programa que usó la IA.
- Vías de inspección y queja: las quejas y revisiones de cumplimiento son gestionadas por la oficina de cumplimiento o de contratación del departamento correspondiente; consulte Ayuda y Soporte / Recursos abajo para las páginas de contacto oficiales.
- Recursos y revisiones: las vías de apelación típicamente pasan por canales administrativos, procesos de protesta en adquisiciones o tribunales civiles; los plazos específicos no están especificados en la página citada.
- Defensas y discrecionalidad: excusa razonable, variación aprobada o una cláusula contractual expresa pueden limitar la responsabilidad; los detalles no están especificados en la página citada.
Solicitudes y formularios
No hay un formulario municipal dedicado de "auditoría de sesgo de IA" publicado en las páginas municipales citadas; cuando se requiere, los entregables de auditoría suelen presentarse como parte de los entregables del contrato o de las presentaciones de adquisición. Para formularios departamentales específicos o listas de verificación de certificación, contacte a la oficina de contratación que figura en Recursos abajo.
Proceso de auditoría de sesgos - pasos recomendados
El proceso de auditoría de sesgos para sistemas municipales debe ser transparente, reproducible y documentado. A continuación se presentan pasos típicos y prácticos que una ciudad o un proveedor debe seguir cuando un departamento de Cleveland solicita una auditoría de sesgos.
- Delimitación: definir el sistema, entradas, salidas, puntos de decisión e impactos en residentes.
- Inventario de datos: listar conjuntos de datos, fuentes, conservación y limitaciones conocidas.
- Auditoría técnica: ejecutar pruebas estadísticas, métricas de equidad y análisis de errores pertinentes al caso de uso.
- Documentación: preparar un informe de hallazgos, evaluación de riesgos y un plan de mitigación para el departamento contratante.
- Remediación y supervisión: implementar correcciones, fijar umbrales de monitoreo y programar reauditorías periódicas.
Pasos de acción para el cumplimiento
- Antes de licitar: incluya un plan de cumplimiento que muestre cómo se realizarán y reportarán las auditorías de sesgo.
- En la entrega: presente el informe de auditoría, inventario de datos y el plan de mitigación como entregables del contrato.
- Si se le cita por incumplimiento: utilice el proceso de protesta o apelación del departamento y preserve la evidencia de auditoría.
Preguntas frecuentes
- ¿Tiene Cleveland una ordenanza de IA independiente?
- No existe una ordenanza de IA independiente publicada en las páginas del código municipal citadas en Recursos; los requisitos de IA se aplican actualmente mediante contratos y políticas departamentales.
- ¿Quién hace cumplir las reglas de ética de IA en Cleveland?
- La aplicación la gestionan el departamento contratante o del programa que exigió el uso de IA, con revisión legal del Departamento Jurídico de la Ciudad cuando sea necesario.
- ¿Con qué frecuencia se deben repetir las auditorías de sesgo?
- La frecuencia de auditoría depende del contrato; si no está establecida en el contrato, los departamentos suelen exigir reauditorías periódicas tras actualizaciones importantes del modelo o anualmente.
Cómo hacer
- Solicite la orientación del departamento sobre IA o adquisiciones y determine si una auditoría de sesgo es obligatoria por contrato.
- Defina el alcance de la auditoría: poblaciones afectadas, fuentes de datos, versiones del modelo y métricas de rendimiento.
- Realice análisis de equidad y errores y documente la metodología y los resultados.
- Presente el informe de auditoría y el plan de mitigación al oficial de contratación; implemente las medidas aprobadas.
- Establezca el monitoreo y programe reauditorías según el contrato o la orientación del departamento.
Puntos clave
- No existe una ordenanza única de IA publicada en Cleveland; los requisitos se aplican vía contratos y políticas.
- Las auditorías de sesgo deben ser documentadas, reproducibles y entregadas como parte del contrato cuando se requieran.
- Contacte al departamento de contratación con antelación para confirmar formularios, plazos y canales de presentación.
Ayuda y Soporte / Recursos
- City of Cleveland - Municipal Code (Municode)
- Cleveland City Council - Legislation and Resolutions
- City of Cleveland - Official Website and Department Contacts