Directrices de Ética de IA y Proceso de Auditoría de Sesgos para Reno, Nevada
Reno, Nevada departments de la ciudad usan cada vez más herramientas algorítmicas y sistemas automatizados. Esta guía explica cómo la ordenanza municipal, las reglas de contratación y las políticas de TI influyen en las directrices de ética de IA y en un proceso práctico de auditoría de sesgos para las herramientas utilizadas por la Ciudad de Reno. Señala fuentes legales, roles de aplicación, pasos para la contratación y cómo reportar inquietudes para que los departamentos adopten prácticas de IA transparentes y auditables. Cuando una ordenanza o monto de multa específico no esté publicado en la página oficial citada, este artículo lo indica explícitamente y remite a la oficina encargada.
Ámbito y Base Legal
La autoridad local para la política tecnológica municipal normalmente deriva del código municipal de la Ciudad de Reno y de las políticas a nivel de departamento que rigen la contratación y la tecnología de la información. Consulte el Código Municipal de la Ciudad de Reno para la autoridad de ordenanza City of Reno Municipal Code[1]. Los requisitos de contratación y proveedores utilizados para implementaciones supervisadas de IA están gobernados por las reglas de compras y contratos de la Ciudad City of Reno Purchasing[2]. Los estándares técnicos, controles de acceso y reportes de incidentes los administra la oficina de tecnología de la información de la Ciudad City of Reno Information Technology[3].
Diseño de Directrices de Ética de IA
Las directrices municipales de ética de IA deben alinearse con el código municipal aplicable y con las obligaciones de contratación. Un enfoque recomendado incluye definir el alcance, niveles de riesgo, reglas de manejo de datos, controles de mitigación de sesgo, requisitos de registro y transparencia, y un flujo de aprobación enlazado a la revisión de compras y TI.
- Definir sistemas cubiertos y niveles de riesgo.
- Exigir divulgaciones por parte del proveedor y documentación del modelo (fuentes de datos, proceso de entrenamiento).
- Obligar auditorías de sesgo previas al despliegue y monitoreo continuo.
- Especificar cadencia de revisión y desencadenantes de re-auditoría.
- Designar oficinas responsables de supervisión y quejas.
Proceso de Auditoría de Sesgos
Un proceso de auditoría de sesgos municipal debe ser reproducible, documentado y vinculado a la contratación y a los SLA. Los pasos centrales abarcan el alcance, inventario de datos, pruebas estadísticas de equidad, análisis por subgrupos, documentación de medidas de mitigación y un informe de auditoría conservado por la ciudad.
- Definir el alcance del sistema y los puntos de decisión sujetos a revisión de sesgos.
- Recolectar inventario de datos y registros de procedencia del proveedor y propietarios internos.
- Ejecutar pruebas estadísticas acordadas y análisis por subgrupos.
- Documentar mitigaciones y actualizar el contrato del proveedor con controles requeridos.
- Programar re-auditoría o monitoreo según el nivel de riesgo.
Multas y Aplicación
La aplicación de los requisitos municipales para contratación, manejo de datos y seguridad informática la administran los departamentos correspondientes de la ciudad y, cuando corresponda, las disposiciones del código municipal. Los montos específicos de multas y los cronogramas de sanciones por incumplimiento de una política de ética de IA o por no realizar una auditoría de sesgo están no especificados en la página municipal citada anteriormente.[1]
- Montos de multa: no especificados en la página del código municipal citada; los remedios contractuales los controlan la documentación de compras y contratos.[2]
- Escalonamiento: las páginas citadas no publican un esquema formal de primera/rehitual ofensa; el escalonamiento normalmente lo manejan acciones correctivas departamentales y remedios contractuales.
- Sanciones no monetarias: órdenes de cesar el uso, suspensión/terminación de contratos, planes de acción correctiva y remisión al City Attorney o tribunales según autorice el código o el contrato.
- Aplicador y vía de denuncia: las oficinas departamentales de TI y Compras gestionan el cumplimiento y las denuncias; consulte los procesos de contacto publicados en las páginas oficiales.[2][3]
- Apelaciones/revisiones: las vías y plazos de apelación no están especificados en las páginas citadas y dependerán del instrumento de aplicación (cláusula contractual u ordenanza); consulte al departamento administrador.
- Defensas/discreción: los departamentos pueden conceder variaciones o planes de remediación conforme a cláusulas contractuales o discreción administrativa; los detalles no figuran en las páginas citadas.
Solicitudes y Formularios
Las solicitudes de contratación y la documentación de proveedores se tramitan a través de los procedimientos de compras; no existe un formulario de auditoría de sesgo obligatorio publicado en las páginas citadas. Para formularios de contratación y paquetes de proveedores, utilice el proceso de la oficina de Compras referenciado en la página oficial.[2]
Pasos de Acción para Departamentos y Proveedores
- Departamentos: incluya cláusulas de ética de IA en las RFP y exija tarjetas de modelo e inventarios de datos.
- Proveedores: entregue conjuntos de prueba reproducibles, planes de mitigación y registros de auditoría como entregables contractuales.
- Auditores: conserve informes y fije plazos de remediación vinculados a las cláusulas contractuales.
- Informantes: presente denuncias a través de los contactos departamentales y preserve evidencias de las decisiones.
Preguntas Frecuentes
- ¿Quién hace cumplir los requisitos de ética de IA en la ciudad?
- Departamentos como Compras y Tecnología de la Información administran el cumplimiento; el City Attorney ofrece aplicación legal cuando se incumplen ordenanzas o contratos.[2][3]
- ¿Existen multas fijas por incumplimientos relacionados con IA?
- No hay multas fijas publicadas en las páginas municipales citadas; los remedios suelen ser contractuales o administrativos según lo mostrado en las páginas de compras y del código municipal.[1]
- ¿Cómo solicito una auditoría o presento una queja?
- Contacte al departamento responsable (TI o Compras) con detalles del sistema y evidencias; utilice los procesos de contacto publicados en sus páginas oficiales.[2][3]
Cómo Hacer
- Identifique el sistema de IA y su alcance decisional.
- Recolecte la documentación del proveedor y los inventarios de datos.
- Ejecute pruebas de sesgo y documente los resultados.
- Emita la aprobación o el plan de remediación e incorpórelo al contrato.
- Programe monitoreo y re-auditoría periódica según el nivel de riesgo.
Conclusiones Clave
- Adopte reglas de ética de IA basadas en el riesgo y vinculadas a compras y revisión de TI.
- Exija transparencia del proveedor, inventarios de datos y mitigaciones documentadas.
- Documente auditorías y programe recontroles según el nivel de riesgo.
Ayuda y Soporte / Recursos
- City of Reno Municipal Code
- City of Reno Purchasing
- City of Reno Information Technology
- City Attorney - City of Reno