Requisitos de auditoría de ética y sesgo de IA en Omaha
Omaha, Nebraska está usando cada vez más herramientas automatizadas en servicios municipales. Esta guía explica lo que actualmente se requiere para auditorías de ética y sesgo de IA cuando los departamentos de la ciudad adquieren u operan sistemas algorítmicos, quién hace cumplir el cumplimiento y los pasos prácticos que el personal municipal y los proveedores deben seguir para prepararse.
Ámbito y aplicabilidad
Este artículo se centra en herramientas propiedad de la ciudad o gestionadas por la ciudad utilizadas por departamentos municipales de Omaha, incluidos análisis predictivos, decisiones automatizadas de licencias y otros sistemas algorítmicos que afectan al público. Cubre expectativas para evaluaciones de ética, auditorías de sesgo, documentación y supervisión que el personal municipal o los contratistas deben seguir.
Requisitos clave
- Documentación del propósito del sistema y puntos de decisión
- Registros de procedencia y linaje de datos para conjuntos de entrenamiento y prueba
- Informes de auditoría de sesgo independientes o internos antes del despliegue
- Programas de revisión periódica y monitoreo post-despliegue
- Punto de contacto claro en el departamento adquirente para quejas o consultas
Sanciones y cumplimiento
La Ciudad de Omaha no publica una ordenanza municipal dedicada que establezca multas estatutarias fijas por incumplimientos específicos de auditorías de ética o sesgo de IA; las multas monetarias y sanciones civiles específicas no están especificadas en la página citada.[1]
Esto significa en la práctica:
- Multas monetarias: no especificadas en la página citada; los recursos contractuales o sanciones de adquisición son las herramientas habituales de ejecución[1]
- Escalada: solicitudes de remediación iniciales, seguidas de planes de acción correctiva o terminación de contrato cuando proceda
- Sanciones no monetarias: órdenes de cese de uso, exigencia de remediar salidas sesgadas, suspensión de contratos o inhabilitación en adquisiciones
- Responsable: el departamento que realiza la contratación en coordinación con Tecnología/Servicios Informáticos de la Ciudad y el Fiscal de la Ciudad para acciones legales
- Inspecciones y quejas: presente quejas al departamento adquirente o al contacto designado de TI de la ciudad para revisión
Apelaciones, revisión y plazos
- Las apelaciones y revisiones suelen seguir canales de resolución de disputas contractuales o revisión administrativa descritos en los documentos de adquisición
- Los plazos legales específicos para apelaciones relacionadas con auditorías de IA no están especificados en la página citada; consulte los términos del contrato o las reglas de adquisiciones para los plazos[1]
- Defensas y criterios de discreción: excusa razonable, remediación de buena fe o aprobación previa pueden influir en los resultados de la ejecución
Infracciones comunes
- No realizar una auditoría de sesgo antes del despliegue
- Documentación insuficiente de datos de entrenamiento o cambios en el modelo
- Ignorar quejas sobre impactos desproporcionados
- Desplegar actualizaciones del modelo sin reevaluación
Solicitudes y formularios
No se publica un formulario municipal dedicado para la certificación de auditoría de ética o sesgo en la página principal del código municipal; cuando se requiere, los requisitos de auditoría y presentación se especifican en las solicitudes de adquisición o anexos contractuales, o se gestionan mediante formularios departamentales que no se publican centralmente en la página del código[1].
Cómo hacerlo
- Defina el alcance del sistema, las decisiones que toma y los grupos potencialmente afectados.
- Inventarie los conjuntos de datos: documente orígenes, métodos de muestreo y limitaciones conocidas.
- Realice análisis de sesgo con métricas adecuadas al caso de uso y características protegidas.
- Involucre revisores independientes o equipos de auditoría internos para validar hallazgos.
- Documente medidas de mitigación, implemente monitoreo y programe reauditorías periódicas.
Preguntas frecuentes
- ¿Tiene Omaha una ordenanza específica sobre IA?
- No existe una ordenanza municipal específica para auditorías de IA y sanciones que figure en la página principal del código municipal; las responsabilidades se gestionan mediante las reglas de adquisición y las políticas departamentales[1].
- ¿Quién hace cumplir los requisitos de auditoría de IA?
- El departamento adquirente junto con Tecnología/Servicios Informáticos de la Ciudad y el Fiscal de la Ciudad aplican el cumplimiento, normalmente por medio de términos contractuales y procedimientos internos.
- ¿Qué deben presentar los proveedores?
- Los proveedores deben presentar informes de auditoría, documentación de linaje de datos, model cards o documentación técnica y planes de remediación cuando la ciudad lo solicite.
Puntos clave
- Omaha maneja el gobierno de IA a través de adquisiciones y procedimientos departamentales más que mediante una ordenanza única.
- Las auditorías de sesgo, la documentación y el monitoreo son prácticas esperadas para herramientas municipales.