Requisitos de ética de IA y auditoría de sesgos en El Paso
El Paso, Texas agencias que usan sistemas de decisión automatizados deben adoptar prácticas claras de ética y auditoría de sesgos para proteger a los residentes y asegurar adquisiciones y operación responsables. Esta guía resume las fuentes municipales disponibles, vías de cumplimiento y pasos prácticos para departamentos de la ciudad, proveedores y partes interesadas para cumplir con expectativas de transparencia, pruebas y documentación para sistemas de IA.
Alcance y definiciones clave
Este artículo aborda: adquisición y uso de sistemas de decisión automatizados, auditorías de sesgo algorítmico, gobernanza de datos, documentación y transparencia, y responsabilidades departamentales dentro de las operaciones municipales de El Paso. "Sistema de decisión automatizado" se refiere a software que recopila, procesa o modela datos para tomar o apoyar decisiones que afecten a los residentes.
Normas, políticas y fuentes oficiales
Hasta la publicación, el código municipal consolidado de la Ciudad de El Paso y su departamento de Tecnologías de la Información publican reglas de contratación y gobernanza de TI; no se encontró texto independiente específico sobre IA en las páginas municipales citadas y, por tanto, no está especificado en la página citada en cuanto a multas o intervalos obligatorios de auditoría.[1] Las páginas de política de TI de la ciudad describen seguridad, supervisión de adquisiciones y conservación de registros como los instrumentos de gobernanza que controlan las adquisiciones tecnológicas.[2]
Sanciones y ejecución
El Paso no parece publicar un calendario de sanciones separado específico para la ética de IA o incumplimiento de auditoría de sesgos en las páginas municipales citadas; las multas monetarias y las reglas de escalada no están especificadas en la página citada y deben obtenerse de las disposiciones de contratación o del código municipal que correspondan.[1]
- Multas: no especificadas en la página citada para incumplimientos específicos de IA; consulte las secciones de contratación y el código municipal para remedios contractuales generales.[1]
- Escalada: la escalada por primera/reincidencia/ofensas continuas para contratos tecnológicos no está especificada en la página citada y se rige por cláusulas de terminación y remedios contractuales en las normas de contratación de la ciudad.[1]
- Sanciones no monetarias: órdenes de cesar uso, suspensión o terminación de contrato, auditorías correctivas obligatorias y posible litigio o medidas cautelares pueden aplicarse; directivas específicas de IA no están publicadas en la página citada.[1]
- Ejecutor: Servicios de Tecnología / Tecnologías de la Información con Compras y la Oficina del Abogado de la Ciudad supervisan; las quejas y asuntos de cumplimiento se envían por las vías de contacto oficiales del departamento.[2]
- Inspección y vías de queja: las revisiones de cumplimiento a nivel departamental y las quejas formales siguen los procedimientos de contratación y reporte de TI según lo listado en las páginas oficiales de la ciudad.[2]
Solicitudes y formularios
No se publicó en las páginas citadas un formulario municipal dedicado a la certificación de ética de IA o a auditorías de sesgo; los proveedores y departamentos deben usar los formularios estándar de presentación de adquisiciones y cuestionarios de seguridad de TI y anotar en las respuestas cualquier documentación de modelos o informes de auditoría de terceros disponibles.[2]
Pasos de cumplimiento para departamentos y proveedores
- Documentar el propósito del modelo, fuentes de datos, métodos de entrenamiento/validación y limitaciones conocidas antes de la adquisición.
- Requerir o producir un informe de auditoría de sesgo que muestre pruebas de pruebas entre clases protegidas cuando corresponda.
- Programar reevaluaciones periódicas alineadas con hitos del contrato o actualizaciones importantes del modelo.
- Implementar controles de acceso, registro de actividades y un plan de reversión en caso de daños identificados.
Infracciones comunes y remedios típicos
- Uso de modelos no probados en decisiones operativas sin divulgación o auditoría — remedio: suspender el uso y exigir auditoría correctiva (detalles no especificados en la página citada).[1]
- Falta de conservación de documentación y registros de pruebas — remedio: órdenes administrativas para producir registros y posibles sanciones contractuales según las reglas de contratación.[2]
- Adquisición de sistemas sin evaluaciones de impacto de privacidad — remedio: exigir evaluación e implementación de medidas; multas específicas no están publicadas en la página citada.[1]
Preguntas frecuentes
- ¿Tiene El Paso una ordenanza independiente sobre IA que requiera auditorías de sesgo?
- No se encontró como ordenanza independiente en las páginas municipales citadas; la gobernanza actual parece apoyarse en instrumentos de contratación y políticas de TI.
- ¿Quién hace cumplir el cumplimiento de IA para los sistemas de la ciudad?
- Servicios de Tecnología / Tecnologías de la Información junto con Compras y la Oficina del Abogado de la Ciudad supervisan el cumplimiento y los remedios contractuales.
- ¿Dónde presentan los proveedores informes de auditoría o quejas?
- Los proveedores siguen las rutas de presentación en las solicitudes de contratación y cuestionarios de adquisición de TI; las quejas se canalizan a través de los contactos departamentales oficiales.
Cómo hacerlo
- Inventario: Cree un inventario de sistemas de decisión automatizados en uso, indicando propósito y poblaciones afectadas.
- Evaluar: Realice una evaluación de impacto de sesgo y privacidad antes del despliegue y documente métodos y fuentes de datos.
- Auditar: Encargue o realice pruebas técnicas de auditoría de sesgo y registre métricas y pasos de mitigación.
- Contratar: Incluya cláusulas de auditoría, transparencia y remediación en los contratos de adquisición y supervise el cumplimiento.
Resumen clave
- El Paso se apoya en normas de adquisición y gobernanza de TI; no se localizaron multas específicas por IA en las páginas citadas.
- Los departamentos y proveedores deben documentar, auditar y contractualizar obligaciones de auditoría y mitigación.
Ayuda y recursos
- City of El Paso - Procurement Division
- City of El Paso - Information Technology / Technology Services
- El Paso Municipal Code (Municode)