Requisitos de auditoría de ética y sesgo de IA de la ciudad de Omaha
Omaha, Nebraska, las agencias públicas utilizan cada vez más herramientas impulsadas por IA. Esta guía explica lo que dicen actualmente las normas municipales, las reglas de contratación y las vías de supervisión sobre auditorías de ética y sesgo para herramientas municipales, dónde solicitar revisiones y cómo documentar el cumplimiento.
Ámbito y autoridades aplicables
No se localizó una ordenanza municipal específica de Omaha titulada para auditorías de IA; la supervisión suele fluir a través del código de la Ciudad de Omaha, las reglas de contratación y las políticas tecnológicas departamentales. Para contratos y compras de la ciudad, la contratación y el cumplimiento del proveedor son puntos de control principales.[1] Para obligaciones vinculadas a contratos, el lenguaje de la política de contratación y los términos contractuales rigen los derechos de auditoría y los requisitos de informe.[2]
Sanciones y aplicación
Dado que no se encontró una ordenanza discreta de Omaha específica para auditorías de IA en las páginas del código de la ciudad, las multas monetarias y la escalada por incumplimiento de auditoría de IA no están especificadas en la página citada.[1] La aplicación de infracciones relacionadas con la contratación la gestiona la División de Adquisiciones del Departamento de Finanzas, y para el cumplimiento operativo la oficina de Tecnología/IT o la dirección departamental pertinente implementaría remedios contractuales o acciones correctivas.[2]
- Multas: no especificadas en la página citada; las sanciones monetarias dependen de los términos del contrato o del texto de una ordenanza específica.[1]
- Escalada: primera frente a repetidas infracciones no especificado en la página citada; espere períodos de subsanación en el contrato y remedios progresivos.
- Sanciones no monetarias: órdenes correctivas, suspensión de contratos, inhabilitación, medidas cautelares o terminación de acuerdos son posibles bajo las reglas de contratación.[2]
- Aplicador: la División de Adquisiciones del Departamento de Finanzas y los líderes de TI/tecnología departamentales gestionan investigaciones y pasos de cumplimiento.[2]
Solicitudes y formularios
La ciudad no publica un formulario público estandarizado de "solicitud de auditoría de IA"; las solicitudes de revisión de contratos o evaluaciones técnicas se realizan normalmente a través de la contratación o el departamento que adquiere el servicio. Para revisiones iniciadas por contratación, utilice los canales de cumplimiento de proveedores o contratos que figuran en la página de la División de Adquisiciones.[2]
Documentación requerida y elementos de auditoría
Cuando la ciudad solicita o requiere una auditoría de ética o sesgo de IA, los elementos documentales típicos incluyen:
- Descripción del modelo y resumen de la arquitectura.
- Conjuntos de datos y declaraciones de procedencia de datos.
- Resultados de pruebas de sesgo, métricas de equidad y pasos de mitigación.
- Fechas de auditoría, versionado y calendarios de pruebas repetidas.
- Registros de cambios para actualizaciones del modelo y notas de despliegue.
Pasos de acción para proveedores y departamentos
- Antes de la contratación, incluya cláusulas de auditoría y transparencia en los contratos.
- Realice y documente pruebas de sesgo y equidad y mantenga registros reproducibles.
- Reporte inquietudes o solicite orientación a la División de Adquisiciones o a TI al inicio del ciclo de contratación.[2]
- Si hay disputa, siga los procedimientos de resolución de disputas y apelación especificados en el contrato o en el código municipal.
Infracciones comunes
- Omitir divulgar la procedencia de los datos de entrenamiento.
- Pruebas de sesgo ausentes o insuficientes.
- Falta de derechos contractuales de auditoría o negativa a permitir revisiones de terceros.
FAQ
- ¿Tiene Omaha una ordenanza específica sobre auditorías de IA?
- No se localizó una ordenanza municipal específica titulada para auditorías de IA en las páginas del código de la ciudad; la supervisión generalmente se realiza a través de la contratación y la política departamental. [1]
- ¿Quién aplica el cumplimiento de auditorías y contratos?
- La División de Adquisiciones del Departamento de Finanzas aplica los términos de contratación; TI departamental o los gerentes de programa gestionan el cumplimiento operativo. [2]
- ¿Cómo solicito una revisión de una herramienta de IA?
- Envíe una solicitud al departamento contratante o a los canales de contacto de la División de Adquisiciones; incluya documentación del modelo y artefactos de pruebas. [2]
How-To
- Identifique el departamento contratante o el responsable del contrato y recopile la documentación de la herramienta de IA.
- Contacte a la División de Adquisiciones del Departamento de Finanzas o a TI del departamento para solicitar una revisión y proporcione evidencia de las pruebas de sesgo.[2]
- Proporcione registros, procedencia de conjuntos de datos y pasos de mitigación; acuerde un cronograma para la auditoría interna o de terceros.
- Implemente las mitigaciones requeridas y actualice los entregables contractuales o los materiales de capacitación según lo indicado.
Conclusiones clave
- Omaha depende de la contratación y las políticas departamentales más que de una ordenanza con nombre sobre auditorías de IA.
- Los términos contractuales y las cláusulas de transparencia son los mecanismos principales para asegurar auditorías y remedios.
Ayuda y soporte / Recursos
- Finance Department - Procurement Division
- City of Omaha Code of Ordinances
- City of Omaha Information Technology
- City of Omaha Open Data