Requisitos de auditoría ética y de sesgo de IA en Jacksonville
En Jacksonville, Florida, las agencias municipales y los contratistas que usan sistemas de decisión automatizados deben seguir pasos claros para auditorías de ética y sesgo para proteger a los residentes y asegurar el cumplimiento legal; consulte el código municipal para las reglas relacionadas con la contratación y adquisiciones Código de Ordenanzas de Jacksonville[1].
Ámbito y aplicación
Esta guía cubre sistemas propiedad de la ciudad, sistemas operados por o en nombre de agencias de Jacksonville y servicios contratados donde la ciudad es el controlador de datos o el tomador de decisiones. Cuando el código municipal o las normas de contratación hacen referencia a estándares tecnológicos, esas disposiciones se aplican como instrumentos de control.
Elementos requeridos de la auditoría
- Inventario de datos que documente fuentes, retención y base legal.
- Evaluación de riesgo de sesgo que mida impactos desproporcionados en grupos protegidos.
- Documentación del modelo que incluya resúmenes de datos de entrenamiento, métricas de rendimiento y pruebas de validación.
- Declaración de gobernanza que liste oficiales responsables, puntos de contacto y cronogramas de revisión.
Las auditorías deben ser proporcionales al riesgo: los sistemas de alto impacto requieren revisión técnica independiente o por terceros; las herramientas de bajo impacto pueden necesitar declaraciones internas y registros.
Sanciones y aplicación
Jacksonville no publica actualmente un programa de sanciones específico para IA en el código municipal; las multas y sanciones por incumplimiento suelen derivarse de las disposiciones existentes de contratación, contratos y cumplimiento del código y son aplicadas por las oficinas de la ciudad encargadas Contratación[2].
- Multas monetarias: no especificado en la página citada.
- Escalamiento: los rangos para primera, repetida y continuada ofensa no están especificados en la página citada.
- Sanciones no monetarias: rescisión de contrato, órdenes cautelares, auditorías correctivas o inhabilitación para futuros contratos municipales.
- Aplicadores y denuncias: Contratación, la Oficina del Asesor Jurídico y el departamento administrador manejan investigaciones y remedios; las denuncias pueden enviarse a las páginas de contacto oficiales del departamento.
- Apelaciones y revisiones: se aplican procedimientos de apelación contractual y revisiones administrativas; los plazos específicos no están especificados en la página citada.
- Defensas: la existencia de una cláusula contractual aprobada por la ciudad, una variación permitida o un esfuerzo documentado de cumplimiento de buena fe puede ser considerada.
Solicitudes y formularios
No existe un formulario único publicado por la ciudad titulado "auditoría de ética de IA"; los formularios de contratación y cumplimiento de contratos, registros de proveedores y plantillas de solicitud de aprobación se gestionan a través de Contratación y el departamento contratante y se publican en las páginas del departamento correspondiente o se facilitan durante los procesos de contratación.
Pasos de acción para agencias y proveedores
- Inventariar sistemas y clasificar el nivel de riesgo de cada sistema de decisión automatizado.
- Preparar un informe de auditoría que incluya descripciones de conjuntos de datos, pruebas de equidad y planes de mitigación.
- Presentar la documentación de cumplimiento al funcionario de contratación como parte de la supervisión del contrato.
- Atender los hallazgos con prontitud y presupuestar la remediación cuando las auditorías identifiquen sesgos materiales o riesgos legales.
Preguntas frecuentes
- ¿Quién debe realizar una auditoría de ética de IA?
- Los departamentos de la ciudad que operan o contratan sistemas de decisión automatizados y los proveedores que suministran esos sistemas deben asegurar que se completen las auditorías y la documentación requerida.
- ¿Hay sanciones establecidas por no aprobar una auditoría?
- Las multas monetarias específicas por fallos en auditorías de IA no están especificadas en las páginas municipales citadas; la aplicación se realiza mediante remedios contractuales y de contratación.
- ¿Dónde presento una denuncia sobre un sistema desplegado?
- Envíe las denuncias al departamento de la ciudad responsable y a Contratación o a la Oficina del Asesor Jurídico mediante sus páginas de contacto oficiales.
Cómo hacerlo
- Clasifique y documente el sistema por impacto y registre datos, propósito y partes interesadas.
- Realice pruebas de sesgo y rendimiento y compile los resultados en un informe de auditoría.
- Presente el informe al funcionario de contratación y conserve registros para la supervisión contractual.
- Implemente medidas de mitigación y repita las pruebas según el calendario o tras cambios materiales.
Puntos clave
- Jacksonville gestiona los riesgos de IA mediante controles contractuales y de contratación.
- Las auditorías proporcionales, la documentación y la remediación son prácticas requeridas y recomendadas.
Ayuda y soporte / Recursos
- Código de Ordenanzas de Jacksonville
- Contratación de la Ciudad
- División de Tecnología de la Información
- Oficina del Asesor Jurídico