Directrices de ética de IA y requisitos de auditoría de sesgos en Columbus, Ohio para agencias
Las agencias de Columbus, Ohio que usan sistemas de decisión automatizados deben ajustarse a las normas municipales, las políticas departamentales y las expectativas de transparencia al desplegar IA. Esta guía resume lo que está documentado públicamente para las agencias de la ciudad, explica las vías probables de aplicación y lista pasos prácticos para el cumplimiento, la presentación de informes y las apelaciones para implementaciones municipales en Columbus.
Alcance y aplicabilidad
Las agencias de la ciudad, los contratistas y los proveedores que crean u operan sistemas algorítmicos para programas públicos deben evaluar los requisitos según el Código de Ordenanzas de Columbus y las políticas departamentales aplicables. Cuando no exista una ordenanza específica sobre IA, las agencias dependen de las reglas de contratación, las políticas de privacidad y uso de datos, y la supervisión del Departamento de Tecnología y del Fiscal de la Ciudad para aprobaciones y revisiones. Consulte el Código de Ordenanzas de Columbus y la orientación departamental para detalles sobre autoridad y responsabilidades: Columbus Code of Ordinances[1] y City Department of Technology policies[2].
Requisitos clave para las agencias
- Adoptar o documentar una directriz interna de ética de IA o una lista de verificación que aborde mitigación de sesgos, procedencia de datos y transparencia.
- Realizar una auditoría de sesgos o una evaluación de impacto para sistemas que afecten vivienda, beneficios, seguridad pública, empleo o licencias.
- Mantener registros de conjuntos de datos, versiones de modelos, resultados de pruebas y pasos de mitigación por un período de retención definido de acuerdo con las reglas de registros de la ciudad.
- Proporcionar un aviso público o una declaración de transparencia cuando las decisiones automatizadas afecten de forma material a los residentes.
- Asegurar que los contratos de adquisición incluyan derechos de auditoría, remedios por resultados discriminatorios y requisitos de documentación por parte del proveedor.
Sanciones y aplicación
Actualmente, las multas concretas o sanciones normativas a nivel de ordenanza para la ética de IA o el incumplimiento de auditorías de sesgo no están enumeradas en las páginas principales del código municipal de Columbus ni en las páginas de políticas departamentales citadas arriba; cuando faltan montos o procedimientos en las páginas oficiales, esta guía indica "not specified on the cited page" y señala las oficinas encargadas. La aplicación suele seguir violaciones del código existentes, remedios contractuales o revisiones administrativas en lugar de un calendario de sanciones específico para IA.
- Multas monetarias: not specified on the cited page; consulte el Código de Columbus o la legislación promulgada para cualquier multa específica de la ordenanza.[1]
- Escalamiento: los rangos para infracciones primeras y reiteradas no están especificados en las páginas citadas; las agencias pueden enfrentar órdenes correctivas, sanciones contractuales o remisión al Fiscal de la Ciudad.
- Sanciones no monetarias: órdenes correctivas, suspensión de implementaciones, terminación de contratos, acciones judiciales o medidas cautelares iniciadas por el Fiscal de la Ciudad.
- Agentes de aplicación y vías de denuncia: Departamento de Tecnología para el cumplimiento de políticas técnicas y el Fiscal de la Ciudad o el Concejo Municipal para la aplicación legal; informe problemas a través de canales oficiales como 311 o formularios departamentales.
- Apelaciones y revisión: las rutas de apelación se gestionan conforme a procedimientos administrativos o contractuales estándar; los plazos específicos no están especificados en las páginas citadas y deben confirmarse con la oficina correspondiente o el lenguaje contractual.
Solicitudes y formularios
El código municipal y las páginas del Departamento de Tecnología no publican un formulario estándar de "auditoría de IA". Las agencias deben usar los formularios existentes de contratación y solicitudes de TI y anexar los informes de auditoría de sesgos y las evaluaciones de impacto a los expedientes del proyecto. Para denuncias formales o ejecución del código, use 311 o los canales de recepción del Fiscal de la Ciudad (ver Recursos). Cuando exista un formulario nombrado o un número de presentación, aparecerá en las páginas departamentales o del código citadas; actualmente no se publica un formulario de auditoría de IA a nivel municipal en esas páginas.
Cómo realizar una auditoría de sesgos
Los pasos organizativos recomendados se alinean con los requisitos municipales comunes: establecer gobernanza, documentar conjuntos de datos, ejecutar pruebas estadísticas y de resultados, registrar mitigaciones y publicar declaraciones de transparencia cuando proceda.
- Cronograma: defina hitos de revisión y retención compatibles con las reglas de registros de la ciudad.
- Pruebas y evidencias: conserve la procedencia de datos, artefactos del modelo, scripts de prueba y registros de mitigación.
- Remediación: exigir planes de remediación del proveedor y validación antes de volver a desplegar.
FAQ
- ¿Las agencias de la ciudad de Columbus necesitan una política escrita de ética para IA?
- Se espera que las agencias sigan las políticas departamentales de TI y de contratación; se recomienda una política escrita de ética de IA específica, pero no se especifica una ordenanza municipal única en las páginas citadas.[1]
- ¿Dónde denuncio resultados discriminatorios de un sistema automatizado de la ciudad?
- Denuncie los problemas a 311 o al departamento pertinente (para asuntos técnicos o de contratación, contacte al Departamento de Tecnología o al Fiscal de la Ciudad según corresponda).
- ¿Existen sanciones estándar por no pasar una auditoría de sesgos?
- No se especifican sanciones estandarizadas para fallos específicos de IA en las páginas municipales citadas; los remedios suelen ser contractuales, administrativos o legales según la violación y la autoridad.
How-To
- Identifique el sistema y las partes interesadas; documente el propósito, las fuentes de datos y el impacto de las decisiones.
- Realice pruebas de sesgo y equidad relevantes para las poblaciones afectadas; documente la metodología y los resultados.
- Prepare pasos de mitigación y un plan de remediación; obtenga la aprobación del departamento antes de continuar con el uso.
- Publique una declaración de transparencia pública cuando las decisiones afecten de forma material a los residentes y conserve los registros de auditoría según las reglas de retención de la ciudad.
Conclusiones clave
- Revise el código de Columbus y las políticas departamentales de TI al inicio del proyecto.
- Realice y conserve auditorías de sesgos y exija derechos de auditoría en los contratos con proveedores.
- Informe problemas a través de 311 y consulte con el Departamento de Tecnología y el Fiscal de la Ciudad para la aplicación o preguntas legales.
Ayuda y recursos
- Columbus Code of Ordinances
- City of Columbus 311 - Reportar una inquietud
- Legislación y actas del Concejo Municipal de Columbus