Boston Ética de IA y Pasos de Auditoría de Sesgo - Directrices Municipales

Introducción

Boston, Massachusetts agencias usan cada vez más inteligencia artificial y sistemas automatizados. Esta guía explica pasos prácticos para adoptar directrices de ética de IA, realizar auditorías de sesgo, documentar el cumplimiento y seguir las vías de supervisión municipal en el gobierno de la ciudad de Boston. Resume fuentes oficiales, identifica oficinas responsables y enumera acciones que las agencias pueden tomar para reducir daños algorítmicos mientras se alinean con las reglas y la supervisión municipales.

Alcance y Definiciones Clave

Este artículo aborda la política municipal y los pasos de cumplimiento aplicables a las agencias y departamentos de Boston, enfocándose en principios de ética, auditorías de sesgo, documentación, supervisión y vías de denuncia. Cuando no se encuentra una ordenanza vinculante específica sobre IA, se citan las autoridades y códigos municipales más cercanos aplicables para procedimiento y cumplimiento. Para el texto autorizado del derecho municipal de Boston consulte el código de la ciudad y las páginas departamentales citadas abajo library.municode.com^[1] y la oficina de tecnología y datos de la Ciudad de Boston boston.gov - Innovation and Technology^[2].

Directrices recomendadas de ética de IA para agencias

Las agencias deben adoptar una política escrita de ética de IA que cubra transparencia, supervisión humana, equidad, gobernanza de datos y responsabilidad. Las secciones recomendadas incluyen clasificación de riesgo, documentación, pruebas previas al despliegue, controles de acceso y monitoreo posterior al despliegue. Las agencias deberían publicar resúmenes de evaluaciones de impacto y designar un responsable de gobernanza de IA.

• Mantener un inventario de IA con sistemas, propósito, entradas, salidas y responsables.
• Realizar evaluaciones documentadas de riesgo de sesgo antes de la adquisición o despliegue.
• Crear fichas de modelo y registros de procedencia de datos para cada sistema.
• Implementar controles con intervención humana para decisiones de alto riesgo.
• Programar auditorías posteriores al despliegue y ciclos de informes públicos.

Pasos de Auditoría de Sesgo (Prácticos)

Siga un proceso por etapas para la auditoría: delimitación, evaluación de datos, pruebas algorítmicas, remediación y monitoreo. Incluya partes interesadas, revisores externos cuando proceda, y criterios claros de aceptación. Documente hallazgos y remedios en un resumen público coherente con los compromisos de transparencia.

1. Definir alcance, partes interesadas y contexto decisional.
2. Recolectar conjuntos de datos, procedimientos de etiquetado y registros de entrenamiento.
3. Realizar pruebas estadísticas para impacto dispar y disparidades en tasas de error.
4. Registrar pasos de remediación, retreinar o ajustar umbrales según sea necesario.
5. Establecer métricas de monitoreo y publicar un resumen de auditoría.

Sanciones y Aplicación

Según el código municipal citado y la orientación departamental, no existe una ordenanza independiente de la ciudad de Boston que establezca multas específicas o sanciones estatutarias exclusivamente por incumplimiento de ética de IA; la aplicación suele seguir las estructuras de ejecución municipales existentes para adquisiciones, privacidad y discriminación cuando corresponda. Cuando se aplica una cantidad o calendario de multas a conducta regulada, se describe en las páginas oficiales citadas o no está especificado en la página citada. Esta sección resume las vías probables de ejecución y lo que figura en las fuentes oficiales.

• Importes de multas: no especificado en las páginas del código municipal citadas para infracciones específicas de IA; consulte el código municipal para multas relacionadas con asuntos regulados específicos.^[1]
• Escalada: no especificada para incumplimientos de IA; la aplicación municipal general puede escalar desde avisos hasta sanciones o medidas cautelares según la norma subyacente.^[1]
• Sanciones no monetarias: órdenes correctivas, mandatos de auditoría, terminación de contratos, inhabilitación en compras o acciones judiciales pueden ser remedios bajo normas municipales más amplias; no se listan sanciones específicas de IA en las páginas citadas.
• Responsable y denuncias: la ejecución o revisión puede implicar al departamento propietario del programa, Inspectional Services para cuestiones de código regulado, el City Clerk para asuntos legislativos, o la oficina de innovación y tecnología de la ciudad para supervisión de datos y sistemas. El público puede usar las páginas oficiales de contacto del departamento para reportar preocupaciones.^[2]
• Apelaciones y revisión: las vías de apelación dependen del instrumento de ejecución subyacente; los plazos para apelaciones no están especificados para asuntos específicos de IA en las páginas citadas y seguirán las reglas procesales del departamento emisor o tribunal.

Solicitudes y Formularios

No hay un formulario municipal específico publicado para la certificación de ética de IA o auditorías de sesgo en las páginas oficiales citadas; las agencias deben seguir los procedimientos existentes de adquisiciones, supervisión de proveedores y publicación de registros referenciados por las oficinas de TI y adquisiciones de la ciudad. Si un departamento publica una plantilla de evaluación de impacto o formulario, aparecerá enlazado en la página oficial de ese departamento.^[2]

Pasos de Acción para Agencias de Boston

• Adoptar una política escrita de ética de IA y designar un responsable accountable.
• Crear y publicar una breve evaluación de impacto algorítmico para cada sistema de cara al público.
• Programar una auditoría de sesgo inicial dentro de los plazos de adquisición o piloto.
• Ofrecer un contacto público para denuncias y un cronograma claro de remediación.

FAQ

¿Boston tiene una ley municipal vinculante sobre IA?

No se ha encontrado una ordenanza municipal dedicada a la ética de IA en las páginas del código municipal citadas; las agencias deben seguir las normas existentes sobre adquisiciones, privacidad, antidiscriminación y registros según corresponda.^[1]

¿Cómo reporto daños causados por una decisión automatizada de una agencia de Boston?

Reporte las preocupaciones a la agencia que opera el sistema mediante su contacto oficial o página de quejas; para violaciones en adquisiciones o regulatorias contacte al City Clerk o a Inspectional Services según corresponda.^[2]

¿Existen plantillas oficiales para evaluaciones de impacto algorítmico?

No hay una plantilla estandarizada publicada a nivel de ciudad en las páginas citadas; consulte la orientación del departamento y la oficina de tecnología de la ciudad para recursos disponibles.^[2]

Cómo Hacer

1. Inventariar sistemas y clasificar riesgo: listar sistemas, responsables y nivel de riesgo.
2. Realizar evaluaciones de datos y sesgo: examinar datos de entrenamiento, etiquetas y resultados.
3. Remediar: retreinar, ajustar umbrales o eliminar características sesgadas.
4. Monitorear y publicar: establecer métricas, monitorizar después del despliegue y publicar resúmenes.
5. Responder a denuncias: documentar pasos, cronogramas y derechos de apelación.

Puntos Clave

• Comience con un inventario y clasificación de riesgo para hacer factibles las auditorías.
• Documente auditorías y remediaciones para respaldar transparencia y responsabilidad.

Ayuda y Recursos

• City Clerk - Legislación y Ordenanzas
• Inspectional Services Department (ISD)
• Innovation and Technology - Datos y Sistemas

1. [1] library.municode.com - City of Boston Code of Ordinances (municipal code)
2. [2] boston.gov - Innovation and Technology Department