Directrices de ética de IA y auditoría de sesgo para sistemas de Worcester, Massachusetts
Worcester, Massachusetts está ampliando el uso de sistemas automatizados en los servicios municipales. Esta guía explica cómo las ordenanzas municipales, las normas de contratación y las políticas departamentales se aplican a la ética de IA y a las auditorías de sesgo para los sistemas de la ciudad, dónde encontrar orientación oficial y pasos claros que los departamentos y proveedores deben seguir para reducir resultados discriminatorios y mantenerse en conformidad.
Descripción general
Este artículo revisa las autoridades municipales aplicables, los elementos típicos de una auditoría y los controles operativos para los sistemas de IA utilizados por o para la Ciudad de Worcester. Identifica las fuentes oficiales primarias a consultar y explica cómo normalmente se manejan la aplicación y los remedios bajo la práctica municipal. Para la política de TI de la ciudad y las responsabilidades departamentales consulte la página de Tecnologías de la Información[1] y para la autoridad de la ordenanza consulte el Código de Ordenanzas de Worcester[2].
Alcance y componentes clave
- Inventario de sistemas y fuentes de datos, incluidos los modelos suministrados por proveedores.
- Evaluación de riesgos documentada y casos de uso previstos.
- Procedimientos técnicos de auditoría de sesgo: muestreo de datos, métricas de equidad y análisis de errores.
- Cláusulas de contratación que requieren auditorías, fichas técnicas del modelo y planes de remediación.
- Controles de acceso, registros y funciones de supervisión.
Sanciones y aplicación
La Ciudad de Worcester no publica actualmente una ordenanza específica sobre IA con multas monetarias definidas en las páginas municipales citadas; las multas monetarias concretas por violaciones relacionadas con IA no están especificadas en la página citada[2]. La aplicación normalmente sigue los procedimientos de cumplimiento del código municipal existente o los remedios contractuales.
Elementos y procedimientos típicos de aplicación (según se aplican en contextos municipales):
- Investigaciones iniciadas por el departamento responsable (a menudo Tecnologías de la Información, Contratación o la Oficina del Asesor Jurídico de la Ciudad).
- Remedios civiles mediante la terminación de contratos, periodos de subsanación del proveedor, medidas cautelares o acciones en tribunales municipales cuando exista autoridad.
- Multas monetarias y sanciones: no especificadas en la página citada; consulte la ordenanza o la cláusula contractual aplicable para montos y sanciones diarias[2].
- Vías de denuncia e inspección: presente quejas ante el departamento responsable, el contacto de Tecnologías de la Información o el City Clerk según corresponda.
Apelaciones, plazos y defensas
- Las apelaciones y audiencias suelen seguir los procesos de apelación administrativa municipal; los plazos y rutas de apelación específicos no están especificados en la página citada y varían según la ordenanza o el contrato[2].
- Defensas comunes incluyen la confianza de buena fe en la documentación del proveedor, esfuerzos activos de remediación y exenciones o permisos autorizados.
- Los departamentos pueden usar medidas discrecionales de mitigación como planes de acción correctiva antes de imponer sanciones.
Solicitudes y formularios
No hay un formulario municipal específico publicado para auditorías de ética de IA o remediación de sesgos en las páginas citadas; los departamentos suelen usar informes de cumplimiento de contratación o plantillas internas de auditoría proporcionadas por Tecnologías de la Información o Contratación[1].
Pasos de acción para departamentos y proveedores
- Inventar los sistemas desplegados y documentar el origen de los datos y los puntos de decisión.
- Realizar una auditoría de sesgo documentada usando muestras representativas y publicar un plan de remediación.
- Modificar contratos de adquisición para exigir fichas técnicas del modelo, derechos de auditoría y certificación de pruebas de equidad.
- Mantener registros y bitácoras suficientes para revisión y apelaciones conforme a las políticas de retención de registros.
Preguntas frecuentes
- ¿Quién aplica las normas relacionadas con IA para los sistemas de la ciudad de Worcester?
- El Departamento de Tecnologías de la Información, Contratación y el Asesor Jurídico de la Ciudad suelen coordinar la aplicación; la autoridad exacta depende de la ordenanza o el contrato y no está especificada en las páginas citadas[1][2].
- ¿Existen multas establecidas por violaciones de sesgo de IA?
- No hay un calendario de multas específico para IA publicado en las páginas municipales citadas; las sanciones monetarias dependen de la ordenanza aplicable o los remedios contractuales y no están especificadas en la página citada[2].
- ¿Cómo puedo reportar una preocupación sobre un sistema de IA municipal?
- Reporte preocupaciones al departamento que opera el sistema, al contacto de ayuda de Tecnologías de la Información o presente una queja ante el City Clerk según corresponda.
Cómo hacer
- Reúna un equipo interdisciplinario que incluya TI, legal, contratación y personal del programa.
- Genere un inventario de los sistemas afectados y obtenga la documentación del modelo de los proveedores.
- Realice una auditoría de sesgo: defina métricas, pruebe con datos representativos y documente los resultados.
- Implemente acciones de remediación y actualice las políticas de contratación o uso para evitar recurrencias.
- Monitoree el desempeño y programe reauditorías periódicas y reportes públicos cuando sean requeridos.
Ayuda y apoyo / Recursos
- City of Worcester - Information Technology
- City of Worcester - City Clerk
- Worcester Code of Ordinances (Municode)