Reglas de auditoría de ética y sesgo de IA en Grand Rapids
En Grand Rapids, Michigan, los departamentos de la ciudad que consideren o utilicen sistemas de IA deben seguir la orientación municipal y las políticas de contratación vigentes mientras se espera cualquier ordenanza específica sobre IA; revise el código municipal[1] de la Ciudad de Grand Rapids y las páginas relacionadas con políticas tecnológicas para controles y normas de adquisiciones actuales y la dirección de Tecnologías de la Información[2].
Ámbito y propósito
Esta guía describe cómo la ciudad evalúa la ética de la IA, auditorías de sesgo, transparencia, conservación de registros y responsabilidades para sistemas operados o contratados por la ciudad que tomen decisiones que afecten a residentes. Cubre funciones, recopilación de pruebas y vías de apelación cuando estén disponibles; cuando la ciudad no haya publicado un texto de ordenanza definitivo, el artículo indica cuándo no se especifican multas, plazos o formularios en las páginas citadas.
Requisitos clave para uso municipal
- Adoptar un inventario de los sistemas de IA usados por el departamento, incluyendo propósito e impacto en las decisiones.
- Realizar una evaluación inicial de riesgo de ética y sesgo antes de la adquisición o despliegue.
- Exigir auditorías periódicas de sesgo y monitorización posterior al despliegue con cronogramas documentados.
- Asegurar vías de queja y supervisión para residentes afectados, incluyendo acceso y corrección de datos.
Cuando los contratos municipales incluyan servicios de IA, las cláusulas estándar de contratación y adquisiciones deben requerir transparencia, derechos de auditoría y protección de datos consistentes con el código municipal y las políticas de TI citadas arriba.[1]
Multas y aplicación
El código municipal y las páginas tecnológicas de la ciudad referenciadas no detallan una tabla de sanciones específica para IA; montos concretos de multas y reglas de escalada no están especificados en la página citada. La aplicación del cumplimiento de políticas de contratación e información suele corresponder a los departamentos que gestionan contratos, la Oficina del City Attorney y Tecnologías de la Información o el departamento designado en las políticas individuales; cuando el código municipal contiene disposiciones de aplicación en general, se aplican según lo escrito a las violaciones contractuales y del código.[1]
- Multas: no están especificadas en la página citada para infracciones específicas de IA; consulte las disposiciones de aplicación del código municipal para sanciones generales.[1]
- Escalada: procedimientos para primera, repetida o continuada infracción no están especificados para auditorías de IA en las páginas citadas; las medidas contractuales y remedios por incumplimiento se aplican cuando se violan contratos.
- Sanciones no monetarias: órdenes de acción correctiva, suspensión o terminación de contratos, medidas judiciales que podrá emprender la Oficina del City Attorney; la incautación o bloqueo de sistemas seguiría el proceso legal correspondiente.
- Autoridad y quejas: supervisión por parte del departamento que utiliza o contrata el sistema y apoyo de Tecnologías de la Información; las quejas pueden presentarse a través de las páginas de contacto del departamento o al City Clerk cuando se alega una violación del código.
- Apelaciones y revisión: las vías de apelación se determinan por el contrato aplicable o los procedimientos del código municipal; los plazos para apelaciones no están especificados en las páginas tecnológicas citadas y deben confirmarse con la oficina encargada.
Solicitudes y formularios
No existe un formulario de la ciudad publicado específicamente titulado "auditoría de ética de IA" en las páginas citadas; los departamentos normalmente usan formularios estándar de contratación, enmienda de contrato o solicitudes de registros que se encuentran en las páginas departamentales o en la oficina del City Clerk. Para documentación requerida por auditoría o contrato, consulte el departamento de contratación o Tecnologías de la Información para obtener plantillas y métodos de envío.[2]
Pasos de acción para departamentos y residentes
- Departamentos: inventariar sistemas de IA y exigir derechos de auditoría a los proveedores en los contratos.
- Contratistas: conservar informes de auditoría de sesgo y proporcionar documentación cuando se solicite.
- Residentes: presentar quejas ante el departamento responsable de la decisión y solicitar registros al City Clerk.
Preguntas frecuentes
- ¿Ya tiene Grand Rapids una ordenanza sobre IA?
- No se ha publicado una ordenanza específica sobre IA para uso municipal en el código municipal ni en las páginas del departamento de TI citadas; la supervisión actualmente se basa en políticas de contratación y de información que figuran en esas páginas oficiales.[1]
- ¿Cómo solicito una auditoría de un sistema de IA municipal?
- Envíe una solicitud por escrito al departamento que opera el sistema y, si procede, una solicitud de registros públicos al City Clerk; los departamentos pueden tener procedimientos internos para solicitudes de auditoría descritos en sus páginas.[2]
- ¿Hay sanciones por resultados sesgados de IA?
- No se especifican sanciones concretas relacionadas con IA en las páginas citadas; los remedios pueden provenir de incumplimientos contractuales, órdenes correctivas o acciones legales según el departamento y las disposiciones del código municipal.
Cómo hacerlo
- Identifique el sistema de IA, su propósito y las poblaciones afectadas.
- Solicite o realice una evaluación documentada de sesgo y ética antes del despliegue.
- Exija informes de auditoría del proveedor y guárdelos en los registros de la ciudad.
- Implemente medidas correctivas derivadas de la auditoría y publique un resumen para transparencia.
- Si resulta perjudicado, presente una queja ante el departamento responsable y solicite registros al City Clerk.
Puntos clave
- Grand Rapids se apoya actualmente en políticas de adquisición y TI para la supervisión de IA mientras las reglas específicas siguen siendo limitadas en las páginas citadas.
- Los departamentos deben exigir auditorías de sesgo, derechos de auditoría al proveedor y conservación clara de registros para respaldar la transparencia y los remedios.
Ayuda y recursos
- Ciudad de Grand Rapids - Tecnologías de la Información
- Código de Ordenanzas de Grand Rapids
- City Clerk - Grand Rapids