Directrices de ética de IA y normas de auditoría de sesgos de Seattle
Esta guía explica la orientación municipal y las reglas exigibles sobre ética en inteligencia artificial (IA) y auditorías de sesgo en Seattle, Washington. Revisa las oficinas de la ciudad que probablemente supervisen los sistemas de decisión automatizada, los pasos de cumplimiento típicos para contratistas y departamentos municipales, y dónde informar preocupaciones. Cuando no se publiquen multas o números de sección específicos en una página municipal oficial de Seattle, el texto indica que el importe o detalle no está especificado en la página citada y remite a recursos oficiales para los instrumentos y contactos que controlan.
Alcance y oficinas responsables
La Ciudad de Seattle no publica actualmente una única norma consolidada sobre IA en el código municipal; la supervisión de sistemas algorítmicos o de decisión automatizada suele implicar varias oficinas según el uso:
- Seattle Information Technology (adquisiciones a nivel municipal, normas del sistema y políticas tecnológicas).
- Office for Civil Rights (discriminación, quejas por sesgo y revisiones de impacto en derechos civiles).
- City Attorney o Departamento Legal (interpretación legal, acciones de ejecución, solicitudes de registros).
Cuando exista una sección aplicable del código municipal se encontrará a través de los departamentos anteriores o en la legislación del consejo de la ciudad y las políticas administrativas adoptadas. Si se adopta una ordenanza de control, la oficina ejecutora será el departamento nombrado en ese instrumento.
Multas y ejecución
Seattle no ha publicado un único calendario de ejecución a nivel municipal sobre IA en una página del código municipal que enumere multas y sanciones escalonadas para sistemas de decisión automatizados; por lo tanto, no se especifican en la página citada importes concretos ni reglas de escalado. La ejecución sigue generalmente estos patrones cuando existen normas o políticas:
- Multas monetarias: no especificado en la página citada para una ordenanza municipal sobre IA; los importes dependen de la ordenanza adoptada o de los remedios contractuales.
- Sanciones no monetarias: órdenes de cese de uso, requisitos de remediación, auditorías obligatorias, suspensión de adquisiciones o contratos y recursos judiciales o medidas cautelares.
- Escalada: son habituales advertencias y órdenes de reparación en la primera infracción, con sanciones mayores o terminación del contrato por infracciones repetidas o continuas; los pasos específicos de escalado no están especificados en la página citada.
- Ejecutor: el departamento nombrado en una ordenanza adoptada (a menudo Seattle IT, Office for Civil Rights o City Attorney) hace cumplir el cumplimiento; consulte Recursos para las páginas de contacto.
- Recursos y revisión: las rutas de apelación suelen usar la revisión administrativa a través del departamento ejecutor y el King County Superior Court para la revisión judicial; los plazos legales para apelar no están especificados en la página citada y se establecerán en la ordenanza o regla administrativa que controle.
Solicitudes y formularios
En la actualidad no existe un formulario municipal único publicado titulado para la certificación de ética de IA o la presentación de auditorías de sesgo que aparezca como un formulario oficial publicado por la ciudad; si un departamento exige una divulgación, un formulario de contratación o una evaluación de impacto, se publicará en las páginas de ese departamento o en los documentos de contratación.
- Formularios publicados: no especificado en la página citada; compruebe Seattle IT, Office for Civil Rights y City Attorney para formularios específicos del departamento.
- Tasas: no especificado en la página citada; las tasas, si las hay, se establecen en la ordenanza de control o en la tarifa del departamento.
- Plazos: los plazos de contratación del departamento o de notificación aparecerán en las licitaciones de contratación o en las notificaciones de ejecución.
Pasos de cumplimiento para departamentos y contratistas
Los departamentos y proveedores que construyen o adquieren sistemas que utilizan toma de decisiones automatizada deben adoptar un proceso documentado para la revisión ética y la auditoría de sesgos:
- Realice una evaluación de impacto previa a la adquisición para identificar riesgos de privacidad y derechos civiles.
- Exija a los proveedores que entreguen informes de auditoría de sesgo, linaje de datos y documentación del modelo.
- Implemente un plan de remediación para impactos desiguales y conserve registros de correcciones y pruebas.
- Mantenga un proceso de recepción y seguimiento de quejas para preocupaciones públicas sobre decisiones algorítmicas.
FAQ
- ¿Tiene Seattle actualmente una ordenanza independiente sobre IA?
- No; en la fecha de publicación no existe una única entrada consolidada en el código municipal de Seattle titulada como una "ordenanza de IA" y no se especifican multas ni números de sección en la página citada. Consulte Recursos para las políticas administrativas y la legislación del consejo vigentes.
- ¿Cómo informo sobre sesgo algorítmico o una preocupación de discriminación?
- Presente una denuncia ante la Office for Civil Rights o contacte al departamento que desplegó el sistema; las páginas oficiales de contacto se encuentran en Recursos más abajo.
- ¿Se exige a los contratistas realizar auditorías de sesgo?
- Los requisitos contractuales dependen de los documentos de contratación; muchos contratos de la ciudad incluyen obligaciones de informe y auditoría del proveedor: revise la solicitud y la política del departamento.
How-To
- Identifique si el sistema es un sistema de decisión automatizada utilizado para servicios públicos o aplicación.
- Reúna datos, documentación del modelo y resúmenes de reglas de decisión del proveedor o del equipo de desarrollo.
- Ejecute o encargue una auditoría de sesgo independiente centrada en resultados por clases protegidas.
- Documente los pasos de remediación e implemente métricas de supervisión para controles de equidad continuos.
- Conserve registros y elabore un resumen de transparencia pública cuando lo requiera la política o los términos de contratación.
Conclusiones clave
- La supervisión de IA en Seattle abarca varios departamentos y no una única sección del código.
- Las multas y reglas de escalado específicas no están especificadas en una única página citada y dependen de ordenanzas adoptadas o contratos.
- Utilice los contactos departamentales en Recursos para presentar quejas, solicitar registros o solicitar orientación sobre ejecución.
Ayuda y soporte / Recursos
- Seattle Information Technology - Policies and Procurement
- Seattle Office for Civil Rights - Complaint Intake
- Seattle City Attorney - Legal and Records