Directrices éticas de IA y política de auditoría de sesgo en Anaheim

Anaheim, California está utilizando cada vez más sistemas automatizados en los servicios municipales. Esta guía explica cómo la ciudad aborda actualmente la ética de la IA, las auditorías de sesgo, la supervisión, la presentación de informes y los recursos para residentes y contratistas, y dónde encontrar las referencias del código y las políticas municipales pertinentes^[1].

Alcance y Aplicabilidad

Esta guía se aplica a los sistemas de decisión automatizada y las herramientas algorítmicas utilizadas, adquiridas u operadas por los departamentos de Anaheim para servicios públicos, permisos, licencias, cumplimiento o información destinada al público. Cubre expectativas para el diseño ético, las revisiones de proveedores externos y las prácticas de auditoría que la ciudad puede exigir cuando un sistema afecta de forma material a residentes o partes reguladas.

Principios clave para el uso municipal

• Implementar supervisión y revisión humana cuando las decisiones automatizadas afecten derechos legales o resultados de permisos.
• Exigir procedencia de datos documentada, registros de entrenamiento y métricas de rendimiento a los proveedores.
• Mandar informes de auditoría de sesgo y medidas correctivas antes del despliegue para sistemas de alto riesgo.
• Priorizar explicaciones transparentes sobre el propósito del modelo, sus limitaciones y las vías de apelación para las personas afectadas.

Sanciones y Aplicación

Según las fuentes municipales citadas, Anaheim aún no publica una ordenanza municipal independiente que establezca multas o sanciones específicas exclusivamente para incumplimientos de ética de IA; la aplicación aplicable se rige por las secciones existentes del código municipal y los recursos contractuales cuando están especificados^[1]. Cuando las obligaciones relacionadas con la IA se incluyen en contratos o políticas, la aplicación normalmente sigue los recursos del contrato, las reglas de descalificación en adquisiciones o los mecanismos de ejecución del código municipal existentes.

• Multas monetarias: no especificado en la página citada; las sanciones monetarias serían las previstas por el código aplicable o el contrato individual.
• Escalada: incumplimientos iniciales, repetidos y continuos los determina el código u los términos del contrato y no están especificados en la página citada.
• Sanciones no monetarias: retiro del sistema del servicio, auditorías correctivas, terminación del contrato, órdenes cautelares o remisión a los tribunales cuando esté autorizado.
• Ente aplicador: liderazgo departamental, el City Attorney, la oficina de adquisiciones/contratos o un oficial de cumplimiento designado según el instrumento.
• Vías de inspección y queja: las quejas se tramitan mediante los procedimientos departamentales o el City Clerk; consulte la sección de Ayuda y Recursos más abajo para contactos oficiales.
• Apelaciones y revisiones: las rutas de apelación siguen la ordenanza subyacente o el proceso de resolución de disputas del contrato; los plazos específicos no están especificados en la página citada y variarán según la sección del código o la cláusula contractual.
• Defensas y discreción: pueden aplicarse defensas como la confianza de buena fe en las divulgaciones del proveedor, permisos existentes o variaciones aprobadas; los estándares exactos no están especificados en la página citada.

Solicitudes y Formularios

No se publica en la página citada un formulario municipal específico de Anaheim para auditorías de ética de IA o informes de sesgo; cuando se requiere, los entregables de auditoría de sesgo suelen presentarse como parte de los entregables del contrato de adquisición o informes de cumplimiento al departamento contratante^[1].

Violaciones comunes

• Desplegar un sistema automatizado sin la revisión de adquisiciones o evaluación de impacto de privacidad requerida.
• No proporcionar documentación de auditoría de sesgo o medidas correctivas tras identificar un impacto dispar.
• Divulgaciones inexactas o incompletas sobre el alcance, los datos o el uso del sistema a los residentes afectados.

Pasos para actuar

• Residentes: reporte preocupaciones al departamento correspondiente o al City Clerk con una descripción clara del sistema, la fecha y el efecto.
• Proveedores: comprométase contractualmente a auditorías de sesgo y registros; conserve registros de datos de entrenamiento y evaluaciones de modelos.
• Departamentos: exija auditorías independientes de terceros para sistemas de alto riesgo y publique resúmenes de los hallazgos cuando sea factible.

FAQ

¿Tiene Anaheim una ordenanza municipal que regule específicamente la ética de la IA y las auditorías de sesgo?

No; Anaheim no publica una ordenanza municipal independiente sobre ética de la IA en la fuente oficial citada, y las obligaciones específicas se implementan mediante contratos de adquisición, políticas departamentales o secciones existentes del código municipal^[1].

¿Cómo puedo reportar un sesgo en un sistema automatizado de la ciudad?

Reporte al departamento que opera el sistema o presente una queja ante el City Clerk; incluya detalles del sistema, fechas e información de contacto para seguimiento.

¿Se requieren auditorías de sesgo para proveedores que trabajan con Anaheim?

Las auditorías de sesgo pueden ser requeridas como parte de contratos de adquisición para sistemas que afectan materialmente a los residentes, pero las fuentes citadas no listan un formulario universal ni un protocolo obligatorio a nivel municipal.

How-To

1. Identifique el sistema: anote nombre, proveedor si lo conoce, fecha y efecto de la decisión.
2. Contacte al departamento operador: envíe una queja escrita o consulta con documentación y solicite información sobre auditorías o revisiones.
3. Solicite acciones correctivas: pida una revisión interna, una auditoría de sesgo independiente o una revisión humana del resultado.
4. Si no se resuelve, escale: presente una queja formal ante el City Clerk o siga la resolución de disputas prevista en la ordenanza o el contrato aplicable.

Puntos clave

• Anaheim gestiona riesgos de IA mediante adquisiciones, contratos y el código existente, no mediante una sola ordenanza específica por ahora.
• Proveedores deben comprometerse contractualmente a auditorías de sesgo y residentes deben documentar y reportar daños sospechados.

Ayuda y recursos

• Código municipal de Anaheim - Código de ordenanzas
• City Clerk - Quejas y registros
• Departamento de Planning and Building
• Servicios de Información / TI

1. [1] Anaheim Municipal Code - Code of Ordinances