Política de ética de IA de la ciudad de Corona y auditorías de sesgo
Corona, California está adoptando prácticas para garantizar que el uso municipal de la inteligencia artificial sea transparente, justo y responsable. Esta guía explica qué puede cubrir una política de ética de IA a nivel municipal y un programa de auditoría de sesgo para las herramientas municipales de Corona, quién haría cumplir las normas, qué sanciones o remedios pueden aplicarse y cómo los residentes y el personal pueden reportar inquietudes o solicitar revisiones. Sintetiza la autoridad local aplicable y la práctica administrativa y señala las fuentes oficiales principales que la ciudad utiliza para publicar códigos, políticas departamentales y normas de contratación.
Alcance y base legal
La autoridad de la ciudad para gobernar los sistemas de TI municipales y la contratación suele descansar en el código municipal y las políticas administrativas que delegan responsabilidades al city manager, a los jefes de departamento y a las oficinas de adquisiciones o TI. El código municipal de Corona establece el marco regulatorio de la ciudad para ordenanzas locales y la autoridad administrativa delegada [1]. Las políticas departamentales, incluidas las normas de Tecnologías de la Información y las reglas de contratación, son fuentes operativas sobre cómo se implementan las auditorías y los controles técnicos [2][3].
Sanciones y cumplimiento
Corona aún no publica una ordenanza municipal única que establezca multas específicas por el uso indebido de herramientas de IA o por el incumplimiento de auditorías de sesgo obligatorias; las multas y los remedios dependen de la ordenanza habilitante, los términos del contrato o las sanciones administrativasreferidas en el código municipal o los documentos contractuales. Cuando no se proporcionan montos numéricos en las páginas citadas, esta guía indica que "no se especifica en la página citada" y apunta a las fuentes de control para la autoridad de ejecución [1].
- Multas: los importes monetarios para infracciones no se especifican en las páginas del código municipal citadas; consulte el código municipal y el lenguaje contractual para cualquier multa listada [1].
- Escalada: el código municipal y las reglas administrativas no especifican un calendario uniforme de primera/reincidencia/continuación para asuntos específicos de IA; la escalada suele seguir procedimientos de incumplimiento de contrato o reglas generales de cumplimiento del código [1].
- Sanciones no monetarias: los remedios comunes incluyen órdenes de suspensión de trabajo, terminación de contrato, planes de acción correctiva, retirada de la herramienta del servicio y remisión a tribunales civiles o penales si se invocan otras leyes; los remedios específicos dependen del contrato u ordenanza (no se especifica en la página citada) [1].
- Enactor y denuncias: las oficinas ejecutoras típicas son el City Manager, el Departamento de Tecnologías de la Información, Compras/Finanzas y Cumplimiento de Ordenanzas para infracciones de reglas municipales; utilice las páginas oficiales de contacto o denuncia departamentales para reportar inquietudes [2][3].
- Apelaciones y revisión: las vías de apelación generalmente siguen los procedimientos de apelación administrativa en el código municipal o las cláusulas de resolución de disputas del contrato; los plazos específicos no se especifican en las páginas citadas y deben verificarse en la ordenanza, contrato o política administrativa aplicable [1].
- Defensas y discreción: los funcionarios mantienen autoridad discrecional para permitir variaciones, planes de mitigación o aprobaciones condicionales; términos como "excusa razonable" o defensas basadas en permisos se rigen por el código subyacente o el contrato y no se especifican en las páginas citadas [1].
Solicitudes y formularios
La ciudad no publica un formulario estandarizado único de "auditoría de IA" en las páginas citadas; los requisitos de auditoría suelen estar integrados en documentos de contratación, entregables contractuales o políticas departamentales. Para el lenguaje de contratación y formularios, consulte la página de Compras de Finanzas y la guía departamental de TI para instrucciones de envío y formularios [3][2].
Implementación de una política de ética de IA
Los elementos clave de una política municipal de ética de IA incluyen alcance y aplicabilidad, gobernanza de datos, transparencia y aviso, requisitos de auditoría de sesgo, cláusulas de contratación con terceros, roles y responsabilidades, reporte de incidentes y un proceso de reparación. Los departamentos deberían complementar el texto de la política con normas técnicas y lenguaje de contratación que exijan auditorías independientes de sesgo y declaraciones de los proveedores.
- Alcance de la política: defina qué sistemas y proveedores están cubiertos y enumere los usos exentos o las excepciones de emergencia.
- Controles técnicos: exija registro de actividades, control de versiones, pruebas y documentación de datos de entrenamiento y parámetros del modelo.
- Cláusulas de contratación: incluya derechos de auditoría, requisitos de certificación y obligaciones de remediación en los contratos.
- Auditorías independientes: exija auditorías periódicas por terceros y revisiones internas regulares.
Cómo usar esta guía
- Revise el código municipal y las políticas departamentales para confirmar la autoridad delegada y cualquier marco de cumplimiento existente [1].
- Actualice las plantillas de contratación para exigir auditorías de sesgo y entregables de transparencia antes de la adjudicación [3].
- Especifique el alcance de la auditoría, la frecuencia y el formato de informes en el contrato y realice una auditoría inicial base.
- Establezca una vía de denuncia y revisión con plazos claros y oficinas responsables, coordinando con TI y asesoría legal [2].
Preguntas frecuentes
- ¿Qué oficina de la ciudad hace cumplir las normas sobre software y datos municipales?
- La Oficina del City Manager supervisa la política administrativa y el Departamento de Tecnologías de la Información implementa los controles técnicos; Compras/Finanzas aplica los términos contractuales. Para contactos específicos, consulte las páginas departamentales.[2][3]
- ¿Existen multas por no aprobar una auditoría de sesgo?
- Las multas específicas vinculadas a auditorías de sesgo de IA no se especifican en las páginas municipales citadas; los remedios dependen de las cláusulas contractuales o del lenguaje de la ordenanza vigente.[1]
- ¿Cómo solicito una revisión o reporto un problema con una herramienta de IA de la ciudad?
- Reporte las inquietudes al Departamento de Tecnologías de la Información o mediante los canales oficiales de denuncia que figuran en las páginas departamentales; incluya el nombre del sistema, la fecha y la descripción del problema.[2]
Cómo hacer
- Forme un grupo de trabajo interdepartamental con TI, legal, compras y personal de políticas para redactar una política de ética de IA.
- Genere un inventario de sistemas municipales que usan toma de decisiones automatizada y priorice auditorías.
- Actualice los documentos de contratación para exigir auditorías de sesgo, informes de transparencia y declaraciones de proveedores antes del despliegue.
- Realice auditorías independientes de sesgo, publique resúmenes con información redactada y exija acciones correctivas cuando proceda.
Conclusiones clave
- Combine el lenguaje de política con cláusulas contractuales para crear obligaciones exigibles.
- Las auditorías independientes y los términos claros de remediación son esenciales para la supervisión práctica.
Ayuda y soporte / Recursos
- City of Corona Information Technology Department
- City of Corona Finance - Purchasing
- City of Corona City Clerk