Requisitos de auditoría de ética y sesgo de IA en Los Ángeles
Los Ángeles, California exige que los departamentos municipales y los contratistas que usan sistemas de decisión automatizada sigan prácticas documentadas de ética y auditoría de sesgo como parte de la adquisición, implementación y supervisión de sistemas de IA. Este artículo resume la base municipal para las auditorías, el alcance, los pasos de cumplimiento, las vías de aplicación y cómo solicitar revisión cuando un sistema afecta a residentes.
Base legal y alcance
La fuente principal de la ley municipal vinculante es el código municipal de la Ciudad de Los Ángeles y las acciones relacionadas del concejo; las agencias también publican políticas e inventarios que gobiernan los sistemas de decisión automatizada y las herramientas basadas en datos. Para el texto del código municipal que controla y cualquier lenguaje de ordenanza, consulte directamente el repositorio del código de la ciudad City of Los Angeles Municipal Code[1].
Sanciones y aplicación
Las multas monetarias específicas, los montos de escalada y los plazos para infracciones de ética o auditoría de sesgo de IA no están especificados en la página del código municipal citada; las agencias pueden establecer remedios administrativos o remitir asuntos al Fiscal de la Ciudad para su aplicación. Cuando existan sanciones a nivel departamental, las páginas oficiales o las ordenanzas publicadas por el Concejo Municipal indicarán montos y procedimientos.
- Multas: no especificadas en la página citada; consulte la ordenanza aplicable o la regla departamental para conocer los montos en dólares.
- Escalada: las políticas pueden distinguir entre infracciones primeras, reiteradas o continuas; los rangos específicos no están especificados en la página citada.
- Sanciones no monetarias: órdenes de cese de uso, auditorías correctivas, requisitos de información pública, suspensión o rescisión de contratos y remisión a procesos judiciales.
- Organismo aplicador: normalmente el Fiscal de la Ciudad, el departamento que adquirió el sistema o una oficina de cumplimiento asignada; las quejas pueden canalizarse al departamento que figure en la política aplicable.
- Apelación/revisión: las vías de apelación y los plazos se determinan por la ordenanza o regla administrativa específica; si no hay un plazo en la página del departamento, espere los plazos estándar fijados por el instrumento aplicador.
Solicitudes y formularios
El repositorio del código municipal y las páginas de política del departamento deben indicar cualquier formulario requerido o plantilla de auditoría para el uso de IA; la página del código municipal citada no publica formularios de auditoría específicos. Los departamentos pueden publicar plantillas de auditoría internas o exigir informes de auditoría externos como parte de contratos o adquisiciones.
Pasos de cumplimiento para departamentos y contratistas
- Inventariar sistemas: documente dónde se usan sistemas de decisión automatizada, incluido el propósito y las poblaciones afectadas.
- Realizar auditorías de sesgo: evalúe las entradas de datos, el comportamiento del modelo, los impactos desiguales y las medidas de mitigación.
- Remediar hallazgos: implemente correcciones técnicas, cambios de política o ajustes de contratación para reducir daños identificados.
- Mantenimiento de registros: conserve informes de auditoría, registros de decisión y registros de mitigación según lo requiera el departamento.
- Divulgación pública: publique resúmenes de hallazgos o informes de auditoría con redacciones si la política o la acción del concejo lo exige.
FAQ
- ¿Los Ángeles exige auditorías de sesgo para todos los sistemas de IA?
- Los requisitos varían según el departamento y si el sistema es operado por la ciudad; consulte el código municipal y la política departamental para conocer el alcance exacto.
- ¿Están listadas multas específicas por infracciones?
- Las multas monetarias y las reglas de escalada no están especificadas en la página del código municipal citada; consulte la ordenanza aplicable o la regla departamental.
- ¿Cómo informan los residentes preocupaciones sobre un sistema de IA?
- Presente una queja ante el departamento que opera el sistema o comuníquese con la oficina del Fiscal de la Ciudad si considera que se han violado derechos.
How-To
- Identifique el sistema y el departamento responsable.
- Solicite u obtenga el informe de auditoría y la documentación de respaldo.
- Si es el operador, realice una auditoría de sesgo conforme a la orientación departamental; si es residente, presente una queja con pruebas.
- Utilice las vías de apelación publicadas o contacte al Fiscal de la Ciudad para la revisión de aplicación.
Conclusiones clave
- Los Ángeles se apoya en el código municipal y las políticas departamentales para exigir auditorías de ética y sesgo de IA.
- Las multas específicas y los plazos no figuran en la página del código municipal citada y deben confirmarse en la ordenanza o regla correspondiente.