Ordenanza de ética de IA de South Boston y auditorías de sesgo
Ámbito y qué normas se aplican
La Ciudad de Boston ha adoptado políticas de uso responsable y gobernanza de datos que guían la contratación y operación municipal de sistemas de decisión automatizados; estas políticas se aplican a los departamentos de la Ciudad y a cualquier proveedor que actúe para la Ciudad, incluidos trabajos que afectan a los vecindarios de South Boston. No se encontró una ordenanza local dedicada solo a "IA" en South Boston en las páginas de la ciudad; la política de Uso Responsable de Datos de la Ciudad y la orientación del programa describen obligaciones de equidad, transparencia y documentación para sistemas automatizados. Consulte las páginas de la política y del programa de la Ciudad para detalles Responsible Use of Data[1] y las descripciones de proyectos de la Oficina de New Urban Mechanics New Urban Mechanics[2].
Sanciones y aplicación
La política de Uso Responsable de Datos de la Ciudad establece normas y procesos de revisión pero no fija multas civiles municipales ni sanciones penales en la página de la política. Cuando puedan aplicarse sanciones monetarias, revocaciones de permisos o medidas contractuales, los importes específicos o los pasos de escalada no están especificados en las páginas citadas.[1]
- Organismo aplicador: Innovation & Technology de la Ciudad de Boston y los responsables de datos de los departamentos aplican las expectativas de la política; la supervisión operativa suele implicar a la Oficina de New Urban Mechanics y a los gestores de programas departamentales.
- Inspección y auditorías: la política establece revisiones y disparadores de auditoría de sesgo para adquisiciones y sistemas de alto impacto, pero los horarios de auditoría o los importes de sanciones no están especificados en la página citada.
- Apelaciones y revisión: las rutas de apelación formal o los plazos legales no están especificados en la página citada; las partes afectadas deben seguir los procedimientos administrativos departamentales o de contratación y pueden solicitar registros públicos.
- Multas y sanciones monetarias: no especificadas en la página citada.
- Sanciones no monetarias: posibles medidas incluyen órdenes de suspensión, inhabilitación en contrataciones, medidas contractuales, planes de acción correctiva y auditorías independientes obligatorias, aunque la página de la política no lista un menú fijo de sanciones.
Solicitudes y formularios
No existe un formulario de solicitud de auditoría de sesgo a nivel de ciudad publicado en la página de Uso Responsable de Datos; las solicitudes para reportar impactos o pedir revisión se gestionan a través de los canales de contacto departamentales o 311. Si un proyecto exige una auditoría proporcionada por el proveedor como término contractual, los documentos de contratación indicarán el formulario requerido y el proceso de presentación.[1]
Pasos de acción: cómo denunciar, solicitar o apelar
- Denunciar un problema: abra una solicitud en 311 o contacte con el departamento correspondiente (por ejemplo, Inspectional Services, Licensing) describiendo la decisión automatizada y su efecto.
- Solicitar registros: presente una solicitud de registros públicos para algoritmos, documentos del modelo o materiales de contratación si esos registros los posee la Ciudad.
- Solicitar una auditoría: si un programa municipal utilizó un sistema automatizado que le afectó, pida una revisión departamental o solicite que la contratación facilite los informes de auditoría del proveedor, cuando estén exigidos por contrato.
Cómo usan los responsables municipales las auditorías de sesgo
En los programas municipales, las auditorías de sesgo y las evaluaciones de impacto algorítmico se consideran herramientas para garantizar el cumplimiento de objetivos de equidad y transparencia. Los departamentos pueden exigir a los proveedores que presenten documentación durante la contratación y pueden denegar la aprobación hasta recibir una auditoría independiente o un plan de mitigación. Las descripciones de programa de la política y de New Urban Mechanics proporcionan orientación pero no enumeran tablas de sanciones ni importes fijos.[1][2]
Preguntas frecuentes
- ¿Tiene South Boston una ley de IA propia distinta a Boston?
- South Boston es un vecindario de la Ciudad de Boston; no existe una ley municipal separada sobre IA para South Boston. Las políticas a nivel de ciudad como el Uso Responsable de Datos se aplican a departamentos y proveedores.[1]
- ¿Quién aplica las normas de IA y auditorías de sesgo?
- La supervisión y la aplicación las llevan a cabo los responsables de datos departamentales, Innovation & Technology de la Ciudad y oficinas de programa como la Oficina de New Urban Mechanics; las quejas pueden canalizarse también por 311.[1][2]
- ¿Cómo puedo solicitar una auditoría o revisión?
- Presente una solicitud en 311, contacte con el departamento responsable o haga una solicitud de registros públicos para obtener documentación de contratación y del modelo; si el sistema fue proporcionado bajo contrato, solicite las auditorías exigidas contractualmente a través del área de adquisiciones.
Cómo hacer una solicitud de auditoría
- Identifique el departamento y documente el resultado y las fechas relevantes.
- Contacte con el departamento o llame a 311 para presentar una solicitud de servicio describiendo la decisión automatizada.
- Presente una solicitud de registros públicos para obtener documentos de contratación, descripciones del modelo y auditorías del proveedor cuando no sean públicos.
- Si procede, solicite una revisión independiente a través de la oficina de contratación de la Ciudad y preserve evidencias para cualquier recurso administrativo.
Ayuda y recursos
- City of Boston 311 (reportar un problema)
- Responsible Use of Data policy
- Inspectional Services Department
- Boston Licensing Board