Ordenanza de auditoría de sesgos y ética de IA de New Haven
New Haven, Connecticut está empezando a abordar cómo se gobiernan, auditan y revisan los riesgos éticos y de sesgo de las herramientas de inteligencia artificial propiedad de la ciudad o contratadas por la ciudad. Este artículo resume los pasos prácticos de cumplimiento, las vías probables de aplicación y cómo los residentes y proveedores pueden solicitar revisiones o reportar inquietudes sobre sistemas de IA usados por agencias municipales. Cuando no existe una ordenanza municipal, un calendario de multas o un formulario específico publicado por los departamentos de New Haven, esta guía lo indica y apunta a las oficinas típicamente responsables de la contratación, la supervisión de TI y la revisión legal.
Alcance y definiciones
Esta guía se centra en sistemas de decisión automatizados y herramientas algorítmicas utilizadas directamente por departamentos de la Ciudad de New Haven o por contratistas que prestan servicios que afectan a los residentes. Los sistemas comunes incluidos son la evaluación automatizada de elegibilidad, el puntaje predictivo de riesgo, las ayudas automatizadas para la revisión de permisos y el reconocimiento facial usado para funciones municipales. "Auditoría de sesgo" se refiere a una evaluación documentada de entradas, salidas, rendimiento entre clases protegidas y procedencia de datos.
Sanciones y aplicación
Actualmente, New Haven no publica una ordenanza municipal única y consolidada que detalle multas o sanciones específicamente vinculadas a auditorías de ética o sesgo de IA; la práctica de aplicación se maneja a través de las autoridades existentes de contratación, cumplimiento contractual y legales. Cuando se requieren multas monetarias u horarios específicos por ordenanza, dichos montos no están especificados en la página citada y no se incluyen aquí; este resumen está actualizado a febrero de 2026.
- Organismo aplicador: los departamentos que probablemente actúen incluyen el Departamento de Tecnología de la Información para cumplimiento técnico, la Oficina del Asesor Jurídico (Corporation Counsel) para la aplicación legal y la oficina de compras para los remedios contractuales.
- Multas monetarias: no especificadas en la página citada para violaciones específicas de IA; los remedios por incumplimiento contractual pueden incluir retención de pagos, daños liquidados o terminación.
- Escalamiento: corrección por parte del proveedor; fallas repetidas pueden llevar a suspensión o terminación del contrato, pero los rangos exactos de escalamiento no están especificados en la página citada.
- Sanciones no monetarias: órdenes de cumplimiento, auditorías obligatorias, planes de reparación contractual, solicitudes de divulgación de registros y remisión a tribunales municipales o estatales.
- Inspecciones y quejas: las quejas suelen dirigirse al departamento implementador o al City Clerk; el cumplimiento relacionado con la contratación puede gestionarse mediante la oficina de compras.
- Apelaciones y revisión: las rutas de apelación generalmente siguen los procedimientos administrativos de apelación para la contratación o las decisiones departamentales; los plazos específicos no están especificados en la página citada.
Solicitudes y formularios
No hay un formulario específico de auditoría de sesgo de IA publicado por New Haven hasta febrero de 2026; las solicitudes suelen hacerse como entregables del proveedor en el contrato o presentando una queja por escrito al departamento correspondiente o al City Clerk.
Pasos de acción para agencias, proveedores y residentes
- Para agencias: incluya documentación del modelo, origen de datos y un plan de mitigación de sesgos en los documentos de contratación.
- Para proveedores: prepare informes de auditoría repetibles, registros de mitigación y un contacto de cumplimiento nombrado para la revisión municipal.
- Para residentes: presente una queja por escrito al departamento implementador y conserve copias de avisos, fechas y comunicaciones relacionadas.
- Controle los plazos: cumpla con las ventanas de remediación especificadas en el contrato o los plazos administrativos que indique el departamento.
FAQ
- ¿Qué sistemas están incluidos en las expectativas de auditoría de IA de New Haven?
- Herramientas algorítmicas usadas para determinar elegibilidad de residentes, análisis de seguridad pública, decisiones automatizadas de permisos y sistemas operados por proveedores para departamentos municipales suelen estar incluidos.
- ¿Cómo reporto una decisión sesgada de una herramienta municipal?
- Envíe una queja por escrito al departamento que tomó la decisión y al City Clerk; incluya fechas, el resultado de la decisión y cualquier aviso o identificación que haya recibido.
- ¿Hay tarifas para solicitar una auditoría o apelar una decisión?
- Las tarifas para apelaciones formales o solicitudes de registros dependen de los calendarios de tarifas municipales existentes; los calendarios de tarifas específicos para auditorías de IA no están especificados en la página citada.
How-To
- Identifique el departamento responsable y reúna todos los avisos y correspondencia relacionados con la decisión.
- Presente una queja por escrito al departamento implementador y al City Clerk describiendo el problema y solicitando una auditoría o revisión.
- Si el sistema lo opera un contratista, solicite registros contractuales o salidas de auditoría según la cláusula de auditoría del contrato o presente una solicitud de registros públicos si procede.
- Siga las rutas de apelación administrativa especificadas por el departamento o el contrato de contratación y observe los plazos señalados para presentar apelaciones.
- Contacte a la Oficina del Asesor Jurídico para preguntas legales y al Departamento de Tecnología de la Información para consultas técnicas.
Puntos clave
- New Haven gestiona la supervisión de IA mediante procesos existentes de contratación, TI y legales en lugar de una única ordenanza específica publicada.
- Documente las decisiones y presente quejas al departamento implementador y al City Clerk para iniciar una revisión.
- Los proveedores deben incluir entregables de auditoría y planes de mitigación en los contratos para evitar sanciones.
Ayuda y recursos
- Sitio oficial de la Ciudad de New Haven
- City Clerk - ordenanzas y registros
- Departamento de Tecnología de la Información