Reglas de auditoría de sesgo de IA para contratos de la ciudad de Rochester
Rochester, New York exige que los contratistas y proveedores de la ciudad cumplan las normas de adquisiciones y contratación que cada vez abordan más la equidad algorítmica, la gobernanza de datos y la no discriminación en sistemas automatizados. Esta guía resume cómo se aplican las expectativas de auditoría de sesgo de IA a los contratos de la ciudad, qué departamentos hacen cumplir el cumplimiento, cómo solicitar auditorías o presentar quejas y pasos prácticos para licitantes y proveedores para cumplir las condiciones contractuales. Se basa en los recursos de adquisiciones de la Ciudad de Rochester y el código municipal para requisitos de contratación, y señala la oficina de innovación/tecnología municipal cuando hay políticas o detalles de programas piloto disponibles.
Alcance y requisitos
La adquisición municipal suele regir los requisitos para términos de contrato, obligaciones del proveedor e informes de cumplimiento; el lenguaje específico sobre auditorías de sesgo algorítmico se establece en los documentos del contrato, las solicitudes de adquisición y cualquier adenda especializada emitida por la División de Adquisiciones de la Ciudad de Rochester División de Adquisiciones[1]. Cuando el código municipal controla las formalidades de contratación, ese código es la ordenanza de control sobre los poderes de contratación y la delegación de autoridad Código Municipal[2]. La orientación técnica, los detalles de programas piloto y la coordinación entre departamentos suelen ser gestionados por la oficina municipal de innovación o TI Oficina de Innovación[3].
Sanciones y aplicación
La aplicación de cláusulas de auditoría y cumplimiento contractual corresponde principalmente a la División de Adquisiciones y a la Oficina Legal/Corporation Counsel para recursos legales bajo derecho contractual. Las multas monetarias específicas o sanciones estatutarias por sesgo de IA en sí no suelen figurar en el código municipal; los recursos suelen ser contractuales, administrativos o litigiosos según el incumplimiento.
- Multas o sanciones monetarias: no especificado en la página citada; la aplicación suele seguir los términos del contrato o el litigio.[2]
- Escalamiento: la primera medida suele exigir remediación o acción correctiva; los incumplimientos repetidos o continuos pueden dar lugar a la terminación del contrato o reclamaciones por daños—no se especifican rangos concretos en la página citada.[2]
- Sanciones no monetarias: órdenes de subsanar, suspensión o terminación del contrato, retención de pagos o medidas judiciales son medidas típicas de ejecución bajo reglas de adquisición.[1]
- Organismo que hace cumplir y vías de denuncia: la División de Adquisiciones gestiona el cumplimiento contractual y las quejas iniciales; las acciones legales involucran a la Oficina Legal/Corporation Counsel. Contacte a Adquisiciones para reportes y preguntas procedimentales. División de Adquisiciones[1]
Solicitudes y formularios
La Ciudad publica formularios de adquisiciones, registro de proveedores y documentos de solicitud en las páginas de la División de Adquisiciones. Si existe un formulario específico de auditoría de sesgo de IA o una certificación, aparecerá en la solicitud o como adenda; no se especifica ningún formulario dedicado de auditoría de IA en las páginas de adquisiciones citadas en las fuentes.
Pasos operativos para proveedores
- Revise los términos de la solicitud y cualquier adenda para cláusulas de auditoría, transparencia y acceso a datos.
- Prepare documentación: conjuntos de datos, descripciones de modelos, métricas de evaluación e informes de auditoría de terceros cuando se requiera.
- Cumpla los plazos de presentación y cualquier cronograma para acciones correctivas especificadas en los avisos contractuales.
- Contacte a Adquisiciones con antelación para aclarar requisitos o solicitar aclaraciones por escrito.
FAQ
- ¿Quién aplica las cláusulas de auditoría de IA en los contratos de Rochester?
- La División de Adquisiciones aplica inicialmente el cumplimiento contractual; los recursos legales implican a la Oficina Legal o Corporation Counsel si el incumplimiento contractual conduce a litigio.
- ¿Existen multas establecidas por violaciones de sesgo algorítmico?
- No hay multas municipales específicas por sesgo de IA listadas en las páginas de adquisiciones o del código citadas; la aplicación suele ser contractual o mediante recursos civiles.[2]
- ¿Cómo solicito una auditoría o presento una queja?
- Reporte las preocupaciones de cumplimiento a la División de Adquisiciones mediante el contacto oficial de adquisiciones o el contacto de la solicitud identificado en los documentos del contrato.[1]
How-To
- Identifique la cláusula de la solicitud o contrato que exige una auditoría de sesgo de IA.
- Reúna datos, documentación del modelo e informes de pruebas previas requeridos por la cláusula.
- Contrate a un auditor independiente si el contrato exige revisión de terceros o programe una auditoría interna según los plazos del contrato.
- Presente el informe de auditoría y el plan de remediación a la División de Adquisiciones y conserve constancias de entrega.
- Si hay disputa, siga los procedimientos de impugnación de adquisiciones o disputa contractual y notifique a la oficina legal de la ciudad según corresponda.
Conclusiones clave
- Las obligaciones de auditoría deben figurar en el contrato para ser exigibles.
- La documentación y la evidencia de pruebas reducen el riesgo de sanciones por incumplimiento.
Ayuda y recursos
- División de Adquisiciones de la Ciudad de Rochester
- Código de Ordenanzas de la Ciudad de Rochester (Municode)
- Oficina de Innovación de la Ciudad de Rochester