Ordenanza de Ética de IA y Auditorías de Sesgo de Filadelfia
Filadelfia, Pensilvania está evaluando cada vez más los riesgos de los sistemas de decisión automatizados utilizados por o que afectan a los servicios municipales. Este artículo explica el panorama municipal respecto a la política de ética de IA y los requisitos de auditoría de sesgo, identifica las oficinas encargadas, describe la aplicación y las vías de apelación, y enumera pasos prácticos para solicitar auditorías, presentar quejas o solicitar excepciones. Cuando no se encuentra una ordenanza vinculante de la ciudad o un calendario de sanciones específico, la guía indica los contactos departamentales oficiales y los recursos públicos más cercanos disponibles a febrero de 2026.
Ámbito y aplicabilidad
El enfoque a nivel municipal sobre inteligencia artificial y toma de decisiones algorítmicas suele cubrir sistemas utilizados para elegibilidad de beneficios públicos, vivienda, licencias, análisis de seguridad pública y servicios gestionados por la ciudad. En Filadelfia, la aplicabilidad depende de si el sistema es contratado u operado por un departamento municipal, un contratista en nombre de la ciudad o se usa en un proceso regulatorio. Cuando existe una ordenanza formal, puede definir umbrales para auditorías obligatorias o divulgaciones públicas; si no hay ordenanza publicada, los departamentos normalmente siguen políticas internas y reglas de contratación.
Sanciones y aplicación
A la fecha de febrero de 2026, no se localizó una ordenanza vinculante de alcance municipal en Filadelfia que establezca multas específicas o un calendario obligatorio de auditorías de sesgo en las páginas del código municipal o la legislación del consejo; por lo tanto, la aplicación depende de la política de compras, el contrato o la política departamental aplicable. Cuando una oficina de la ciudad publica sanciones o procedimientos explícitos, estos gobiernan el cumplimiento y los remedios.
- Órgano aplicador: El departamento municipal pertinente (compras, tecnología, licencias o la Comisión de Relaciones Humanas de Filadelfia) o el City Solicitor cuando se requiera acción legal.
- Multas: No se especifican importes concretos en dólares en una ordenanza municipal única en páginas públicas y, por tanto, se indica "no especificado en la página citada" para una ley municipal general de IA.
- Escalada: Si las infracciones iniciales, repetidas o continuas conllevan multas crecientes no se especifica en una ordenanza municipal única en las páginas municipales; los departamentos pueden imponer medidas contractuales o planes correctivos.
- Sanciones no monetarias: Los remedios típicos de la ciudad incluyen órdenes de cese y desistimiento, auditorías correctivas obligatorias, suspensión o rescisión de contratos y remisión a acciones civiles o judiciales.
- Inspecciones y quejas: Las quejas sobre daños algorítmicos se dirigen al departamento que opera o contrata el sistema, o a la Comisión de Relaciones Humanas de Filadelfia cuando el asunto involucra discriminación.
- Mantenimiento de registros y pruebas: Los departamentos suelen requerir documentación de los datos de entrenamiento del modelo, informes de auditoría y evaluaciones de riesgo al investigar el cumplimiento.
- Apelaciones y revisión: Las vías de apelación dependen de la oficina aplicadora; las opciones pueden incluir revisión administrativa, resolución de disputas contractuales o revisión judicial; los plazos para apelar son determinados por la norma departamental específica o el contrato y no están especificados en una página de ordenanza única.
Solicitudes y formularios
No se encontró un formulario estandarizado publicado por la ciudad para "auditoría de sesgo" ni una certificación obligatoria de ética de IA en las páginas del código municipal a febrero de 2026; los departamentos pueden publicar plantillas específicas de contratación o exigir informes de auditoría como anexos a los contratos.
Preguntas frecuentes
- ¿Filadelfia exige una auditoría formal de sesgo para todos los sistemas de IA usados por la ciudad?
- No se localizó una ordenanza municipal única que obligue auditorías de sesgo para todos los sistemas municipales; los requisitos varían según el departamento y el contrato.
- ¿Quién hace cumplir el cumplimiento si un algoritmo causa daño o discriminación?
- La aplicación puede involucrar al departamento operador, al City Solicitor y a la Comisión de Relaciones Humanas de Filadelfia para reclamaciones por discriminación.
- ¿Se publican multas o sanciones establecidas por violaciones de ética en IA?
- Los importes específicos de multas no están especificados en una ordenanza municipal única en páginas públicas y dependen del instrumento aplicador (contrato, reglamento u ordenanza).
- ¿Cómo reporto un posible sesgo algorítmico o error en un servicio municipal?
- Reporte al departamento que opera el servicio o presente una queja ante la Comisión de Relaciones Humanas de Filadelfia si el asunto involucra discriminación.
Cómo hacerlo
- Identifique el departamento responsable y revise cualquier cláusula de contratación que regule auditorías.
- Solicite documentación disponible: descripciones del modelo, resúmenes de datos de entrenamiento e informes de auditoría previos según las políticas de divulgación del departamento.
- Si sospecha discriminación, presente una queja ante la Comisión de Relaciones Humanas de Filadelfia y adjunte pruebas recopiladas.
- Si el sistema fue contratado, siga el proceso contractual de disputas o remedios; considere revisión administrativa o asesoría legal para recursos judiciales.
Puntos clave
- Las responsabilidades en Filadelfia dependen de las políticas departamentales y de los contratos más que de una ley municipal única.
- La aplicación puede ser no monetaria (órdenes, auditorías, remedios contractuales) cuando no se publican multas en una ordenanza específica.
Ayuda y soporte / Recursos
- City of Philadelphia - Department of Innovation and Technology
- Philadelphia Commission on Human Relations
- City Council of Philadelphia - Legislation & Ordinances