Propuesta obliga a auditar sistemas de IA que afecten a personas

¿Qué hace esto?

Este proyecto de ley requeriría que cualquier empresa o agencia de gobierno que use IA para tomar decisiones importantes sobre empleo, vivienda, préstamos, salud, educación, justicia penal o votación evalúe esos sistemas en busca de sesgos antes de usarlos y cada año después, con un revisor independiente. Las empresas deberían publicar explicaciones en lenguaje sencillo sobre cómo funciona su IA, qué datos usa y qué encontraron las auditorías. También quedaría prohibido castigar a cualquier persona que reporte problemas con un sistema de IA.

¿A quién afecta?

Cualquier empresa o agencia de gobierno que use IA o sistemas computacionales complejos para tomar decisiones importantes sobre personas tendría que cumplir estas reglas. Las personas afectadas por decisiones tomadas con IA tendrían el derecho de pedir que un ser humano decida y de apelar ante un revisor humano.

¿Por qué importa?

Sin estos requisitos, los sistemas de IA usados en decisiones de alto impacto podrían operar sin control de sesgos ni errores que afecten la vida de las personas. La Federal Trade Commission (Comisión Federal de Comercio) sería la agencia principal encargada de hacer cumplir las reglas, y tanto individuos como gobiernos estatales también podrían demandar a quienes las violen.

¿Dónde está ahora?