FTC supervisaría el uso de algoritmos en decisiones clave

¿Qué hace esto?

Esta ley exigiría que ciertas empresas grandes estudien y documenten cómo sus sistemas automatizados de toma de decisiones afectan a las personas, tanto antes como después de usarlos. Las empresas tendrían que hacer pruebas para detectar sesgos según raza, sexo, edad y otros factores similares, consultar a expertos externos y comunidades afectadas, e intentar corregir los problemas graves que encuentren. La FTC (Comisión Federal de Comercio) mantendría una base de datos pública de los informes de las empresas para que consumidores e investigadores puedan ver qué algoritmos se usan y cómo las personas pueden cuestionar decisiones que las afecten.

¿A quién afecta?

Las reglas aplicarían a empresas grandes que superen ciertos límites de ingresos o manejo de datos y que usen algoritmos para tomar o influir en decisiones importantes sobre préstamos, empleo, vivienda, atención médica o educación. La FTC haría cumplir la ley, los fiscales generales estatales también podrían demandar a las empresas que la violen, y se crearía una nueva Oficina de Tecnología dentro de la FTC para ayudar a aplicarla.

¿Por qué importa?

Sin estos requisitos, los sistemas automatizados que afectan decisiones importantes en la vida de las personas podrían usarse sin ser examinados en busca de sesgos o daños. Esta ley crea un proceso para hacer esos sistemas más transparentes y dar a las personas una manera de cuestionar las decisiones que se toman sobre ellas.

¿Dónde está ahora?