2018_12_05_ics_herzog

“Los algoritmos reproducen los patrones que ven en la sociedad, y si esta es injusta, racista o machista, tomarán decisiones injustas, racistas o machistas”. Así lo explicó Lisa Herzog, filósofa de la Universidad Técnica de Múnich, durante un seminario organizado por el proyecto 'Religión y sociedad civil' del Instituto Cultura y Sociedad.. En la sociedad actual se tiende a confiar decisiones a los ordenadores, alerta la experta, “porque tenemos el prejuicio de que son mejores”.

Sin embargo, ella sostiene que no es una buena idea delegar decisiones importantes. “En algunos estados de Estados Unidos se usan algoritmos para valorar las posibilidades de libertad condicional”, explica Herzog. El programa tiene en cuenta datos como la edad, la ocupación, dónde vive el sujeto, aunque no se sepan con exactitud porque “los datos son de empresas privadas”.

El resultado es que, finalmente, esos programas eran “racistas” porque encontraban una correlación entre algunas características que tiene la gente negra y algunos crímenes. “Asumir que puedes predecir algo basándote en hechos pasados, como si el ser humano no fuera capaz de cambiar, es problemático”, recalca la filósofa.

Otro ejemplo que propone es el algoritmo de Google, que resultó sexista porque ofrecía los puestos altos de trabajo a hombres. “Como hay más hombres en puestos de poder, el algoritmo pensó que era una pauta”, lo que a su vez lleva a seguir reforzando esta situación. “Los programas continúan con la pauta que ven, independientemente de si son injustos”.

Según Lisa Herzog, un punto de contraste frente a la manera de decidir de los programas que usan algoritmos es la filosofía de Hannah Arendt. “Arendt es muy interesante porque se centra mucho en la individualidad, no cree que seamos solo datos”. De la forma en la que ve Arendt a las personas, apunta la filósofa, siempre pueden comenzar de nuevo, tomar decisiones distintas, reinventarse. Por el contrario, los programas digitales tienden a basarse en el pasado.

¿Qué pueden hacer los ordenadores?

La experta considera que se puede confiar en los ordenadores para decisiones en las que se tiene todo el conocimiento, se saben todos los hechos y nadie lo quiere hacer. Propone que sean tareas más triviales tales como un robot para limpiar el piso o cocinar, donde las decisiones o los criterios que establezcan no van a resultar problemáticos.

Aunque sostiene que también es posible utilizar estos programas a modo de consulta en decisiones importantes. “No digo que no puedan tener su espacio, pero la última decisión la debe tomar un humano”, asegura. Porque, además, cuando se toman estas decisiones, los hombres desarrollan habilidades para llegar a acuerdos y vivir en sociedad. “Tomando decisiones aprendemos a ver a los otros como iguales, lo que es muy importante en las sociedades democráticas”, relata.

“Los seres humanos tienen tendencia a confiar en los ordenadores, y además es más fácil aceptar su solución y no pensar una por tu cuenta”, se lamenta Herzog. Algunas personas los consideran “más eficientes”. Pero la filósofa considera que “algunos valores son demasiado importantes para ser superados por la eficiencia”.