š¤ PrepĆ”rate para la lucha contra los algoritmos
š¤ Recomiendo 5 libros sobre el tema
No, no es el tĆtulo de ninguna pelĆcula distĆ³pica. No hace falta llegar a Matrix o Skynet para darse cuenta de que nuestro dĆa a dĆa se estĆ” convirtiendo en una lucha constante contra las mĆ”quinas. Bueno, contra los algoritmos.
Cada vez es mĆ”s probable que seamosĀ discriminados por un algoritmo. Nadie puede negar ya a estas alturas que tienenĀ sesgo. Ya sea por parte del programador, por los datos de aprendizaje o porque asĆ se ha querido.
Esos algoritmos que segĆŗn pasa el tiempo tienenĀ mĆ”s y mĆ”s capacidad de decisiĆ³n sobre nuestras vidas. Incluso de trastocarlas de la noche a la maƱana.
Ellos deciden, tĆŗ obedeces
No es solo queĀ gracias a los algoritmos nos estemos volviendo tontos. Imaginar que os llama un amigo por telĆ©fono y os dice que te busques en Google. QueĀ tu fotografĆa aparece asociada a un asesino en serie. Es la historia deĀ Hristo GeorgievĀ Ā«que al parecer hay un asesino que se llama igual que Ć©l y es a donde apunta el enlace de la Wikipedia tras la descripciĆ³n del Ā«violador y asesino en serie de cinco personasĀ». Con la salvedad de que en la wiki no aparece su fotografĆa por ningĆŗn lado, sino que ha sidoĀ el algoritmo de Google el que ha hecho la Ā«desafortunada asociaciĆ³nĀ»Ā» (VĆaĀ WTF).
Otra situaciĆ³n.Ā Recibes un email generado automĆ”ticamente por un algoritmo que gestiona los RRHH de tu empresa. Te dice que estĆ”s despedido y estĆ”s fuera, no hay a quiĆ©n reclamar. Es lo que le ha pasado a Stephen Normandin, conductor de reparto de Amazon en Phoenix, que tras cuatro aƱos de trabajoĀ ha sido despedido de esta manera. Imagina, ser despedido por un bot, eres tĆŗ contra la mĆ”quina. En breve necesitaremos un defensor del empleado ante los algoritmos.
Los algoritmos ya deciden en muchos casosĀ a quiĆ©n contratarĀ para un puesto de trabajo, lasĀ calificaciones de los estudiantes,Ā aconsejan a los tribunales sobre la pena que se ha de imponer a un acusado,Ā con quiĆ©n te juntanĀ en una aplicaciĆ³n de citas,Ā si te hacen o no un seguro mĆ©dico y a quĆ© precioĀ oĀ deciden quiĆ©n puede recibir un prĆ©stamo o no.
El problema es que en muchas ocasiones ni nos enteramos cuando un algoritmo ha tomado una decisiĆ³n que nos afecta. Y todo eso a pesar de que el derecho a la explicaciĆ³n, a conocer los parĆ”metros en los que se ha basado un algoritmo para tomar una decisiĆ³n ya estĆ” reconocido en sitios como laĀ carta de derechos digitales del Ayuntamiento de BarcelonaĀ o incluso a poder impugnar las decisiones automatizadas o algorĆtmicas segĆŗn recoge la propuesta de laĀ Carta de derechos digitalesĀ del gobierno de EspaƱa.
5 Libros sobre el tema
El enemigo conoce el sistema ā Marta Peirano
Ā«La red no es libre, ni abierta ni democrĆ”tica. Es un conjunto de servidores, conmutadores, satĆ©lites, antenas, routers y cables de fibra Ć³ptica controlados por un nĆŗmero cada vez mĆ”s pequeƱo de empresas.
Es un lenguaje y una burocracia de protocolos que hacen que las mĆ”quinas hablen, normas de circulaciĆ³n que conducen el trĆ”fico, microdecisiones que definen su eficiencia. Si la consideramos un Ćŗnico proyecto llamado internet, podemos decir que es la infraestructura mĆ”s grande jamĆ”s construida, y el sistema que define todos los aspectos de nuestra sociedad. Y sin embargo es secreta. Su tecnologĆa estĆ” oculta, enterrada, sumergida o camuflada; sus algoritmos son opacos; sus microdecisiones son irrastreables. Los centros de datos que almacenan y procesan la informaciĆ³n estĆ”n ocultos y protegidos por armas, criptografĆa, propiedad intelectual y alambre de espino.
La infraestructura crĆtica de nuestro tiempo estĆ” fuera de nuestra vista. No podemos comprender la lĆ³gica, la intenciĆ³n y el objetivo de lo que no vemos. Todas las conversaciones que tenemos sobre esa infraestructura son en realidad conversaciones sobre su interfaz, un conjunto de metĆ”foras que se interpone entre nosotros y el sistema.
Un lenguaje diseƱado, no para facilitar nuestra comprensiĆ³n de esa infraestructura, sino para ofuscarla. El enemigo conoce el sistema pero nosotros no.Ā»
The Alignment Problem ā Brian Christian
Ā«Los sistemas actuales de Ā«aprendizaje automĆ”ticoĀ», entrenados con datos, son tan eficaces que los hemos invitado a ver y oĆr por nosotrosā¦ y a tomar decisiones en nuestro nombre. Pero las alarmas han saltado. En los Ćŗltimos aƱos ha surgido una gran preocupaciĆ³n a medida que avanza el campo del aprendizaje automĆ”tico. Cuando los sistemas que intentamos enseƱar no hacen, al final, lo que queremos o lo que esperamos, surgen riesgos Ć©ticos y potencialmente existenciales. Los investigadores lo llaman el problema de la alineaciĆ³n.
Los sistemas seleccionan los currĆculos hasta que, aƱos despuĆ©s, descubrimos que tienen sesgos inherentes de gĆ©nero. Los algoritmos deciden la fianza y la libertad condicionalā¦ y parecen evaluar de forma diferente a los acusados negros y blancos. Ya no podemos suponer que nuestra solicitud de hipoteca, o incluso nuestras pruebas mĆ©dicas, sean vistas por ojos humanos. Y a medida que los vehĆculos autĆ³nomos comparten nuestras calles, ponemos cada vez mĆ”s nuestras vidas en sus manos.Ā»
An artificial Revolution ā Ivana Bartoletti
Ā«La IA tiene un potencial transformador sin precedentes para remodelar la sociedad, nuestras economĆas y nuestras vidas laborales, pero sin un escrutinio legal, una supervisiĆ³n internacional y un debate pĆŗblico, estamos caminando como sonĆ”mbulos hacia un futuro escrito por algoritmos que codifican prejuicios racistas, sexistas y clasistas en nuestras vidas diarias ā un problema que requiere un cambio polĆtico y cultural sistĆ©mico para abordarlo de forma productiva.
La experta en privacidad Ivana Bartoletti expone la realidad de la revoluciĆ³n de la IA, desde los trabajadores mal pagados que se esfuerzan por entrenar a los algoritmos para que reconozcan pĆ³lipos cancerosos, hasta el aumento del tecno-racismo y el tecno-chauvinismo y la relaciĆ³n simbiĆ³tica entre la IA y el populismo de derechas. Una revoluciĆ³n artificial es un manual esencial para entender la intersecciĆ³n entre la tecnologĆa y las fuerzas geopolĆticas que estĆ”n dando forma al futuro de la civilizaciĆ³n.Ā»
Algorithms of Oppression ā Safiya Umoja Noble
Ā«Si buscas en Google Ā«chicas negrasĀ», ĀæquĆ© encontrarĆ”s? Ā«Big BootyĀ» y otros tĆ©rminos sexualmente explĆcitos probablemente aparezcan como tĆ©rminos de bĆŗsqueda principales. Pero si escribes Ā«chicas blancasĀ», los resultados son radicalmente diferentes. Los sitios porno sugeridos y los debates no moderados sobre Ā«por quĆ© las mujeres negras son tan descaradasĀ» o Ā«por quĆ© las mujeres negras estĆ”n tan enfadadasĀ» presentan un retrato inquietante de la feminidad negra en la sociedad moderna.
En Algorithms of Oppression, Safiya Umoja Noble cuestiona la idea de que los motores de bĆŗsqueda como Google ofrecen igualdad de condiciones para todas las formas de ideas, identidades y actividades. La discriminaciĆ³n de datos es un problema social real; Noble argumenta que la combinaciĆ³n de intereses privados en la promociĆ³n de ciertos sitios, junto con el estatus de monopolio de un nĆŗmero relativamente pequeƱo de motores de bĆŗsqueda de Internet, conduce a un conjunto sesgado de algoritmos de bĆŗsqueda que privilegian la blancura y discriminan a las personas de color, especĆficamente a las mujeres de color.Ā»
Human Compatible ā Stuart Russell
Ā«En este libro innovador, el distinguido investigador de la IA Stuart Russell sostiene que este escenario puede evitarse, pero solo si repensamos la IA desde la base. Russell comienza explorando la idea de la inteligencia en los seres humanos y en las mĆ”quinas. Describe los beneficios que podemos esperar a corto plazo, desde asistentes personales inteligentes hasta la aceleraciĆ³n de la investigaciĆ³n cientĆfica, y esboza los avances de la IA que todavĆa tienen que producirse antes de que alcancemos una IA sobrehumana. TambiĆ©n expone las formas que los humanos ya estĆ”n encontrando para hacer un mal uso de la IA, desde las armas autĆ³nomas letales hasta el sabotaje viral.
Si se producen los avances previstos y surge una IA sobrehumana, habremos creado entidades mucho mĆ”s poderosas que nosotros mismos. ĀæCĆ³mo podemos asegurarnos de que nunca, nunca, tengan poder sobre nosotros? Russell sugiere que podemos reconstruir la IA sobre una nueva base, segĆŗn la cual las mĆ”quinas estĆ”n diseƱadas para ser intrĆnsecamente inciertas sobre las preferencias humanas que deben satisfacer. Esas mĆ”quinas serĆan humildes, altruistas y estarĆan comprometidas a perseguir nuestros objetivos, no los suyos. Este nuevo fundamento nos permitirĆa crear mĆ”quinas que sean probadamente deferentes y probadamente beneficiosas.Ā»
Y la batalla mĆ”s dura contra los algoritmos esā¦
No equivocarte en un captchaā¦
