Orwell en el supermercado, Netflix en el convento

Dicen que cuando uno tiene un martillo ve clavos en todas partes. Es la tendencia –tan humana– a resolver los problemas con la herramienta más a mano. Pero, ¿qué ocurre cuando el que ve clavos y se precipita a clavarlos, venga o no venga a cuento, no es la persona que tiene el martillo, sino el martillo, por su cuenta?No hace mucho, Warren Rajah, ciudadano británico, fue obligado a irse de un supermercado de la cadena Sainsbury donde compraba habitualmente, en Londres, porque el programa de vigilancia a través del reconocimiento facial contratado por la empresa le confundió con otra persona. Los empleados del supermercado invitaron a Rajah a abandonar el local, pero no acertaron a explicarle por qué debía irse. No lo sabían. La presunción de todos era que le habían pillado en algún establecimiento de la cadena intentando robar, pero Rajah insistió en que nunca había causado ningún problema.Vigilancia con IA de clientes en un supermercado Getty ImagesLe dijeron que se pusiera en contacto con la empresa de reconocimiento facial, Facewatch, y los responsables de Facewatch le pidieron que enviara una fotografía suya y una copia de su pasaporte para verificar si coincidían con las imágenes que tenían en su base de datos. Como es lógico, Warren Rajah dijo que no le correspondía a él demostrar que no era ningún delincuente, que quien debía demostrarlo, para prohibirle la entrada en los supermercados, era Sains­bury. Pero sus protestas fueron inútiles.Warren Rajah debe de ser un santo, o está tan acostumbrado a los productos de Sainsbury que no le apetecía cambiar de supermercado, porque se armó de paciencia e hizo todo lo que le pidieron. Gracias a ello, después de varias idas y venidas, el asunto se aclaró. Los empleados del supermercado habían interpretado mal la información que habían recibido de Facewatch. Le habían confundido con otra persona. Sainsbury no tenía nada contra él. Podía entrar en todos los locales de la cadena. Sorry. Un malentendido.¿Quién manda aquí, los algoritmos y los que se están haciendo­ de oro con la adicción que crean o nosotros?El caso en sí no tiene ninguna importancia, pero ilustra bien un nuevo peligro. Los ordenadores y programas informáticos no han oído hablar de la presunción de inocencia. No entienden de estos refinamientos. Para ellos, todos somo culpables hasta que demostremos que somos inocentes.Otro caso, muy distinto pero que, en el fondo, plantea la misma cuestión, la constatación de que el progreso tecnológico ha creado unas fuerzas que condicionan cada vez más nuestras vidas y escapan a nuestro control. Matteo Ferrari, prior de una comunidad de monjes camalduleses –una rama benedictina eremítica fundada por san Romualdo en el siglo XI– de la Toscana, hizo pública no hace mucho una recomendación a los monjes para que evitaran el uso de plataformas como Netflix y de redes sociales como TikTok.El buen padre prior argumentaba, muy sabiamente, que estas plataformas digitales están concebidas para generar dependencia y colonizar el tiempo interior y son una amenaza para la vida contemplativa, y por tanto son contrarias a los principios de la orden, y resumía la esencia de su mensaje con una frase: “La celda de un monje no es un cine”.No sé si conseguirá que los monjes le obedezcan. La vida monacal y Netflix no son muy compatibles sin duda. Pero ¿qué va a hacer? ¿Desconectar el wi-fi del convento? ¿Obligar a todos los monjes a dejar los móviles y los ordenadores fuera de las celdas? Le deseo suerte. ¡Coraggio, padre! La batalla que plantea es parecida a la de las autoridades educativas de aquí, que han tardado, pero han llegado a la conclusión de que poner un móvil en manos de un adolescente y permitirle que lo utilice en la escuela durante el horario lectivo es un disparate y están intentando limitar el uso de dispositivos en las aulas, cosa que tampoco será pan comido.Son las primeras escaramuzas de una guerra que no ha hecho más que empezar y que sin duda será una de las con­fla­graciones del siglo. ¿Quién manda aquí, los algoritmos y los que se están haciendo­ de oro con la adicción que crean o nosotros? El progreso siempre nos quita con una mano una parte de lo que nos da con la otra. Como dijo –más o menos– la humorista estado­unidense Alice Kahn: “Si quiere una lista de los inconvenientes del progreso tecnología digital, marque tres”.