Financiers tend, by nature, to gamble with the money clients ask them to manage on their behalf (…). That's how they make profits. Their only constraints are the vigilance of clients and the occasional snooping of a financial regulator. That's why they favor complexity, because it allows cynical bets to be disguised as smart financial products. Is it any wonder, then, that financiers loved computers from the very beginning? (…) From the late 1970s onward, bankers wrapped their debt-fueled bets in layers of computer-generated complexity that rendered colossal risks invisible—and their rewards proportionally enormous. By the early 1980s, the financial derivatives offered were based on algorithms so complex that even their creators had no hope of understanding them.
And so it was that financiers, detached from the prosaic world of physical capitalism, legitimized by the ideology of neoliberalism, motivated by the new virtue called "greed," wrapped in the complexity of their computers, reinvented themselves (...) as masters of the universe. (...)
Every day that passes, some cloud-based corporation, whose owners you'll never bother to know, possesses another aspect of your identity. (...) Just as bank branches, post offices, and local shops are closing, friends no longer send physical letters, and governments limit the amount of cash that can be used in a transaction, resistance is becoming futile, except for those willing to become modern-day hermits. (...) You are routinely forced to surrender your identity to a part of the digital world that has been fenced off, for example, Uber (...).
We pretend Alexa is a person because we're not used to talking to machines (…). But the fact that we know Alexa isn't a person is what allows us to embrace the deep knowledge she has about us, which we might otherwise find repellently strange or frightening. (…) When we relate to her as if she were a person, even though we know she isn't, we are more vulnerable, we are ready to fall into the trap of thinking of Alexa as our Pandora, our mechanical servant. But Alexa is not a servant. She is, rather, a piece of cloud-based command capital that is turning you into a servant, with your help and thanks to your unpaid labor, in order to further enrich its owners.
(…) To use the personalized services their algorithms offer, we must submit to a business model based on collecting our data, tracking our activity, and invisibly curating our content. Once we do, the algorithm goes about selling us stuff while selling our attention to third parties. At that point, something deeper happens that gives its owners immense power: predicting our behavior, guiding our preferences, influencing our decisions, changing our minds, thus reducing us to their unpaid servants, whose job is to provide our information, our attention, our identity, and, above all, our behavioral patterns that train their algorithms.
***
Los financieros tienden, por naturaleza, a jugar con el dinero que los clientes les piden que gestionen en su nombre (…). Así es como obtienen beneficios. Sus únicas limitaciones son la vigilancia que ejercen los clientes y los fisgoneos ocasionales de un regulador financiero. Por eso les favorece la complejidad, porque permite enmascarar apuestas cínicas como si fueran productos financieros inteligentes. ¿Acaso es sorprendente, entonces, que desde el principio los financieros adoraran los ordenadores? (…) a partir de finales de la década de 1970, los banqueros envolvieron sus apuestas alimentadas por deuda con capas de complejidad generadas por ordenador que volvían invisibles unos riesgos colosales, y sus beneficios, proporcionalmente enormes. A principios de la década de 1980, los derivados financieros que se ofrecían estaban basados en algoritmos tan complejos que ni siquiera sus creadores tenían alguna posibilidad de comprenderlos.
Y así fue como los financieros, desvinculados del mundo prosaico del capitalismo físico, legitimados por la ideología del neoliberalismo, motivados por la nueva virtud llamada “codicia”, envueltos en la complejidad de sus ordenadores, se reinventaron a sí mismos (…) como amos del universo. (…)
Cada día que pasa, alguna corporación basada en la nube, cuyos dueños nunca te preocuparás de saber quiénes son, posee un aspecto más de tu identidad. (…) del mismo modo que las sucursales bancarias, las oficinas de correos y las tiendas locales están cerrando, los amigos ya no envían cartas físicas y los Estados limitan la cantidad de dinero en efectivo que puede utilizarse en una transacción, por lo que la resistencia se está volviendo inútil, excepto para quien esté dispuesto a convertirse en un moderno ermitaño. (…) te ves obligado rutinariamente a entregar tu identidad a una parte del mundo digital que ha sido vallado, por ejemplo a Uber (…).
Fingimos que Alexa es una persona porque no estamos acostumbrados a hablar con máquinas (…). Pero el hecho de que sepamos que Alexa no es una persona, es lo que nos permite aceptar el profundo conocimiento que tiene de nosotros, que de otro modo nos parecería repelentemente extraño o aterrador. (…) cuando nos relacionamos con ella como si fuera una persona, aunque sepamos que no lo es, somos más vulnerables, estamos listos para caer en la trampa de pensar en Alexa como nuestra Pandora, nuestra sierva mecánica. Pero Alexa no es una sierva. Es, más bien, una pieza del capital de mando basado en la nube que te está convirtiendo en un siervo, con tu ayuda y gracias a ti trabajo no remunerado, con el fin de enriquecer aún más a sus propietarios.
(…) Para utilizar los servicios personalizados que ofrecen sus algoritmos, debemos someternos a un modelo de negocio basado en la recopilación de nuestros datos, el seguimiento de nuestra actividad y la selección invisible de nuestros contenidos. Una vez que lo hacemos, el algoritmo se dedica a vendernos cosas mientas vende nuestra atención a terceros. En ese punto, sucede algo más profundo que da a sus propietarios un poder inmenso: predecir nuestro comportamiento, guiar nuestras preferencias, influir en nuestras decisiones, hacernos cambiar de opinión para, así, reducirnos a sus sirvientes no remunerados, cuyo trabajo es proporciona nuestra información, nuestra atención, nuestra identidad y, sobre todo, nuestro patrones de comportamiento que entrenan sus algoritmos.