“Enter in Amazon.com and you will have left capitalism. Despite everything that's bought and sold there, you've entered a world that can't be considered a marketplace, not even a digital one.” When I say this to people (...) often at conferences and debates, they look at me as if I'm crazy. But when I start to explain what I mean, the concern for my sanity quickly turns to fear for us all.
Imagine the following scene from a science fiction book. You're transported to a city full of people going about their businesses, trading gadgets, clothes, shoes, books, songs, games, and movies. At first, everything seems normal. Until you start to notice something strange. It turns out that all the stores—actually, all the buildings—belong to a guy named Jeff. He may not own the factories that produce what's sold in his stores, but he owns an algorithm that takes a commission on every sale and decides what can be sold and what can't.
If that were all there was to it, the scene would evoke an old Western [film] in which a lone cowboy arrives in a town and discovers that a powerful, squat man owns the bar, the grocery store, the post office, the railroad, the bank, and, naturally, the sheriff. But that's not all. Jeff owns more than just the stores and public buildings. He also owns the ground you walk on, the bench you sit on, and even the air you breathe. In fact, in this strange town, everything you see (and don't see) is regulated by Jeff's algorithm: even if you and I are walking side by side and looking in the same direction, the view the algorithm provides is tailor-made, carefully curated according to Jeff's priorities. Everyone who comes through Amazon.com—except Jeff—wanders in algorithmically constructed isolation.
It's not a market town. It's not even some kind of hypercapitalist digital marketplace. Even the worst markets are meeting places where people can interact and exchange information fairly freely. In fact, it's worse than a completely monopolized market—there, at least, buyers can talk to each other, form associations, perhaps organize a consumer boycott to force the monopolist to lower prices or improve quality. This isn't the case in Jeff's world, where everything and everyone are mediated, not by the disinterested and invisible hand of the market, but by an algorithm that works to make Jeff profit and dance exclusively to its tune.
If this isn't frightening enough, remember that this is the same algorithm that, through Alexa, has trained us to teach it how to manufacture our desires. People rebel against such arrogance. The algorithm we help train in real time to know us perfectly is the one that modifies our preferences and manages the selection and delivery of goods that will satisfy those preferences.
Imagine the following scene from a science fiction book. You're transported to a city full of people going about their businesses, trading gadgets, clothes, shoes, books, songs, games, and movies. At first, everything seems normal. Until you start to notice something strange. It turns out that all the stores—actually, all the buildings—belong to a guy named Jeff. He may not own the factories that produce what's sold in his stores, but he owns an algorithm that takes a commission on every sale and decides what can be sold and what can't.
If that were all there was to it, the scene would evoke an old Western [film] in which a lone cowboy arrives in a town and discovers that a powerful, squat man owns the bar, the grocery store, the post office, the railroad, the bank, and, naturally, the sheriff. But that's not all. Jeff owns more than just the stores and public buildings. He also owns the ground you walk on, the bench you sit on, and even the air you breathe. In fact, in this strange town, everything you see (and don't see) is regulated by Jeff's algorithm: even if you and I are walking side by side and looking in the same direction, the view the algorithm provides is tailor-made, carefully curated according to Jeff's priorities. Everyone who comes through Amazon.com—except Jeff—wanders in algorithmically constructed isolation.
It's not a market town. It's not even some kind of hypercapitalist digital marketplace. Even the worst markets are meeting places where people can interact and exchange information fairly freely. In fact, it's worse than a completely monopolized market—there, at least, buyers can talk to each other, form associations, perhaps organize a consumer boycott to force the monopolist to lower prices or improve quality. This isn't the case in Jeff's world, where everything and everyone are mediated, not by the disinterested and invisible hand of the market, but by an algorithm that works to make Jeff profit and dance exclusively to its tune.
If this isn't frightening enough, remember that this is the same algorithm that, through Alexa, has trained us to teach it how to manufacture our desires. People rebel against such arrogance. The algorithm we help train in real time to know us perfectly is the one that modifies our preferences and manages the selection and delivery of goods that will satisfy those preferences.
***
“Entra en Amazon.com y habrás salido del capitalismo. A pesar de todo lo que se compra y se vende ahí, has entrado en un mundo que no puede considerarse un mercado, ni siquiera uno digital”. Cuando digo esto a la gente (...) a menudo en conferencias y debates, me miran como si estuviera loco. Pero cuando empiezo a explicar lo que quiero decir, la preocupación por mi cordura enseguida se convierte en temor por todos nosotros.
Imagina la siguiente escena sacada de un libro de ciencia ficción. Eres transportado a una ciudad llena de gente que se dedica a sus negocios, comercia con artilugios, ropa, zapatos, libros, canciones, juegos y películas. Al principio, todo parece normal. Hasta que empiezas a notar algo raro. Resulta que todas las tiendas, en realidad todos los edificios, pertenecen a un tipo llamado Jeff. Tal vez no sea el dueño de las fábricas que producen lo que se vende en sus tiendas, pero posee un algoritmo que se lleva una comisión por cada venta y decide qué se puede vender y qué no.
Si eso fuera todo, la escena evocaría una vieja película del Oeste [Americano] en la que un vaquero solitario llega a una ciudad y descubre que un tipo poderoso y rechoncho es el dueño del bar, la tienda de comestibles, la oficina de correos, el ferrocarril, el banco y, naturalmente, el sheriff. Pero eso no es todo. Jeff posee algo más que las tiendas y los edificios públicos. También posee la tierra que pisas, el banco en el que te sientas e incluso el aire que respiras. De hecho, en esta extraña ciudad, todo lo que ves (y lo que no ves) está regulado por el algoritmo de Jeff: aunque tú y yo caminemos uno al lado del otro y miremos en la misma dirección, la vista que nos proporciona el algoritmo está hecha a medida, cuidadosamente seleccionada según las prioridades de Jeff. Todo el que venga por Amazon.com –excepto Jeff– deambula en un aislamiento construido algorítmicamente.
No es un pueblo con mercado. Ni siquiera es una especie de mercado digital hipercapitalista. Incluso los peores mercados son lugares de encuentro en los que la gente puede interactuar e intercambiar información con bastante libertad. De hecho, es peor que un mercado totalmente monopolizado –allí, al menos, los compradores pueden hablar entre sí, formar asociaciones, tal vez organizar un boicot de consumo para obligar al monopolista a reducir el precio o mejorar la calidad. No ocurre lo mismo en el mundo de Jeff, donde todo y todos están intermediados, pero no por la mano desinteresada e invisible del mercado, sino por un algoritmo que trabaja para que Jeff obtenga beneficios y que baile exclusivamente a su son.
Si esto no es suficientemente aterrador, recuerda que se trata del mismo algoritmo que, a través de Alexa, nos ha entrenado para que le enseñemos a fabricar nuestros deseos. La gente se rebela ante semejante arrogancia. El algoritmo que ayudamos a entrenar en tiempo real para que nos conozca a la perfección es el que modifica nuestras preferencias y administra la selección y entrega de bienes que satisfarán estas preferencias.
Imagina la siguiente escena sacada de un libro de ciencia ficción. Eres transportado a una ciudad llena de gente que se dedica a sus negocios, comercia con artilugios, ropa, zapatos, libros, canciones, juegos y películas. Al principio, todo parece normal. Hasta que empiezas a notar algo raro. Resulta que todas las tiendas, en realidad todos los edificios, pertenecen a un tipo llamado Jeff. Tal vez no sea el dueño de las fábricas que producen lo que se vende en sus tiendas, pero posee un algoritmo que se lleva una comisión por cada venta y decide qué se puede vender y qué no.
Si eso fuera todo, la escena evocaría una vieja película del Oeste [Americano] en la que un vaquero solitario llega a una ciudad y descubre que un tipo poderoso y rechoncho es el dueño del bar, la tienda de comestibles, la oficina de correos, el ferrocarril, el banco y, naturalmente, el sheriff. Pero eso no es todo. Jeff posee algo más que las tiendas y los edificios públicos. También posee la tierra que pisas, el banco en el que te sientas e incluso el aire que respiras. De hecho, en esta extraña ciudad, todo lo que ves (y lo que no ves) está regulado por el algoritmo de Jeff: aunque tú y yo caminemos uno al lado del otro y miremos en la misma dirección, la vista que nos proporciona el algoritmo está hecha a medida, cuidadosamente seleccionada según las prioridades de Jeff. Todo el que venga por Amazon.com –excepto Jeff– deambula en un aislamiento construido algorítmicamente.
No es un pueblo con mercado. Ni siquiera es una especie de mercado digital hipercapitalista. Incluso los peores mercados son lugares de encuentro en los que la gente puede interactuar e intercambiar información con bastante libertad. De hecho, es peor que un mercado totalmente monopolizado –allí, al menos, los compradores pueden hablar entre sí, formar asociaciones, tal vez organizar un boicot de consumo para obligar al monopolista a reducir el precio o mejorar la calidad. No ocurre lo mismo en el mundo de Jeff, donde todo y todos están intermediados, pero no por la mano desinteresada e invisible del mercado, sino por un algoritmo que trabaja para que Jeff obtenga beneficios y que baile exclusivamente a su son.
Si esto no es suficientemente aterrador, recuerda que se trata del mismo algoritmo que, a través de Alexa, nos ha entrenado para que le enseñemos a fabricar nuestros deseos. La gente se rebela ante semejante arrogancia. El algoritmo que ayudamos a entrenar en tiempo real para que nos conozca a la perfección es el que modifica nuestras preferencias y administra la selección y entrega de bienes que satisfarán estas preferencias.
Avis, Alentejo, Portugal (2011)
No hay comentarios:
Publicar un comentario