¿Por qué seguimos confiando en Amazon? Cómo los grandes gigantes tecnológicos no protegen a la sociedad

Es posible que Amazon haya estado esperando mucha atención pública cuando anunció dónde establecería su nueva sede, pero como muchas empresas de tecnología recientemente, probablemente no anticipó cuán negativa sería la respuesta. En los territorios de Nueva York y Virginia elegidos por Amazon, los políticos locales se opusieron a las tentaciones financiadas por los contribuyentes prometidas a la compañía. Periodistas de todo el espectro político criticaron los acuerdos, y las redes sociales se llenaron con las voces de neoyorquinos y virginianos que prometían resistencia.

De manera similar, las revelaciones de que Facebook explotó las teorías de conspiración antisemitas para socavar la legitimidad de sus críticos indican que, en lugar de cambiar, Facebook preferiría pasar a la ofensiva. A pesar de que Amazon y Apple vieron brevemente que sus valores en el mercado de valores superaban los $ 1 trillón, los ejecutivos de tecnología se vieron arrastrados ante el Congreso, lucharon por adoptar una postura coherente sobre el discurso de odio, se vieron atrapados encubriendo una conducta sexual inapropiada y vieron a sus propios empleados protestar por los negocios.

En algunos círculos, esto se ve como una pérdida de confianza pública en las empresas de tecnología que prometieron rehacer el mundo (social, ambiental y políticamente) o, al menos, tan frustrante con la forma en que estas empresas han cambiado el mundo. Pero las empresas de tecnología deben hacer mucho más que recuperar la confianza del público; necesitan probar que se lo merecían en primer lugar, lo cual, cuando se ubicaron en el contexto de la historia de la crítica tecnológica y el escepticismo, no lo hicieron.

Alejándose de los problemas

Las grandes compañías de tecnología solían encuadrar sus proyectos en una jerga vagamente utópica y con un sonido positivo que oscurece la política y la política pública, trasciende el partidismo y, convenientemente, evita el escrutinio. Google solía recordar a sus trabajadores: "No seas malvado". Facebook trabajó para "hacer que el mundo sea más abierto y conectado". ¿Quién podría objetar esos ideales?

Los académicos advirtieron sobre los peligros de plataformas como éstas, mucho antes de que muchos de sus fundadores hayan nacido. En 1970, el crítico social e historiador de la tecnología Lewis Mumford predijo que el objetivo de lo que denominó "informática" sería "proporcionar y procesar una cantidad infinita de datos, para expandir el papel y asegurar la dominación del sistema de poder. "Ese mismo año, un ensayo seminal de la pensadora feminista Jo Freeman advirtió sobre los desequilibrios de poder inherentes que permanecían en los sistemas que parecían igualar a todos.

De manera similar, en 1976, el científico informático Joseph Weizenbaum predijo que en las próximas décadas las personas se encontrarían en un estado de angustia a medida que dependían cada vez más de sistemas técnicos opacos. Desde entonces, se han emitido innumerables advertencias similares, incluida una importante beca reciente, como la exploración de Safiya Noble, investigadora de la información, sobre cómo las búsquedas de Google replican los prejuicios raciales y de género y la declaración de la académica Siva Vaidhyanthan de que “el problema con Facebook es Facebook”.

Las compañías de tecnología son poderosas y ricas, pero sus días de evitar el escrutinio pueden estar terminando. El público estadounidense parece estar empezando a sospechar que los gigantes de la tecnología no estaban preparados, y quizás no estaban dispuestos, a asumir la responsabilidad de las herramientas que desataron en el mundo.

Después de las elecciones presidenciales de los Estados Unidos de 2016, la preocupación sigue siendo que los gobiernos rusos y otros gobiernos extranjeros están utilizando cualquier plataforma de medios sociales disponible para sembrar la discordia y el descontento en las sociedades de todo el mundo.

Facebook aún no ha resuelto los problemas de privacidad y transparencia de los datos que causaron el escándalo de Cambridge Analytica. Twitter es el megáfono preferido para el presidente Donald Trump y el hogar de las perturbadoras cantidades de discurso de odio violento. El futuro de las oficinas corporativas de Amazon se perfila como una pelea entre los funcionarios electos y las personas que supuestamente representan.

¿Es la ignorancia o la ingenuidad?

Viendo la situación actual con la historia de las críticas de la tecnología en mente, es difícil no concluir que las compañías de tecnología merecen las crisis que enfrentan. Estas compañías les piden a las personas que les confíen sus correos electrónicos, datos personales, historiales de búsqueda en línea e información financiera, hasta el punto de que muchas de estas compañías dicen con orgullo que conocen a individuos mejor que ellos mismos. Promueven sus sistemas más recientes, incluidos los "parlantes inteligentes" y las "cámaras inteligentes", que buscan garantizar que los usuarios puedan vigilar cada momento de vigilia, y también los momentos de sueño, y así introducir más datos en sus algoritmos de creación de dinero.

Sin embargo, al parecer, inevitablemente, estas compañías continúan demostrando cuán indignas de confianza son, filtrando datos, compartiendo información personal y evitando la piratería, mientras llenan el mundo lentamente con una tecno-paranoia perturbadora digna de un episodio de "Black Mirror. ”

Las respuestas de las empresas de tecnología a cada nueva revelación se ajustan a un patrón estándar: después de que surge un escándalo, la compañía involucrada expresa su alarma de que algo salió mal, promete investigar y se compromete a hacerlo mejor en el futuro. Algún tiempo, días, semanas o incluso meses, más tarde, la compañía revela que el escándalo fue un resultado directo de cómo se diseñó el sistema, y ​​derrota a un ejecutivo consternado para expresar su indignación por los usos destructivos que las personas malas encontraron para su sistema. Sin admitir que el problema es el propio sistema.

El mismo Zuckerberg le dijo al Senado de los EE. UU. En abril de 2018 que el escándalo de Cambridge Analytica le había enseñado que "tenemos la responsabilidad de no solo darles herramientas a las personas, sino también asegurarnos de que esas herramientas se usen para siempre". fuera mientras se crea una empresa multimillonaria.

Reconstruyendo de lo que queda

El uso de cualquier tecnología, desde un cuchillo hasta una computadora, conlleva riesgos, pero a medida que los sistemas tecnológicos aumentan en tamaño y complejidad, la escala de estos riesgos también tiende a aumentar. Una tecnología solo es útil si las personas pueden usarla de manera segura, en formas en que los beneficios superan los peligros y si pueden confiar en que comprenden y aceptan los riesgos potenciales. Hace un par de años, Facebook, Twitter y Google pueden haber parecido a la mayoría de las personas como métodos de comunicación benignos que traían más a la sociedad de lo que se llevaban. Pero con cada nuevo escándalo, y la respuesta confusa, cada vez más personas ven que estas compañías representan un grave peligro para la sociedad.

Por muy tentador que sea señalar el botón de "apagado", no hay una solución fácil. Los gigantes de la tecnología se han convertido en parte de la vida cotidiana de cientos de millones de personas. Sugerir que las personas simplemente renuncien es simple, pero no reconoce cuán confiables se han vuelto muchas personas en estas plataformas, y qué tan atrapadas pueden sentirse en una situación cada vez más intolerable.

Como resultado, las personas compran libros sobre lo malo que es Amazon: ordenándolos en Amazon. Realizan búsquedas en Google de artículos sobre la cantidad de información que Google conoce sobre cada usuario individual. Publican en Twitter sobre cuánto odian Twitter y publican en Facebook artículos sobre el último escándalo de Facebook.

Las compañías de tecnología pueden encontrarse gobernando sobre una base de usuarios cada vez más agravada, ya que sus plataformas propagan el descontento más lejos y más amplio de lo que era posible en el pasado. O podrían elegir cambiar drásticamente a sí mismos, dividirse, ceder algunos controles a las decisiones democráticas de sus usuarios y responsabilizarse del daño que sus plataformas y productos han hecho al mundo. Hasta ahora, sin embargo, parece que la industria no ha ido más allá de ofrecer disculpas a medias, mientras continúa haciendo negocios como de costumbre. Esperemos que eso cambie. Pero si el pasado es una guía, probablemente no lo sea.

Este artículo fue publicado originalmente en The Conversation por Zachary Loeb. Lee el artículo original aquí.