Yuval Noah Harari ha reflexionado sobre la ética en el desarrollo de tecnologías en Converge, un evento de Globant
Entender a las personas como creadores activos o consumidores pasivos diferencia una buena tecnología de una mala
(www.reasonwhy.es).-“Un cuchillo puede servir, a la vez, para untar mantequilla en una tostada o para apuñarlar a una persona. La energía nuclear puede ayudar a producir electricidad de forma más rápida y económica y, al mismo tiempo, suponer una terrible amenaza para el equilibrio del planeta. Quienes desarrollaron las primeras redes sociales pensaron que ayudarían a liberar a la gente y fortalecerían las democracias. Ahora sabemos que también pueden herirlas y establecer dictaduras digitales”.
Converge by Globant ha analizado las tendencias tecnológicas que están dando forma a los negocios
Para Yuval Noah Harari, historiador, escritor y conferenciante, la línea que separa una tecnología buena de una tecnología mala, desde el punto de vista ético, es extremadamente delgada y depende esencialmente de la concepción que ingenieros y desarrolladores tengan de los individuos como receptores de la invención. Así lo ha explicado en la sesión “How Technology Can Help Humans Flourish”, ofrecida por Globant en el marco de su evento internacional Converge, centrado en las últimas tendencias tecnológicas que están dando forma al ecosistema empresarial.
Harari considera que toda persona responsable del diseño de una tecnología debe cuestionarse cómo entiende a los humanos y la relación de estos tienen con las herramientas que se van a crear. “Una posibilidad es pensar en los humanos como consumidores pasivos y en la tecnología como un método para controlarlos. En este caso, lo que produzcamos esclavizara a la gente y limitará el potencial humano”, ha comentado durante su presentación. “También podemos diseñar pensando que los humanos son creadores activos y que la tecnología puede usarse para empoderarles. En este caso, la tecnología estará llamada a liberar a la gente y expandir el potencial humano”.
La primera tecnología
Consciente de su afirmación puede ser una idea abstracta y compleja, el autor de “Sapiens” ha apoyado su argumento con distintos ejemplos. La primera tecnología sobre la que ha reflexionado Harari ha sido una de las invención más importantes, y a la vez simples, de la historia de la humanidad: la escritura. Según ha apuntado el historiador, fue desarrollada en la antigua Mesopotamia con la intención de establecer un registro de impuestos. Tan solo con una tabla de arcilla y un palo, los habitantes del antiguo imperio consiguieron solucionar un problema que la mente humana, por su capacidad limitada para recordar largas listas de pago de impuesto, no podía solventar.
La escritura supuso una evolución sin prececentes, pero también la creación de regímenes autocráticos
“La escritura logró hacer lo que la mente humana no podía y, gracias a ello, se estableció el primer gran imperio de la historia. Sin embargo, al mismo tiempo que aportó una evolución sin precedentes para la sociedad, se convirtió en una herramienta de creación de regímenes autocráticos que esclavizaban a la gente”, ha apuntado Harari. “Y es que para las personas ordinarias la escritura significo impuestos. Unos impuestos que además no se destinaban a educación o sanidad, sino a pagar las fortalezas y castillos de los reyes”.
Para el historiador, quienes inventaron la escritura no comprendían el potencial de su propia creación y entendían a los seres humanos de una forma muy estrecha, es decir, como consumidores pasivos. Aquella escritura solo se aplicaba al registro de impuestos utilizando las formas básicas de personas, bienes y números. No sería hasta la inclusión de nuevos símbolos y la llegada de Enheduanna, la autora y poeta más antigua cuyo nombre se conoce, cuando la escritura comenzaría a aplicarse para el registro de poemas y narrativas, hasta entonces transmitidos de manera oral.
¿Creatividad en las plataformas digitales?
Para el escritor israelí esta situación ha encontrado una analogía con el desarrollo de plataformas digitales como YouTube o TikTok en el siglo XXI. Tal y como ha expuesto, el sitio web de vídeos podría haber sido adquirido en 2005 por alguno de los gigantes audiovisuales que entonces controlaban el mercado televisivo y cinematográfico, como Disney, pero eran excépticos de su modelo de negocio. “Pensaban que, aunque existiera la posibilidad técnica de albergar y distribuir miles de vídeos, ¿quién iba a tener la capacidad de producir esos miles de vídeos?”, ha preguntado Harari. “Pensaron en los consumidores como espectadores pasivos y que solo los grandes estudios ostentaban la capacidad de producción”.
En 2006 fue Google quien adquirió YouTube por 1.650 millones de dólares, una cifra astronómica para la época, pero que ha demostrado ser una de las operaciones empresariales más rentables. “Google descubrió que las personas no son espectadores pasivos, sino que pueden levantarse del sofá y ser creadores con talento. La compañía no ha pagado un dólar para producir los vídeos que alberga, y tampoco ha tenido que contratar profesionales para hacerlos”, ha señalado el escritor. «Han desatado una marea de creatividad y convertido a miles de personas en artistas y productores. Eso es inspirador”.
No obstante, Harari ha puesto de manifiesto la contrapartida de todo ello. Con tanto contenido en las plataformas digitales, este se ha vuelto muy barato y accesible para los players del sector, pero ahora es la atención lo que se ha convertido en el recurso más preciado. A TikTok, por ejemplo, no le cuesta producir los videos, los usuarios son quienes lo hacen, pero el desafío residen en cómo captar la atención de la audiencia y retenerla en su plataforma.
Para el escritor ese es precisamente el punto de inflexión que está convirtiendo este tipo de plataformas en perjudiciales para el ser humano. “En el diseño de herramientas para captar la atención de los usuarios, las plataformas han adoptado una visión muy estrecha de los humanos. Han descubierto, mediante ensayo y error, que la forma más sencilla para hacerlo es apretar el botón de la avaricia, el miedo y el odio en nuestras mentes. Saben lo que deseamos, tememos u odiamos y nos dan cada vez más de eso”.
Tal como lo ha expuesto el escritor, si a un usuario le gustan los hombres sexis sin camiseta, TikTok le mostrará vídeos de hombres sexis bailando sin camiseta. O si un usuario tiene animadversión por un político, Facebook le lanzará contenido conspiranoico sobre dicho político que le resultará imposible no clicar. “En lugar de expandir nuestros horizontes, nuestra visión del mundo se vuelve más limitada. Alimentamos nuestra mente con comida rápida; con avaricia, miedo y odio. Eso no es bueno para nosotros, ni como individuos ni como sociedad”.
La mayoría de las aplicaciones de citas conciben a las personas como consumidores de parejas
Durante su exposición, Harari también ha ejemplificado su argumento en las aplicaciones de citas. En su opinión, hay dos modelos de este tipo de herramientas. El primero concibe a los humanos como consumidores de parejas, y por tanto, sugieren mediante algoritmos una persona tras otra para satisfacer el deseo de encontrar a alguien perfecto. “Esto es imposible, porque la pareja perfecta no existe y porque hay 8.000 millones de personas en el mundo. Bajo este concepto, las personas se prueban y se devuelven como productos a una estantería, esperando que la siguiente opción sea mejor”.
En el segundo modelo, las aplicaciones de citas entienden a los seres humanos como productores de relaciones. Con esta idea, la función de la tecnología no sería encontrar la pareja ideal, sino ayudar a los usuarios a tener la mejor relación posible, acompañando en los cambios de comportamiento y patrones de pensamiento necesarios para lograrlo. “Este tipo de aplicaciones estarán contentas por ti cuando encuentres a tu pareja, porque entonces empezará el verdadero trabajo”, ha explicado Harari. “Te quedarás en la app porque te ayuda a mantener una buena relación y navegar aspectos como el sexo, el romance o quien tiene que sacar la basura”.
El metaverso: cielo o infierno
Por último, el escritor y conferenciante, ha hecho referencia a uno de los desarrollos que está acaparando la atención del ecosistema empresarial: el metaverso. Tras el rebranding de Facebook en Meta para responder a su visión de convertirse en compañía líder de este nuevo concepto, Harari considera que es más importante que nunca desarrollar estos nuevos universos preguntándose si los seres humanos son consumidores pasivos o creadores activos. “¿Estamos creando una realidad fija y completa, y un producto que los humanos consumían, o estamos haciendo herramientas para que los humanos creen cosas nuevas y construyan todo tipo de realidades?”, se ha preguntado en modo reflexivo.
Desde su punto de vista, el primer enfoque puede conducir a una tecnología limitada y autocrática, puesto que los usuarios formarán parte de una realidad con controles establecidos y sin posibilidad de cambiarla. Será como los anteriormente citados registros de impuestos. En cambio, el segundo enfoque dará lugar a una herramienta más liberadora, como una tabla de arcilla en limpio donde escribir los poemas que queramos.
Sin embargo, ha advertido que los universos inmersivos ofrecen muchas más posibilidades que una sencilla tabla de arcilla. Es más, para Harari el metaverso plantea cuestiones y debates filosóficos e, incluso, religiosos, ya que hasta cierto punto el concepto juega con la idea de separar la mente del cuerpo para acceder a otros mundos. “Pensemos en una persona encerrada en su habitación jugando y conectando de forma online con otras personas, y sin salir siquiera para comer. ¿Está esta persona atrapada sufriendo algún tipo de disfuncionalidad social o está liberada de una prisión física formada por casa, coches y cuerpos orgánicos, y libre para recorrer un mundo mucho más amplio y con posibilidades ilimitadas?”.
La respuesta para Harari depende de cómo entendamos a los seres humanos. Y esto, a su vez, es lo que está dando forma al mundo. Explica que el desarrollo de las nuevas tecnologías ha alterado el orden tradicional en la creación de invenciones. El historiador apunta que durante siglos ha habido una separación entre filósofos e ingenieros. Hasta ahora, los filósofos soñaban con utopías y los ingenieros explicaban porqué estas no podían ser reales. Ahora, prácticamente esta situación se ha invertido, puesto que los ingenieros han desarrollado infinidad de soluciones, pero los filósofos no saben qué hacer con ellas.
“Las nuevas tecnologías pueden crear el cielo o el infierno. Pero no estamos seguros de cuál es cual. Y esta situación es muy peligrosa. La linea entre lo dos es muy fina, y pueden transformarse el uno en el otro. Ahí hay un enorme poder”, ha señalado Harari al término de su intervención en Converge by Globant. “Espero que se hagan elecciones sabias respecto a cómo usar este poder. Espero que los humanos no sean vistos como consumidores pasivos que deben ser controlados, sino cómo creadores que deben ser empoderados”.
