¿Qué disrumpen las tecnologías disruptivas?

10 jun. 2021

Philip Brey, Profesor de Filosofía de la Tecnología en el Departamento de Filosofía de la Universidad de Twente y experto de STI, fue orador principal en el International Workshop on Controversies and Polarization on Disruptive Technologies, una reunión híbrida celebrada virtualmente en Granada (España) del 5 al 6 de octubre de 2020. Su presentación trató sobre "Tecnologías disruptivas: consecuencias sociales, morales y ontológicas". La siguiente es una versión abreviada de una entrevista posterior.

Expertos STI

El profesor Philip Brey ha liderado varios proyectos con financiación europea como SHERPA y SIENNA, y recientemente ha comenzado a liderar un gran proyecto sobre la ética de las tecnologías socialmente disruptivas que cuenta con un presupuesto combinado de 27 millones de euros concedido por la Netherlands Organization for Scientific Research y varias universidades.

¿Qué es la "tecnología socialmente disruptiva"? ¿Puede haber diferentes tipos de disrupción?

Las tecnologías socialmente disruptivas son tecnologías que no solo cambian los dominios o prácticas específicas para las que fueron diseñadas, sino que cambian nuestra vida en un sentido mucho más amplio. Son tecnologías que transforman la vida cotidiana, las instituciones sociales, las prácticas culturales y la organización de la economía, los negocios y el trabajo. Incluso pueden afectar a nuestras creencias, derechos y valores fundamentales. Ejemplos históricos de tales tecnologías incluyen la imprenta, la máquina de vapor, la iluminación eléctrica, la computadora e Internet. Ahora, tenemos la Inteligencia Artificial (IA), la robótica, la genómica de próxima generación, la nanotecnología y muchos otros.

De hecho, las nuevas tecnologías pueden ser socialmente disruptivas de muchas maneras, y parte de nuestra investigación [dentro del programa Ethics of Socially Disruptive Technologies] es investigar varias dimensiones de la disrupción. Actualmente estamos construyendo un nuevo modelo de evaluación de impacto para esto, y nuestro objetivo es investigar, en particular, las disrupciones en el funcionamiento básico de la sociedad, en la vida y el comportamiento individuales, en el entorno natural y en los conceptos y creencias básicos.

En varias publicaciones, ha analizado los desafíos que existen a la hora abordar los problemas éticos de las tecnologías emergentes. La incertidumbre sobre los futuros avances tecnológicos, por ejemplo, es un obstáculo importante a este respecto. Su modelo Anticipatory Technology Ethics (ATE) es una contribución en este sentido. Brevemente, ¿Cuáles son sus principales características?

El modelo ATE tiene por objeto permitir evaluaciones éticas exhaustivas de las tecnologías emergentes. Por evaluación exhaustiva me refiero a una que considere, no sólo cuestiones éticas generales en un campo de nuevas tecnologías, sino también varias cuestiones aplicadas que están relacionadas con los productos y aplicaciones que salen de ese campo. Debido a que, a menudo, no sabemos todavía cuáles serán estos productos y aplicaciones, necesitamos anticipar las trayectorias posibles y plausibles que la nueva tecnología puede tomar. Esto se hace utilizando el análisis prospectivo. ATE combina el análisis prospectivo y el análisis ético para identificar, analizar y evaluar cuestiones éticas en tres niveles: el nivel general, en el que se define una tecnología; el nivel de artefactos y productos concretos; y el nivel de aplicación y uso, en contextos particulares y por parte de usuarios particulares.

Por ejemplo, al evaluar la robótica, este enfoque le diría, no sólo qué cuestiones éticas generales se relacionan con la robótica, sino también las cuestiones éticas en relación con tipos específicos de robots (robots humanoides, robots sociales, robots de enjambre y micro-robots), y las cuestiones éticas en relación con usos específicos (robots en la atención médica, robots en defensa y robots en la aplicación de la ley, por ejemplo). Con ATE, también se puede optar por limitar el análisis a un solo tipo de artefacto, o a un dominio de aplicación.

Muchas tecnologías disruptivas pueden conducir a grandes transformaciones en un futuro difícil de prever. ¿Está interesado en combinar el enfoque ATE con el análisis de tecnologías socialmente disruptivas? ¿Cuáles cree que son las tecnologías que más impacto social causarán a medio plazo (digamos unos 25 años)?

ATE es muy adecuado para integrarse en nuestro nuevo programa de investigación, que se espera que suceda en los próximos años. Actualmente estamos sondeando qué nuevas tecnologías evaluamos como socialmente disruptivas. Hemos identificado un total de sesenta hasta ahora. Algunos ejemplos son: el Internet de las cosas, el Blockchain, la tecnología de sensores, la realidad aumentada, la edición del genoma, la biología sintética, las interfaces cerebro-computadora, las tecnologías de eliminación de dióxido de carbono, las redes inteligentes y los materiales inteligentes. Algunos de ellos, por supuesto, tendrán un alcance y un impacto más amplios que otros. Ciertamente, la Inteligencia Artificial tendrá un gran impacto en el futuro, en combinación con la robótica y el análisis de datos. El Internet de las cosas también lo hará, al igual que la edición del genoma, la neurotecnología, las nuevas tecnologías del cambio climático, la fabricación aditiva y los nuevos materiales, por nombrar solo algunos.

Este contexto de disrupción tecnológica se caracteriza por una creciente interacción entre humanos y máquinas, difuminando los límites y mejorando nuestra comprensión como entornos socio-técnicos. ¿Qué consecuencias tiene esta creciente hibridación, en su opinión, y cómo puede cambiar nuestra concepción del albedrío moral y la identidad humana? En este sentido, ¿podemos hablar de progreso moral? ¿Cuáles serían los elementos más relevantes de la disrupción moral en este nuevo contexto?

Esta es sin duda una de las preguntas clave para nuestro nuevo programa. Si bien la tecnología siempre ha extendido la agencia humana, ahora estamos llegando a un punto en el que la relación entre la tecnología y los humanos se vuelve tan íntima, donde la tecnología está (semi)permanentemente unida o insertada en el cuerpo, que estamos presenciando una hibridación y cibernetización de los seres humanos que no hemos presenciado antes. Esto tiene consecuencias potencialmente profundas para la identidad humana, el albedrío y la moralidad, y el concepto mismo de la naturaleza humana. Tenemos que preguntarnos por cada nueva tecnología que tiene una relación tan íntima con los seres humanos: ¿Cuáles son las consecuencias de estas nociones, y nos seguirán permitiendo hablar de un sujeto humano independiente y autónomo capaz de tener sus propios pensamientos y tomar sus propias decisiones, en lugar de que estén determinadas por la tecnología? Sin duda existe el riesgo de que esta hibridación conduzca a una abdicación de la responsabilidad moral por parte de los individuos y a nuevas brechas de responsabilidad en la sociedad. Esto no sería un progreso moral. Sin embargo, si las tecnologías están diseñadas para apoyar la autonomía y la libertad humanas, entonces es muy posible que terminen apoyando el progreso moral. Se trata de decisiones morales y de diseño muy complicadas que habría que tomar en relación con las nuevas tecnologías. Éstas juegan un papel especial en las neurotecnologías, la IA, la robótica y las tecnologías portátiles, así como las tecnologías de edición de genes que pueden afectar la forma en que pensamos y actuamos.

Por último, no hay duda de que las tecnologías disruptivas también tienen un enorme impacto transformador en la política. ¿Están preparadas las democracias liberales para absorber este impacto? ¿Cómo afectan las tecnologías disruptivas al sistema político? ¿Necesitamos una nueva filosofía política para este nuevo contexto?

Esta es una pregunta cada vez más pertinente, y que es central en una de las cuatro líneas de investigación de nuestro programa Ethics of Socially Disruptive Technologies. La perturbación de las tecnologías puede extenderse al orden institucional y político existente. Estas disrupciones resultantes pueden ser para bien o para mal. Hasta ahora, Internet ha tenido, con mucho, el mayor impacto en las democracias liberales en comparación con cualquier otra tecnología, ya que ha revolucionado la forma en que las personas recopilan y difunden información y se comunican entre sí, procesos que son vitales para el funcionamiento de cualquier sistema político. La expectativa inicial era que Internet fortalecería la democracia al hacer que la información y la comunicación sean más democráticas. Sin embargo, el aumento de las plataformas comerciales de redes sociales en combinación con el análisis de datos y la tecnología de IA ha llegado a apoyar la desinformación, la radicalización y la manipulación política de maneras que ahora amenazan la democracia liberal. En nuestro programa, examinaremos estos desarrollos y las formas de contrarrestarlos, así como otras formas en que las tecnologías emergentes disrumpen y transforman los sistemas políticos.

Puede leer aquí completa la entrevista realizada a Philip Brey por Jon Rueda Etxebarria, Becario INPhNIT de La Caixa en la Universidad de Granada, y Txetxu Ausín, del Grupo de Ética Aplicada del Instituto de Filosofía (CSIC), y que se ha reproducido aquí con su permiso.

El profesor Brey participó en el 'Technology and the Good Society' reunión de expertos, en la que se examinó el papel que desempeñan los avances tecnológicos modernos en la configuración de la sociedad, para bien o para mal.