La mala tecnología

(este artículo se publicó originalmente el en el periódico económico La Información el día 28 de abril de 2023)

Dos de cada tres ciudadanos son incapaces de diferenciar una noticia real de un bulo. El 85 por ciento de los encuestados cree que existe una intención deliberada de manipularlos a través de las redes sociales. Estas fueron las conclusiones del barómetro de Oxfam España y al mismo tiempo vemos como sucesos escalofriantes nos hielan la sangre por la capacidad que tienen algunas aplicaciones móviles de sacar lo peor del ser humano. Muchachos apaleados, chicas violadas en manada o jóvenes que se quitan la vida, muchas veces energizados por perniciosos mensajes que se expanden como una mancha de aceite en internet.

Pero qué decir sobre la digitalización y la fuerza de trabajo. McKinsey defiende que 800 millones de personas serán desplazadas de sus puestos de trabajo antes de 2030 debido a la automatización. El Foro Económico Mundial considera que el 29 por ciento de las tareas laborales son realizadas por una máquina, pero para 2025 está cifra significaría la pérdida de 75 millones de empleos en el mundo.

La memoria de la Fiscalía General del Estado demuestra que los delitos han pasado de la calle a internet. Más del 80 por ciento de las compañías han sufrido un ciberataque, uno de cada tres particulares han sufrido un pirateo, aunque no lo sepan. Hasta existe una industria - por cierto, muy lucrativa - del cibercrimen: delincuentes organizados en la conocida como “internet profunda” en la que se ofrecen y demandas servicios de ataques informáticos a empresas y particulares con total impunidad.

Son tres grandes ámbitos en los que la digitalización está lesionando la dignidad del ser humano. Las noticias falsas nos llevan a tomar decisiones injustas, la automatización destruye los empleos de los más vulnerables y la ciberdelincuencia campa por sus respetos empobreciendo a los atacados y haciendo más fuertes a los criminales. Pero podríamos citar muchas más, como la “uberización” de la economía -precarización de muchos empleos vinculados a plataformas tecnológicas-, la habitual utilización de los datos personales para usos mercantiles sin permiso alguno, o el uso de sofisticadas técnicas psicológicas en las aplicaciones móviles para generar dependencia, por no mencionar la violación de derechos humanos por empresas tecnológicas basadas en dictaduras pero que blanquean sus productos revistiéndolos de buena calidad y precio. 

Y ahora la inteligencia artificial (IA). Italia ha dado la voz de alarma al bloquear el uso del famoso ChatGPT porque considera que la plataforma no respeta su ley de protección de datos. Y es que la IA es un salto inédito en relación a otras tecnologías. La IA ha conseguido hacerse un hueco en nuestras vidas y su uso está mucho más extendido que el trastear con chatGPT. La IA ya hace cosas mejor que el ser humano, el reconocimiento de voz y de imagen de la máquina son ejemplos de ello. Todos los días Alexa de Amazon nos informa del tiempo; Spotify pone la música que nos gusta cuando se lo pedimos; Facebook nos etiqueta y clasifica fotos a través del reconocimiento de imágenes y Google Maps nos da información optimizada y en tiempo real sobre los atascos. Empiezan también a ser conocidos los dispositivos domóticos como termostatos inteligentes y ahora hemos empezado con los chatbots -sistemas que usan el lenguaje natural para la comunicación entre seres humanos y máquinas y que gracias a la IA mejoran con cada experiencia-. La lista se haría interminable si incluyéramos los videojuegos, los drones, las armas inteligentes y los vehículos autónomos donde la IA ha desembarcado con fuerza.

La Unión Europea ya está planteando una propuesta de regulación y algunas empresas, en boca del presidente de Telefónica, José María Álvarez-Pallete, se han unido a este debate sobre sus límites. Pero no podemos olvidar que es esta reacción es muy débil porque las mayores compañías del mundo por capitalización bursátil son tecnológicas y viven precisamente de obtener datos masivamente de sus usuarios. De las diez comunidades más grandes del planeta, solamente dos son países, el resto son plataformas como WhatsApp o YouTube. Así, al final, algunas de esas plataformas, que ya son más poderosas que los gobiernos de algunas de las grandes naciones del mundo, saben más de nuestra vida que nosotros mismos.

El decano de la escuela de negocios del MIT, el doctor Peter Hirst, siempre cita en las ceremonias de graduación la locución latina mens et manus, para remarcar que los titulados han de ser líderes que apliquen soluciones prácticas a problemas reales. En este campo también toca mente y mano. Porque detrás de todas estas expresiones de la mala tecnología hay profesionales. Personas que trabajan en empresas, muchas veces directivos, que deberían ser conscientes de que sus propias decisiones en el ejercicio de su actividad lesionan derechos y pueden llegar a ser inmorales. Una suerte de nuevo juramento hipocrático, de autorregulación, para estos tecnólogos podría ser la solución y no son pocas las instituciones que ya lo han propuesto. La Universidad de Columbia con el neurobiólogo español Rafael Yuste ha promovido uno que ha llamado tecnocrático. Las empresas han de darse cuenta de que tan importante como ganar dinero es hacerlo con la ética como aliada.

Que nadie se equivoque, la solución no pasa por quitar poder a las compañías para dárselo al Estado. La solución está en crear instituciones que operen bajo el imperio de la ley, que promuevan los valores democráticos y que permanezcan por encima de los cambios políticos o las ideologías. Instituciones en el sentido amplio del Premio Nobel North: empresas, administraciones, leyes o códigos de conducta que garanticen que la tecnología use la información para mejorar nuestras vidas.

Estas semanas con tantos colegas probando los chats de inteligencia artificial alguno me llegó a comentar que los resultados eran tan espectaculares que parecían magia. La clave está que esa magia sea blanca y no negra. Buena y no mala. Está en nuestra mano (y mente).

NOTA: este artículo se ha basado en el libro La Buena Tecnología

Iñaki Ortega es doctor en economía y profesor en UNIR y LLYC

La religión de los datos

(este artículo se publicó originalmente en el periódico Cinco Días el día 16 de junio de 2022

El gobierno del Reino Unido ha acusado a Rusia de tener una fábrica de trols (usuarios de internet que publican mensajes ofensivos) para llenar las redes sociales con propaganda del Kremlin. Los rusos están “difundiendo mentiras en las redes sociales” a través de personas contratadas por la empresa Cyber Front Z con sede en San Petersburgo. Un salario de 600 euros al mes por poner 200 comentarios diarios en Instagram y YouTube a favor de Putin y así engañar al mundo sobre la tragedia de Ucrania. Esta vez han sido activistas, pero en otras ocasiones son algoritmos en Internet que llevan a cabo tareas repetitivas de desinformación (bots). Esta guerra en internet busca debilitar la estabilidad de las democracias occidentales. De hecho, datos pagados por el Kremlin han sido difundidos masivamente en las últimas elecciones que enfrentaron a Biden y Trump, en el Brexit o en la consulta ilegal de Cataluña. 

La digitalización de la economía también ha hecho que la realidad empresarial sea un lugar donde en ocasiones campen por sus respetos la desinformación o la manipulación. El caso de Cambridge Analytica en 2018 en el que Facebook hizo un uso indebido de la información personal de aproximadamente 50 millones de usuarios, abrió la puerta a lo que Harari ha llamado el dataísmo. Yuval Noah Harari es un historiador que ha arrasado con sus libros en todo el mundo con títulos como ‘Sapiens’ u ‘Homo Deus’. En su obra alerta de que hemos llegado a creer que somos dioses y que podemos resolver cualquier problema, pero la realidad es otra. Harari explica que hemos sustituido a Dios por una suerte de nueva religión conocida como dataísmo. Una especie de ideología emergente que «no venera ni a dioses ni al hombre: adora los datos». El nuevo término ha sido utilizado para describir la importancia absoluta que tiene ahora disponer e interpretar los datos.

En estos momentos, las cinco empresas que se sitúan a la cabeza de la facturación mundial ya no son petroleras, sino plataformas que están relacionadas con la tecnología. Es un consenso que el petróleo del siglo XXI son los datos. Para el presidente de Telefónica, José María Álvarez-Pallete, la explosión de los datos y la consiguiente posibilidad de generar conocimiento se va a multiplicar. Todos los productos y sistemas de transporte, incluso la ropa, van a estar conectados a internet emitiendo información. Las previsiones de la consultora IDC nos indican que, en menos de cinco años desde la fecha de publicación de estas líneas, se multiplicarán por cinco los datos almacenados.

Esas empresas obtienen datos masivamente de sus usuarios, y en ocasiones los proporcionan de manera inconsciente. Es cierto que todas estas compañías piden formalmente permiso a los usuarios, pero necesitaríamos más de media hora para leer esas condiciones y como no queremos quedarnos aislados prestamos nuestro consentimiento inmediatamente. Mucha de la información que queda en manos de estas empresas son datos personales que incluyen salud, ocio, ideario político o religioso del presente, del pasado e incluso de futuro, a través de nuestra agenda. Así, al final, algunas de esas plataformas, que ya son más poderosas que los gobiernos de algunas de las grandes naciones del mundo, saben más de nuestra vida que nosotros mismos. De nuevo Harari alerta de que la inteligencia artificial puede ser capaz de saber la orientación sexual de un adolescente antes que él mismo, simplemente por los datos acumulados de su navegación en internet o redes sociales.

No solo las personas sino también empresas y gobiernos hemos ido generando cantidades ingentes de datos, pero -por desgracia- no se han sabido aprovechar para un buen uso. Gartner ha estimado que el 65 por ciento de los datos almacenados están desorganizados y, por tanto, con uso muy limitado. Es verdad que la pandemia ha permitido dar un salto de gigante y según diferentes analistas hemos avanzado en apenas unos meses lo que nos hubiera costado por lo menos un lustro. La rapidez en el diseño de la vacuna del coronavirus es un buen ejemplo de lo anterior.

Las tecnologías de la información son el presente y no deben alarmarnos. Sin embargo, es preocupante que un uso indebido de los grandes conjuntos de datos personales recolectados gracias a ellas pueda lesionar la privacidad, la reputación e incluso la dignidad del ser humano. Los usuarios en ocasiones tenemos la sensación de que hemos perdido el control de nuestros datos, por ello es importante retomarlo. 

Más de la mitad del tráfico de datos no se realiza entre humanos sino con máquinas (bots). Y, de estos, la mitad están dedicados al cibercrimen. Se necesita la misma transparencia en el mundo digital que la que hay en el mundo real. Las fake news prorrusas son el síntoma que ha de servir para que empecemos a preocuparnos y ocuparnos. Es el momento por ello de la regulación, pero también del autocontrol, de una suerte de juramento hipocrático para los tecnólogos que trabajan en las empresas Esta década que iba a ser una reedición de los felices años 20 del siglo pasado, nos está demostrado que no somos dioses sino seres frágiles que necesitamos de buenos datos gestionados desde el humanismo para que nos protejan, nos den salud y hagan mejor el mundo. 

Iñaki Ortega es doctor en Economía y director senior de Educación Directiva en LLYC

David Ruiz es sociólogo industrial y profesor en The Valley

El nuevo polonio ruso son los datos

(este artículo se publicó originalmente en el diario La Información el día 29 de marzo de 2022)

Hace pocos días se supo la noticia de la muerte en Kiev de la periodista rusa Oksana Baulina fruto de un misil de precisión lanzado por sus compatriotas. Oksana, conocida por sus críticas al régimen de Putin, no estaba en una “zona caliente” de la guerra sino en un enclave seguro junto a informadores internacionales.  Falleció mientras visitaba, en una caravana de periodistas, un arrasado centro comercial de la capital ucraniana. Cuando grababa imágenes de la destrucción provocada por la invasión rusa, su coche fue alcanzado por un proyectil que acabó con su vida al instante. Ningún otro vehículo de la expedición resultó dañado. Oksana, era corresponsal en Ucrania de un medio digital americano, pero antes trabajó para la Fundación Anticorrupción del opositor ruso Alexei Navalni. Después de que la organización fuera catalogada como una organización extremista, tuvo que abandonar Rusia para poder seguir informando sobre la corrupción del gobierno ruso.

Navalny, con este atentado, habrá vuelto a recordar desde su cárcel rusa aquel 20 de agosto de 2020 en Siberia en el que fue hospitalizado en estado grave. Su familia denunció que había sido envenenado, pero los médicos rusos se negaron a aceptar esa hipótesis y por tanto a iniciar un tratamiento. Entonces, Alemanía movilizó un avión medicalizado que logró trasladarle a Berlín. Unos días después el gobierno germano confirmó que las pruebas de toxicología eran «inequívocas» respecto del envenenamiento con Novichok, un veneno diluido en un té que Navalny tomó en el aeropuerto siberiano.

En noviembre de 2006, Alexander Litvinenko, pide también un té en un hotel de Londres. Tres semanas después, este antiguo espía ruso arrepentido, muere en un hospital británico. Dos días antes de fallecer, científicos atómicos confirmaron que dio positivo en envenenamiento por la radiación de polonio.

Oksana ha sido la penúltima víctima del Kremlin, pero esta vez no ha hecho falta un veneno en la taza de té. Ha bastado, probablemente, que la periodista rusa aceptase las cookies de alguna web para que su teléfono fuese rastreado por el ejercito ruso. Sea por eso, o por uno de los miles virus informáticos que pueden alojarse en cualquier móvil, Oksana fue localizada y el resto lo hizo un cohete de alta precisión. Hoy tus datos personales se pueden convertir, por tanto, en tan malignos como ese polonio que usa la KGB.

Hace un par de años Jim Balsillie, el que fue CEO de la matriz de los míticos teléfonos BlackBerry, testificó ante el comité canadiense de privacidad y democracia internacional y dejó para los anales esta frase “los datos no son el nuevo petróleo, son el nuevo plutonio”. En la declaración más extensa explica que los datos de carácter personal gestionados inadecuadamente tienen el potencial de causar un tremendo daño. Por supuesto que Jim no sabía lo que iba a suceder años después en Kiev con el asesinato de la periodista, pero sí conocía la historia de la segunda guerra mundial. Como explicó Adolfo Corujo en un recomendable podcast, el exterminio judío, puede explicarse también por el uso de datos personales. Holanda fue el país donde fueron asesinados un mayor porcentaje de judíos, 74%, pero en cambio en Francia esa cifra no llegó al 25% ¿Dónde reside fue la diferencia? Los nazis cuando invadían un país acudían a los registros municipales, para localizar a los judíos y otras víctimas. Holanda, antes de la invasión, había aprobado una norma para recopilar todo tipo de datos que ayudasen en sus políticas públicas. Uno de esos datos que disponían y tenían actualizado era la religión de las personas. Cuando, en mayo del 1940 el ejército nacional socialista invade el país de los tulipanes, solo tuvieron que ir al censo para encontrarse una exacta base de datos del número de judíos con sus direcciones. En el caso de Francia esa información no se almacenaba por cuestiones de privacidad. El ejército alemán no encontró en Francia esa información y gracias a ello, cientos de miles salvaron sus vidas.

No es nuevo, por tanto, que los datos de carácter personal son plutonio. Lo que sí es nuevo es que la tecnología ha permitido generar sistemas que recolectan estos datos con una eficiencia y a una escala astronómica a nivel global. Y esos datos, en malas manos, puede provocar un asesinato, un ataque a una infraestructura crítica o llevar a la bancarrota a una empresa. Sí, todo por un dato personal.

El plutonio es un material tóxico y radiactivo. El principal tipo de radiación que emite es la “radiación alfa” que ingerida o inhalada puede causar cáncer de pulmón o envenenamiento mortal. También el plutonio es un elemento que se utiliza en la fabricación de armas nucleares. Por eso este elemento químico está sujeto a todo tipo de restricciones en su uso, transporte y almacenamiento. Pero al mismo tiempo, el plutonio se utiliza en marcapasos que evitan infartos de miocardio y en los combustibles de los reactores de las centrales nucleares que están salvando, por ejemplo, a Francia, de la crisis energética que vivimos actualmente

Hay datos que son plutonio. Para bien y para mal. Por ello el debate no es prohibir su uso sino regularlo. Cada vez se habla más de una cuarta generación de derechos humanos ante los abusos de la mala tecnología. Los primeros derechos humanos, con la libertad y la igualdad, nos protegieron frente al poder absolutista gracias a la Revolución francesa. La segunda generación, con el derecho al empleo y la sanidad, permitió que hubiese un Estado que nos defendiese. La tercera oleada de derechos fundamentales fue coherente con la globalización y consagró el pacifismo Se necesita, por tanto, una cuarta, la de los derechos fundamentales en la era digital. El derecho a ser olvidados, el derecho a la identidad digital, la imparcialidad de la red y por supuesto el control de nuestros datos personales para evitar usos tan perversos ahora y en el futuro.

Iñaki Ortega es doctor en economía en La Universidad de Internet (UNIR) y LLYC