(este artículo se publicó originalmente en el periódico El Economista el 18 de agosto de 2021)
Cuando George Orwell puso el
título de 1984 a su novela no pudo imaginar que sus cálculos para situar un
“Gran Hermano” no estaban tan equivocados. Apple es la empresa más grande del
planeta (si usamos como indicador la capitalización bursátil) pero además con
sus productos es una de las compañías más influyentes en todo el mundo puesto
que se estima que está presente en dos de cada diez hogares. Este mes de agosto
la empresa tecnológica ha anunciado que el nuevo iPhone tendrá un sistema que
analizará las imágenes que se hagan con todos sus dispositivos en busca de
material inapropiado. Tal y como ha anunciado la compañía con sede en
Cupertino, esta nueva tecnología escaneará las imágenes buscando coincidencias
con fotografías de abusos de referencia. Así, de modo automático y, en caso de
que se encuentre alguna coincidencia o una imagen sea sospechosa, la alerta
saltará y una persona se encargará de evaluar la instantánea, para ponerla, en
su caso, en conocimiento de las fuerzas de seguridad. Miles de millones de
usuarios de Apple podrán ser vigilados permanentemente. La empresa fundada por
Steve Jobs defiende que la aplicación es para hacer el bien, pero expertos de
universidades de Stanford, John Hopkins o Cambridge han alertado que bastará
con cambiar algunos parámetros en el algoritmo para permitir encontrar otro
tipo de fotos. Por ejemplo, los
gobiernos pedirán colaboración para luchar contra el terrorismo, la industria
de la música contra el pirateo, Hacienda contra la defraudación, las empresas
contra el absentismo, la policía contra manifestaciones no autorizadas, el cine
y el futbol para defender sus derechos de exclusividad, los nacionalismos para
garantizar el uso de idiomas vernáculos…la lista sería interminable siempre
para supuestas buenas causas que nos llevarían al personaje del libro de
Orwell.
Gran Hermano es el ente
omnipresente que gobierna el mundo en el año 1984 usando una implacable e
invasiva vigilancia de todos y cada uno de los habitantes. Para ello se vale de
Ministerios como el de Verdad o el de la Felicidad, eufemismos de mecanismos
represivos para manipular, vigilar y reprimir masivamente. Esta forma social
que imagina la novela escrita en 1947 se ha acuñado como “sociedad orwelliana”
y es un ejercicio de prospección del escritor inglés basado en los sistemas
totalitarios de la época, comunismos y fascismos.
La noticia de la empresa dirigida
por Tim Cook ha generado una enorme preocupación en torno a la privacidad de
los usuarios, ya que se cree que esta misma tecnología podría usarse para
buscar cualquier tipo de información en los teléfonos. De hecho, expertos del
prestigio de David Thiel creen que podría ser utilizada por gobiernos autoritarios
para espiar a sus ciudadanos o buscar personas que piensan de manera diferente.
Gran Hermano no en 1984 pero sí en 2021.
Una década antes de que Orwell
entregara su manuscrito, otro autor también anglosajón de nombre Aldous Huxley,
publicó “Un mundo feliz” que describe una sociedad aparentemente perfecta en la
que para asegurar la paz y la riqueza global ha de pagarse el precio de asumir
la manipulación, prescindir de la libertad de elección y limitar las
expresiones emocionales e intelectuales. Apple busca, con buena intención, un
mundo mejor, pero nos apuntamos a las dudas de los expertos de estar muy alerta
ante sofisticados sistemas basados en inteligencia artificial que acaben
tomando decisiones que afecten a las libertades individuales.
El pensador americano Raymond Kurzweil lleva un tiempo hablando de estas cuestiones, lo llama “singularidad”. En el análisis matemático se usa este término para aludir a ciertas funciones que presentan comportamientos inesperados cuando se asignan determinados valores a las variables independientes. La singularidad tecnológica se supone que se da en un hipotético punto a partir del cual una civilización sufre una aceleración del progreso técnico que provocaría la incapacidad de predecir sus consecuencias. En 2030 conforme al increíble desarrollo que está viviendo la inteligencia artificial, una máquina tendrá capacidad de crear inteligencia muy superior al control y la capacidad intelectual del ser humano.
Nos quedan unos años por delante
para que estas distopías no se hagan realidad. La clave, como siempre, reside
en las personas. La esperanza es que conforme a nuestra experiencia cada vez
más compañías apuestan por directivos no sólo capacitados y con experiencia
sino con estándares éticos que aplican en su día a día. La buena tecnología
triunfará con ellos.
Iñaki Ortega es doctor en economía y profesor de la
Universidad Internacional de La Rioja
Ignacio Pascual es socio-director de la empresa de
consultoría de alta dirección Alexander Hughes
