Inteligencia artificial en la era del “capitalismo de vigilancia”

En su ensayo, Noé Vázquez hace un recorrido por la IA a partir de la ciencia ficción, de la mano de autores como Fredric Brown e Isaac Asimov, para desembocar en teóricos como Shoshana Zuboff, que habla de los algoritmos extractivistas de la información. Una lectura imperdible...

Una pregunta filosófica: ¿Qué existe y qué consiste? Otra, ¿existimos dentro de una entidad ultra terrena o ésta habita fuera de nosotros? ¿Somos parte de ella como en un todo que nos rodea, una estructura gigantesca en donde hacemos las veces de diminutos parásitos?

Hay una pequeña ficción de Fredric Brown llamada «La respuesta» (1954), que asocia las súper máquinas, las comunicaciones intergalácticas en redes infinitas con una presencia, la de una divinidad tecnológica en forma de ordenador monstruoso y ubicuo que comunica al universo entre sí con infinitas sinapsis. Una red de ordenadores conecta a todos los planetas del Universo (noventa y seis millones) combinando todos los conocimientos de todas las galaxias. Cuando le preguntan al ordenador la duda fundamental: «¿Existe Dios?», el ordenador responde: «Sí, ahora existe un Dios». Al final, el universo, su consciencia, su principio ordenador y coordinador es una maquina total y omnisciente que está en todas partes y ninguna.

La ciencia ficción adelanta una visión de una súper máquina del tamaño de una ciudad. Isaac Asimov en su cuento «La última pregunta» (1956) imagina una historia que abarca muchas generaciones humanas en toda su evolución tecnológica y que trata de responder la pregunta: «¿Es posible revertir o disminuir la entropía en el universo?»

Es decir, la tendencia a la pérdida de energía, la homogeneización del entorno —contra la idea de singularidad que supone el planeta y su animal humano—, y el caos. La pregunta es hecha a una supercomputadora llamada Multivac. El superordenador controla la actividad humana alimentándose de sus experiencias y habrá de evolucionar con sucesivas generaciones de computadores que tendrán otros nombres como Microvac, AC Galáctica, AC Universal, AC Cósmica.

Pasarán millones de años y ya no habrá una distinción muy clara entre la humanidad y su invento, entre nosotros y la máquina. El sol habrá muerto, las estrellas habrán de apagarse. Después de tres trillones de años el espacio se agota, toda la consciencia humana se habrá fundido con el superordenador. Ya no existiremos —al menos no en una forma física y bariónica—. Solo permanecerá la información recopilada en nuestro saber como una presencia fantasmagórica fundida con el todo, como una consciencia estelar. El espacio y el tiempo mueren.

Por último, AC resuelve el problema de la entropía: sí es posible revertirla. Hay una forma de detener la destrucción del universo; pero ya no hay nadie a quien explicarle la respuesta. Y es entonces que AC demuestra para lo que fue hecha. La historia concluye —o vuelve a iniciar— con esta frase: «Y AC dijo: ‘Hágase la luz’. Y la luz se hizo». Las preguntas y las respuestas aluden a un ser extraterreno de invención humana que nos rodea y que además es eterno.

En su libro La nueva edad oscura (2018), James Bridle hace un análisis de las sociedades modernas y su relación con Internet, su influencia en la vida diaria y su presencia total y abrumadora en nuestras relaciones, la forma de acceder al conocimiento y sus interconexiones que forman una infoesfera, esa capa de smog electrónico o de oxígeno virtual sin el cual nuestras interacciones y nuestro estilo de vida serían imposibles, un campo etéreo que transmite nuestras comunicaciones y permite que nuestros dispositivos se entrelacen, nos da entretenimiento y por momentos parece conocernos incluso mejor que nosotros mismos. Una gigantesca burbuja hecha de señales wifi que nos rodea. ¿Nos contiene el smog electrónico? ¿Somos eso o esta capa de señales electromagnéticas representa algo ajeno a nosotros y accedemos a la burbuja sólo como entretenimiento?

Para Luciano Floridi, la infoesfera puede agrupar y contener la totalidad del ser. Internet se concibe como una presencia dentro de la cual existimos, que nos contiene dentro de ella misma como una Matrix. Habitamos esa presencia como el cuento de Fredric Brown que concibe un universo hiperconectado, o como en el cuento de Asimov que funde una conciencia humana individual y privada con una consciencia universal e informatizada que responde nuestras preguntas a lo largo del tiempo.

Bridle hace una analogía con ENIAC, el ordenador era tan grande que uno prácticamente vivía en él, y explica: «Pero lo cierto es que, hoy, todos vivimos dentro de una versión de ENIAC, una enorme maquinaria de computación que engloba el planeta entero y se extiende hasta el espacio exterior a través de una red de satélites». Para Briddle, esa mole computacional es etérea y es invisible. La sostienen señales satelitales y una red de cableado que no podemos ver.

Por otro lado, Andrew Blum abunda sobre el tema en su libro Tubos (2012) en donde escribe sobre un tendido de cables de fibra óptica, una maraña de conexiones que forman el sistema nervioso de una nueva consciencia ajena a nosotros pero que, paradójicamente, conforma lo que somos y funciona como una extensión de nuestro ser, al tiempo que forma otra entidad, una mente universal parecida a la de Dios. Si Andrew Blum habla de una geografía física de internet, una serie de estructuras localizables, el efecto de internet sobre la consciencia del individuo lo ha llevado a replantear su relación con sí mismo, con su entorno y con el universo.

No es casualidad que la irrupción y el perfeccionamiento del machine learning —es decir, sistemas que aprenden por sí mismos, de manera automática—, o bien, las inteligencias artificiales que nos ahorran los trabajos repetitivos y tediosos, tengan un efecto anulatorio sobre la actividad humana, reduciendo nuestra presencia como entidades protagonistas y operantes al tiempo que recopilan nuestras experiencias para crear contenidos nuevos, pero su repercusión o su importancia en el sistema económico es fundamental. Nuestras preocupaciones abarcan temas como el tipo de empleos que podremos conservar, o nuestro posible deterioro cognitivo derivado de parasitar nuestras actividades mentales y delegarlas a una máquina.

Aunque el auge de internet permitió una nueva forma de economía y de extractivismo de datos que convirtieron a los usuarios de la red de redes en proveedores de información para una nueva forma de capitalismo, el capitalismo de vigilancia del que habla la teórica Shoshana Zuboff en su libro La era del capitalismo de vigilancia (2013). Para Zuboff, esta omnisciente estructura económica, se ha apropiado de una manera unilateral de las experiencias de los individuos, lo ha sometido a formas de escucha y vigilancia en la medida en la que ocupa artilugios tecnológicos para luego retroalimentarse para perfeccionar su maquinaria.

La máquina, el monstruo o la superconciencia que nos rodea se convierten en un proyecto comercial cuya voracidad no tiene límites. El capitalismo especulativo ha descubierto una nueva mercancía en nuestras vivencias y sueños. Todo es comercializable  y dentro del debate sobre la ética de tales prácticas de vigilancia e intromisión, las legislaciones buscan reformarse para proteger el derecho al futuro, el derecho al olvido y el derecho a una vida privada sin intervenciones que dañen la reputación o nuestro acceso al empleo.

La inteligencia artificial se ha enfocado a conocer al individuo para poder predecir su comportamiento, la ciencia del análisis de datos busca un mapeo total de la psicología como un medio de manipulación. Zuboff acuñó el término mercados de futuros conductuales que no es otra cosa que un mercado de predicciones y comportamiento en los que participan los grandes gigantes de la tecnología como Google, Meta, Microsoft, Apple y cientos de empresas proveedoras que son parte este conglomerado de la industria. El objetivo: analizar, espiar y apropiarse para luego encontrar mecanismos de predicción que permitan influir sobre nuestro comportamiento y dirigirlo hacia resultados que puedan favorecerles a ellos. Otro neologismo, el instrumentarismo, que es otra forma de control por parte de los dueños de internet para orientar el comportamiento humano hacia fines ajenos.

Es inevitable existir dentro de la gran máquina, pero las transformaciones del capitalismo y sus maniobras fomentan una relación asimétrica en donde existe una apropiación unilateral de las experiencias para alimentar una mole de que se nutre de datos de todo tipo. Uno de los ejemplos más conocidos es Google, quien concibió su algoritmo PageRank para mejorar los resultados de las búsquedas y terminó convirtiéndose en esa entidad maligna que juraron no ser desde un principio.

No obstante, si hay una empresa que represente el extractivismo y el nuevo capitalismo de vigilancia es Alphabet—su nueva denominación—. Google busca la forma de conocer ese capital conductual que está contenido en nuestras vivencias, no para venderlo directamente, eso sería demasiado descarado, sino para crear algoritmos y mecanismos de inteligencia artificial para realizar predicciones que permitan ofrecer un mejor servicio a sus verdaderos clientes, sus anunciantes que pagan por clics. Zuboff critica el hecho de que esta información no está bajo el control de las personas sino de un pequeño grupo que forma el capital de vigilancia: los grandes inversionistas de Silicon Valley.

La probabilidad de adquirir un bien o servicio, de navegar sobre ciertas páginas o hacer una transacción confirma una serie de estadísticas para anticipar nuestra conducta. Se trata de una maquinaria que se abastece y se retroalimenta constantemente para ofrecer información fidedigna a cualquiera que quiera acceder a ella. Google se convirtió en un gigante cuando supo extraer el nuevo tesoro de la información. El valor se encontraba en nuestras interacciones con ciertas tecnologías: entre más las usamos, más información aportamos a la Big Data.

No es que el usuario penetre en la red, la infoesfera, o la máquina ENIAC. El punto crucial del asunto es que ya está ahí, atrapado y acotado por todas partes. Para Zuboff, lo que haremos, sentiremos o pensaremos ya está contemplado en una serie de mecanismos predictivos que conforman nuestra esencia individual. Nos hemos convertido en máquinas entrenadoras de otras máquinas. El desarrollo de la inteligencia artificial le ha permitido a las grandes empresas un mejor conocimiento y poder de predicción con el consiguiente embotamiento de nuestras capacidades.

Microsoft ha incorporado ChatGPT al navegador Bing!, que hace que la navegación sea mejor dirigida y con resultados más relevantes de acuerdo al perfil de lo que somos y nuestros intereses. Asimismo, la importancia de OpenIA en el desarrollo de mecanismos de inteligencia artificial es tremenda, pues se asemeja a la evolución de los navegadores primigenios en la década de los noventa del siglo pasado. Con el lanzamiento del asistente virtual para Office, Copilot, el usuario solo tiene que dar unas breves indicaciones y el asistente resume un texto, crea una tabla en Excel, hace una gráfica, crea una presentación en Power Point, realiza una traducción.

Otra de las aplicaciones de la inteligencia artificial es el chat de Google llamado Bard, que es la respuesta a Bing! para asistentes de buscadores. Como si se tratara de una plaga, los asistentes que generan imágenes, hacen programación o resuelven problemas se han multiplicado en aplicaciones y páginas web. Todo esto supone un replanteamiento acerca de la forma en la que estos mecanismos tecnológicos interactúan con nosotros, sobre su peligrosidad y del poder que pueden otorgarles a sus propietarios. La velocidad con la que Silicon Valley se mueve es tan abrumadora que nuestro deber es cuestionar hacia dónde nos está conduciendo el acceso a nuestras experiencias a partir de la interacción con nuevas tecnologías.

Las preguntas de muchos teóricos apuntan hacia el destino de la humanidad y la redefinición del concepto de lo humano, cuando sabemos que la distancia que nos separa de la máquina o de la IA se está acotando. Cuentos como los de Fredric Brown e Isaac Asimov nos hacen cuestionarnos acerca de nuestro rol en esta superconciencia o superestructura electrónica que nos rodea cada vez más y que tal vez, termine convirtiéndose en nuestra esencia, o nosotros mismos, en parte de ella.

Compartir artículo:
Written By
More from Noé Vázquez
James, Pushkin, Reyes y Fuentes: reelaboraciones literarias
Noé Vázquez analiza similitudes y diferencias entre cuatro relatos de Alexander Pushkin...
Read More
Leave a comment

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *