Se prevé que la velocidad y la escala de la IA intensifiquen los riesgos existentes
La vida de las personas está más entrelazada que nunca con los sistemas digitales, lo que aumenta la vulnerabilidad e inseguridad de los usuarios. Desde filtraciones de datos como la de Equifax en 2017 hasta el reciente ciberataque a la cadena británica Marks & Spencer, siguen siendo vulnerables las operaciones comerciales y los datos en internet.
Hay buenas razones para creer que se hará poco para abordar estos riesgos hasta que surja una crisis masiva que abarque toda la sociedad.
Una investigación sugería que existen fallas significativas en nuestros actuales enfoques sobre el riesgo y la innovación. Las tecnologías digitales transforman la vida social mediante nuevas tecnologías, plataformas de comunicación y formas de inteligencia artificial. Todas ellas, si bien muy potentes, también presentan un alto riesgo de mal funcionamiento y vulnerabilidad a la manipulación.
Sin embargo, los gobiernos generalmente son incapaces de distinguir entre las contribuciones realmente valiosas a la sociedad y las que son extremadamente perjudiciales para la sociedad.
Vídeo: The National de CBC analiza las vulneraciones de datos.
Un masivo experimento social
La economía digital incluye "aquellas empresas que dependen cada vez más de la tecnología de la información, los datos e Internet para sus modelos de negocio". Las empresas que dominan la economía digital siguen llevando a cabo un masivo experimento social en el que se quedan con la mayor parte de los beneficios mientras trasladan los riesgos a la sociedad en su conjunto.
Esto podría conducir a una crisis digital sistémica, que puede ir desde un colapso generalizado de la infraestructura básica, como la electricidad o las telecomunicaciones, debido a un ciberataque, hasta un ataque que modifique la infraestructura existente para hacerla peligrosa.
Existen similitudes significativas entre la actual trayectoria de la economía digital y la crisis financiera de 2008. En particular, lo que observamos cada vez más en el mundo digital, al igual que en el mundo financiero anterior a la crisis, es lo que el sociólogo estadounidense Charles Perrow denominó "acoplamiento estrecho".
Perrow sostiene que cuando los sistemas exhiben altos niveles de interconexión sin redundancia suficiente para compensar las fallas, esto puede llevar a catastróficas consecuencias.
Asimismo, se considera generalmente que los altos niveles de complejidad aumentan el riesgo de los sistemas altamente interconectados. Los riesgos y las conexiones imprevistas pueden provocar fallos que se propagan por todo el sistema.
Imagen: Cuanto más complejo sea el sistema, mayor será la probabilidad de riesgo.
Creciente interdependencia
Nuestra actual economía digital comparte muchas de estas características. Se caracteriza por un modelo de negocio que se centra en que las empresas alcancen el mayor tamaño posible en el menor tiempo posible.
El período previo a la crisis financiera de 2008 y la actual economía digital comparten la intensificación de la interdependencia y la reducción de la redundancia. En el caso de las finanzas, esto se logró mediante un endeudamiento masivo para apalancar las ganancias, dejando una menor proporción de dinero disponible para cubrir posibles pérdidas.
En la economía digital, esta necesidad de recopilar datos continuamente incrementa la interdependencia entre conjuntos de datos, plataformas, corporaciones y redes. Esta mayor interdependencia es fundamental para el modelo de negocio central de la economía digital.
El debilitamiento de la redundancia en la esfera digital se manifiesta en el espíritu de "moverse rápido y romper cosas", en el que las empresas digitales eliminan o adquieren competidores lo más rápidamente posible al tiempo que eliminan alternativas analógicas a sus propias redes digitales.
Por último, estos gigantes digitales y su rápido crecimiento aumentan la complejidad de la economía digital y las redes monopolísticas que la dominan.
Vídeo: BBC News cubre las cancelaciones de vuelos del verano pasado.
Evidentes señales de alerta
Existe una diferencia clave entre la crisis financiera de 2008 y la economía digital contemporánea. A diferencia de lo que ocurrió antes de la crisis, cuando una prosperidad impulsada en parte por las finanzas acalló cualquier señal de alerta evidente, las señales de alerta en la economía digital son evidentes para todos.
Los ataques de malware WannaCry y NotPetya de 2017 causaron miles de millones de dólares en daños cada uno. Más recientemente, el fallo de CrowdStrike en 2024 canceló miles de vuelos e incluso dejó fuera del aire a varias cadenas de televisión. Los constantes ataques de hackers, ransomware y filtraciones de datos son señales de alerta de que este sistema es extremadamente frágil.
La IA ha potenciado al máximo muchas de estas vulnerabilidades, añadiendo al mismo tiempo nuevos riesgos, como las alucinaciones causadas por la IA y el crecimiento exponencial de la desinformación. Se prevé que la velocidad y la escala de la IA intensifiquen los riesgos existentes para la confidencialidad, la integridad y la disponibilidad del sistema.
Este es posiblemente el elemento más significativo, aunque desafortunado, de esta historia. Existe un riesgo sistémico masivo, pero no se aborda directamente, y los procesos que los agravan siguen acelerándose.
Esto sugiere un problema más profundo en nuestra política. Si bien tenemos cierta capacidad de regulación una vez causado el daño, nos cuesta prevenir la próxima crisis.
