En una conferencia de dos días sobre “Inteligencia Artificial y Justicia”, celebrada en el Tribunal Supremo de España y organizada por la Asociación de Letrados del Tribunal Supremo (ALTS), el juez Manuel Marchena advirtió que la IA está cambiando rápidamente la forma en que las sociedades entienden la verdad y la justicia. Dirigiéndose a una audiencia en Madrid, describió los desafíos legales y éticos que plantean los deepfakes, la elaboración de perfiles algorítmicos y la concentración del poder digital, desafíos que, argumentó, Europa debe enfrentar urgentemente.
El juez del Tribunal Supremo de España, Manuel Marchena, ha advertido que la inteligencia artificial (IA), los deepfakes y la economía de los datos están transformando la forma en que las sociedades entienden la verdad, la democracia y la justicia. Hablando ante estudiantes y profesionales, su conferencia exploró los profundos cambios legales y éticos provocados por el rápido desarrollo tecnológico.
Por qué las plataformas «gratuitas» no son realmente gratuitas
Marchena empezó planteando una pregunta sencilla: si plataformas como Twitter (ahora X), WhatsApp o Google cobraran un euro al año, ¿la gente pagaría? Lo más probable es que sí, argumentó. E incluso con diez euros, millones seguirían utilizando los servicios.
Sin embargo, estas empresas (algunas valoradas en decenas o cientos de miles de millones) no cobran nada. Para Marchena, esto revela que su verdadero modelo de negocio es datos personalesa menudo descrito como “el petróleo del siglo XXI”. Esos datos, dijo, tienen valor geopolítico y dan una enorme influencia a las empresas que los controlan.
Una nueva clase digital: los “irrelevantes” de Harari
Citando al historiador Yuval Noah Harari, el juez advirtió que los sistemas digitales pueden crear una nueva categoría social: el irrelevantes. Se trata de personas cuyos datos no interesan a los algoritmos y cuyas voces corren el riesgo de ser excluidas de los procesos políticos y económicos.
Marchena sugirió que esta división emergente ya es visible en cómo los algoritmos determinan lo que los ciudadanos ven, leen y discuten en línea.
Los deepfakes y el “derecho a no ser engañados”
Una de las advertencias más fuertes de Marchena se refería a la difusión de deepfakes generados por IA. Hoy, dijo, es posible producir videos o audios en los que personajes públicos aparecen diciendo cosas que nunca dijeron. Cuando una persona demuestra que el contenido es falso, es posible que el daño político o de reputación ya sea irreversible.
Por eso muchas instituciones, incluido el Parlamento Europeo, están desarrollando herramientas regulatorias para proteger lo que Marchena llamó la economía emergente. «Derecho a no ser engañado».
Vinculó estas preocupaciones con la nueva Ley de Inteligencia Artificial de la UEque restringe los sistemas de inteligencia artificial de alto riesgo y prohíbe ciertas prácticas de vigilancia biométrica que amenazan los derechos de los ciudadanos.
Nanotecnología, Computación Cuántica y una Sociedad Robotizada
Marchena también hizo referencia a las ideas publicadas por Mustafa Suleyman, cofundador de DeepMind, que describen tecnologías que transformarán radicalmente la sociedad: computación cuántica, nanotecnología y robótica.
Imaginó un futuro en el que los grandes edificios podrían construirse íntegramente mediante robots autónomos que funcionaran continuamente, “los 365 días del año, las 24 horas del día”, con profundas implicaciones para los mercados laborales y los servicios públicos.
Kasparov vs Deep Blue: cuando las máquinas superaron la intuición humana
Para ilustrar la evolución de la capacidad de las máquinas, el juez revisó los enfrentamientos históricos entre Garry Kasparov y Deep Blue de IBM. Mientras que un maestro de ajedrez humano puede pensar algunos movimientos por delante, Deep Blue evaluó cientos de millones de posiciones posibles por segundo.
Para Marchena, este momento simbólico todavía importa: marca el punto en el que las máquinas sin lugar a dudas superaron la intuición humana en ciertos ámbitos.
¿Algoritmos predictivos y el fin de la privacidad?
La conferencia también hizo referencia a un estudio de la Universidad de Cambridge que muestra cómo los algoritmos pueden inferir rasgos de personalidad y preferencias a partir de la actividad en las redes sociales. Con suficientes datos, el sistema puede comprender a una persona mejor que su pareja, o incluso que sus padres.
Marchena advirtió que esto plantea no sólo riesgos para la privacidad sino también cuestiones sobre la autonomía: ¿qué pasa si los individuos empiezan a confiar más en los algoritmos que en su propio juicio?
IA, derechos humanos y garantías legales
El juez reconoció que los expertos no están de acuerdo: algunos temen los riesgos existenciales de la IA, mientras que otros argumentan que la IA nunca replicará la profundidad de la intuición o el razonamiento moral humanos.
Criticó las ideas transhumanistas de “inmortalidad digital”, describiéndolas como mitos tecnológicos que confunden una copia digital con una identidad personal genuina.
Estas preocupaciones se hacen eco de los recientes debates europeos sobre los derechos humanos y la IA, incluidas las cuestiones exploradas en El informe del European Times sobre la IA y los derechos fundamentales.
Responsabilidad democrática y protección contra los deepfake
Las advertencias de Marchena se alinean con una tendencia europea más amplia: nuevas reglas contra los deepfakes, la manipulación de imágenes y los abusos de datos biométricos. Dinamarca, por ejemplo, ha estado redactando leyes para proteger a los ciudadanos contra suplantaciones digitales ultrarrealistas creadas sin consentimiento.
A nivel de la UE, investigaciones como la Investigación de la Defensora del Pueblo de la UE sobre las normas de IA reflejan una creciente preocupación por la rendición de cuentas, la no discriminación y la transparencia algorítmica.
Justicia en una era algorítmica
Según Marchena, los sistemas de justicia no pueden permanecer neutrales o pasivos ante cambios tan profundos. Los tribunales ya se ocupan de pruebas digitales, herramientas algorítmicas de vigilancia y narrativas mediáticas que evolucionan más rápido que los procedimientos judiciales.
El desafío, afirmó, es garantizar transparencia jurídica, no discriminación y remedios efectivos para aquellos perjudicados por decisiones automatizadas. La tecnología debe seguir siendo responsable de los principios democráticos.
Un llamado al pensamiento crítico
Marchena concluyó instando al público, especialmente a las generaciones más jóvenes, a mantener una distancia crítica de las recomendaciones algorítmicas. El futuro de la democracia y la justicia, sugirió, depende de la capacidad de los ciudadanos para cuestionar los sistemas digitales en lugar de rendirse ante ellos.
Ilustración editorial (mensaje 16:9)
(Para uso editorial – no se muestra en el texto del artículo)
Mensaje de imagen:
«Cree una ilustración realista de estilo editorial 16:9 que represente una sala de un tribunal europeo o el interior del Tribunal Supremo español. La silueta de un juez se enfrenta a una gran interfaz digital translúcida llena de rostros borrosos, líneas de código y patrones de inteligencia artificial. En el fondo aparecen sutiles siluetas de personas que utilizan teléfonos inteligentes, simbolizando las redes sociales y los deepfakes. Utilice azules apagados, grises y tonos dorados claros, con una suave profundidad de campo.
