Las nuevas tecnologías, como las plataformas de contenido, los algoritmos de las redes sociales y los sistemas de inteligencia artificial, son susceptibles de una evaluación moral, social y política. Tanto los creadores-productores de estas tecnologías, como los usuarios-consumidores y todos los intermediarios, incluyendo los gobiernos y organismos internacionales, tienen el deber de ajustar sus comportamientos a unos principios éticos que es importante clarificar y defender.
Todos sentimos que algo no está funcionando como debe cuando sentimos que todo lo que hacemos en Internet está controlado por grandes empresas interesadas en monetizar nuestra atención. Todo está mediatizado por apps que ofrecen scroll infinito maximizando la publicidad y el alcance de los mismos contenidos y minimizando el contenido personalizado de interés real para el usuario.
Con los modelos de Inteligencia Artificial la caja negra es cada vez mayor. Los algoritmos que priorizan contenido en redes sociales están perfectamente controlados por las plataformas, pero los modelos de IA apenas son comprendidos por sus propios creadores… con lo cuál es difícil, casi imposible, ofrecer transparencia y control a sus usuarios. Estamos delegando decisiones importantes a cajas negras que ni sus propios creadores dominan del todo… pero no se nos ocurre ninguna alternativa, haciendo cada vez más sólida la afirmación de Fredric Jameson que dice «es más fácil pensar en el fin del mundo que en el fin del capitalismo».
Libros como «Inteligencia Artificial: Jugar o Romper la Baraja» de Margarita Padilla, reconocida activista del software y la WWW libre, de la filosofía del making y del hacking ético (en cierto sentido, un reducto «espiritual» al margen de la tecnocracia dominante), sirven para hacernos preguntas sobre cómo plantear una tecnología más ética y humana: comprensible, modificable, reutilizable…
En agosto de 2024 la Comisión Europea aprobó el AI Act, para definir cómo desarrollar y usar IA en el ámbito europeo. Y en mayo de 2026 el Gobierno Español aprobó una Ley Orgánica para el buen uso y la gobernanza de la IA.
También en mayo de 2026, el Papa León XIV ha publicado una encíclica titulada ‘Magnifica Humanitas’ reflexionando también sobre estos asuntos, que debemos ser nosotros los amos de la IA y no la IA nuestra ama; yo mismo he escrito una pequeña nota al respecto y mi antiguo compañero Javier Arroyo habla sobre el impacto socioambiental de la IA en este podcast.