Entre innovación y responsabilidad: redes sociales e inteligencia artificial. Una reflexión crítica

Questo articolo è disponibile anche in:

En la última década, las redes sociales y la inteligencia artificial han transformado radicalmente la sociedad, convirtiéndose en herramientas omnipresentes e indispensables en nuestra vida cotidiana. Sin embargo, detrás de las promesas de progreso e innovación, se esconden riesgos significativos para nuestro equilibrio personal, social y cultural.

Evolución tecnológica entre impulsos optimistas y reflexiones críticas

Las transformaciones tecnológicas que caracterizan nuestra época han estado a menudo acompañadas de visiones filosóficas e ideológicas que han definido su contexto y sus objetivos. Nicholas Negroponte, uno de los pioneros de la cultura digital, sostuvo que la tecnología habría reducido las barreras entre las personas, favoreciendo una sociedad más conectada y democrática. Su perspectiva optimista reflejaba la idea de que lo digital podía ser un instrumento de emancipación y de progreso universal.

Sin embargo, junto a esta visión optimista, no faltan reflexiones críticas sobre los efectos colaterales de estos cambios, que incluyen riesgos significativos para la salud mental, la cohesión social y la sostenibilidad.

El “capitalismo de la vigilancia”, un término acuñado por la socióloga Shoshana Zuboff, describe un modelo económico en el que las plataformas digitales recopilan enormes cantidades de datos personales para monetizar el tiempo en línea de los usuarios. Este sistema no se limita a la recopilación pasiva de información, sino que utiliza algoritmos avanzados para analizar, prever elecciones futuras e influir en las decisiones, a menudo sin que los usuarios sean conscientes de ello.

Las redes sociales y la inteligencia artificial trabajan en sinergia para optimizar la monetización del tiempo en línea. Los algoritmos de inteligencia artificial analizan datos provenientes de interacciones cotidianas para proponer contenidos personalizados, notificaciones dirigidas y publicidad altamente segmentada. Plataformas como Facebook, Instagram y TikTok utilizan estas herramientas para mantener a los usuarios activos el mayor tiempo posible, creando una dependencia económica del tiempo pasado en línea. También plataformas como Netflix y Amazon, mediante sistemas de recomendación basados en inteligencia artificial, influyen en el consumo de los usuarios, generando enormes beneficios. Los efectos de este modelo son inmensos:

• pérdida de autonomía: los usuarios a menudo no son conscientes de cómo sus elecciones se ven influenciadas por algoritmos predictivos;
• polarización social: la personalización extrema de los contenidos refuerza convicciones preexistentes, contribuyendo a la radicalización de las opiniones;
• explotación del tiempo: el diseño de las plataformas busca maximizar el tiempo en línea, transformando la experiencia digital en un producto vendido a los anunciantes.

Existe además el efecto de amplificación de las redes sociales. Uno de los efectos más insidiosos es la capacidad de amplificar contenidos extremos, divisivos o emocionalmente impactantes. Los contenidos que suscitan emociones fuertes, como ira, miedo o indignación, tienden a compartirse más y a generar mayor interacción. En consecuencia, los algoritmos promueven automáticamente estos contenidos, creando una espiral de amplificación que puede alimentar polarización, desinformación y comportamientos tóxicos. Este efecto no se limita a temas políticos o sociales: también contenidos relativos a la salud mental, la belleza o el éxito personal pueden amplificarse de forma perjudicial.

Los jóvenes representan uno de los objetivos más vulnerables del ya mencionado capitalismo de la vigilancia. Según un informe del Pew Research Center de 2022 titulado Teen, Social Media and Technology, el 86% de los adolescentes de Estados Unidos utiliza diariamente las redes sociales, y el 62% las frecuenta varias veces al día. Este uso intensivo está correlacionado con un aumento significativo de problemas de salud mental, entre ellos ansiedad, depresión y aislamiento social. Los algoritmos personalizan los contenidos para aumentar la interacción, ignorando los efectos devastadores sobre la salud mental de los usuarios, especialmente los más jóvenes.

Prejuicio algorítmico y desigualdades

Otro aspecto crítico del capitalismo de la vigilancia es el prejuicio algorítmico. Los algoritmos de inteligencia artificial reflejan las desigualdades y los prejuicios raciales presentes en la sociedad. Por ejemplo, estudios realizados por el MIT (Massachusetts Institute of Technology) han demostrado que los sistemas de reconocimiento facial presentan tasas de error significativamente más altas para las mujeres y las personas de color en comparación con los hombres blancos. Estos errores no son simples anomalías, sino el resultado de un diseño que no tiene en cuenta la diversidad de los datos. En el contexto de las redes sociales, los sesgos algorítmicos influyen en la visibilidad de los contenidos, favoreciendo a menudo narrativas tóxicas o discriminatorias. Esto contribuye a reforzar estereotipos de género y raciales, con consecuencias negativas sobre la percepción de sí mismos de los usuarios y sobre la cohesión social.

Las desigualdades alimentadas por la inteligencia artificial se extienden también a ámbitos como el trabajo y la educación. Sistemas automatizados de selección de personal, por ejemplo, pueden excluir a candidatos provenientes de contextos socioeconómicos desfavorecidos, limitando aún más las oportunidades para grupos ya marginados. Además, el uso de algoritmos para determinar el acceso a servicios esenciales, como préstamos o asistencia sanitaria, puede exacerbar las desigualdades existentes.

En el ámbito educativo es difícil prever el impacto completo que tendrá la inteligencia artificial, pero lo que ocurre hoy en escuelas y universidades ya ofrece algunos indicios. Los estudiantes utilizan aplicaciones y herramientas digitales con naturalidad, por lo que no tiene sentido ignorar la tecnología.

El politólogo Yascha Mounk, como se recoge en este artículo de Aceprensa, observa que muchos docentes adoptan dos estrategias equivocadas: hacer las tareas más difíciles para evitar que los estudiantes usen la IA, o enfrentarse directamente a quienes sospechan que están “haciendo trampa”. Según Mounk, en cambio, es necesario aceptar la realidad: quienes trabajen en los próximos años deberán saber utilizar herramientas como la IA, ya indispensables en muchas profesiones.

Al mismo tiempo, sin embargo, algunas capacidades fundamentales —como leer, comprender y argumentar sin ayudas tecnológicas— corren el riesgo de debilitarse. Y es importante preservarlas, porque sirven para entender el mundo y participar en la vida social.

Por ello, Mounk propone una solución “de doble vía”:

• en algunas tareas, los estudiantes deben demostrar sus capacidades sin tecnología;
• en otras, deben formarse en el uso de la IA y poder utilizarla libremente.

En sus clases en la Johns Hopkins University aplica este enfoque: los estudiantes realizan un examen presencial sin herramientas digitales, mientras que en el trabajo final pueden usar la IA, siempre que declaren cómo la han utilizado y aporten una contribución original.

El mensaje final es que el futuro de la educación no consiste en combatir la tecnología, sino en integrarla con inteligencia, preservando al mismo tiempo las competencias humanas esenciales.

Desinformación y manipulación

La desinformación se ha convertido en uno de los problemas más graves de la era digital y está estrechamente vinculada a lo que se denomina capitalismo de la vigilancia. Las grandes plataformas en línea utilizan algoritmos diseñados para retener a los usuarios el mayor tiempo posible, porque cuanto más tiempo pasan en línea, más datos se recopilan y mayores son los beneficios publicitarios. Para lograr este objetivo, los contenidos que suscitan emociones fuertes —como ira, miedo o indignación— suelen verse favorecidos, incluso cuando son imprecisos o completamente falsos.

Un estudio realizado por el Oxford Internet Institute, centro de investigación de la Universidad de Oxford especializado en el análisis del impacto social de Internet, ha mostrado cómo las noticias falsas tienden a circular mucho más rápidamente que las verificadas. En particular, las fake news tienen aproximadamente un 70% más de probabilidades de ser compartidas, porque suelen presentar titulares sensacionalistas, simplifican problemas complejos y confirman convicciones preexistentes de los usuarios. Esto las hace más “atractivas” para los algoritmos y para quienes las consumen.

Durante la pandemia de COVID-19, estos mecanismos se hicieron especialmente evidentes. Teorías conspirativas, información falsa sobre vacunas y tratamientos no científicos fueron amplificados por las redes sociales, alcanzando a millones de personas en tiempos rapidísimos. En muchos casos, esto contribuyó a difundir desconfianza hacia las instituciones sanitarias y la ciencia, obstaculizando las campañas de vacunación y las medidas de contención del virus.

Esto demuestra que la desinformación no es solo un problema teórico o comunicativo, sino que puede tener consecuencias concretas y peligrosas, afectando a la salud pública y minando la cohesión social. Por esta razón, el debate sobre el papel de los algoritmos y la responsabilidad de las plataformas digitales es hoy más central que nunca.

La necesidad de una regulación global

Frente a estos riesgos, es fundamental adoptar medidas regulatorias eficaces para garantizar un desarrollo ético y sostenible de las tecnologías digitales. Una regulación eficaz debería mejorar:

• transparencia en el uso de los datos: los usuarios deben tener plena conciencia de cómo se recopilan y utilizan sus datos;
• responsabilidad de las plataformas: las empresas deben ser consideradas responsables de los efectos negativos de sus algoritmos;
• educación digital: es esencial proporcionar herramientas críticas para comprender y gestionar el impacto de las tecnologías digitales.

¿Es posible un futuro sostenible?

Las redes sociales y la inteligencia artificial han revolucionado nuestra forma de vivir, ofreciendo oportunidades extraordinarias, pero también desafíos complejos.

Sin embargo, estas tecnologías, si se gestionan de manera responsable, pueden representar una oportunidad para mejorar la calidad de vida y afrontar desafíos globales. Para garantizar que las redes sociales y la inteligencia artificial sirvan a la humanidad, y no al contrario, es necesario un compromiso colectivo para desarrollar una cultura digital basada en la conciencia, el espíritu crítico, la responsabilidad y la sostenibilidad. A través de una regulación global que promueva la transparencia y limite los efectos negativos de los algoritmos, y mediante una mayor educación y ética digital, podemos construir un futuro en el que la innovación tecnológica esté al servicio de la sociedad y no en su perjuicio.