Tra innovazione e responsabilità: social media e intelligenza artificiale . Una riflessione critica

Questo articolo è disponibile anche in:

Nell’ultimo decennio, i social media e l’intelligenza artificiale hanno trasformato radicalmente la società, diventando strumenti onnipresenti e indispensabili nella nostra vita quotidiana. Tuttavia, dietro le promesse di progresso e innovazione, si nascondono rischi significativi per il nostro equilibrio personale, sociale e culturale.

Evoluzione tecnologia tra slanci ottimistici e riflessioni critiche

Le trasformazioni tecnologiche che caratterizzano la nostra epoca sono state spesso accompagnate da visioni filosofiche e ideologiche che ne hanno definito il contesto e gli obiettivi. Nicholas Negroponte, uno dei pionieri della cultura digitale, ha sostenuto che la tecnologia avrebbe ridotto le barriere tra le persone, favorendo una società più connessa e democratica. La sua prospettiva ottimistica rifletteva l’idea che il digitale potesse essere uno strumento di emancipazione e di progresso universale.

Tuttavia, accanto a questa visione ottimistica, non mancano riflessioni critiche sugli effetti collaterali di questi cambiamenti che includono rischi significativi per la salute mentale, la coesione sociale e la sostenibilità.

Il “capitalismo della sorveglianza”, un termine coniato dalla sociologa Shoshana Zuboff, descrive un modello economico in cui le piattaforme digitali raccolgono enormi quantità di dati personali per monetizzare il tempo online degli utenti. Questo sistema non si limita alla raccolta passiva di informazioni, ma utilizza algoritmi avanzati per analizzare, prevedere scelte future e influenzare decisioni, spesso senza che li utenti ne siano consapevoli.

Social media e intelligenza artificiale lavorano in sinergia per ottimizzare la monetizzazione del tempo online.  Gli algoritmi di intelligenza artificiale analizzano dati provenienti da interazioni quotidiane per proporre contenuti personalizzati, notifiche mirate e pubblicità altamente profilate. Piattaforme come Facebook, Instagram e TikTok utilizzano questi strumenti per mantenere gli utenti attivi il più a lungo possibile, creando una dipendenza economica dal tempo trascorso online. Anche piattaforme come Netflix e Amazon, attraverso sistemi di raccomandazione, basati sull’intelligenza artificiale, influenzano i consumi degli utenti, generando profitti enormi. Gli effetti di questo modello sono enormi: 

• perdita di autonomia: gli utenti sono spesso inconsapevoli di come le loro scelta vengano influenzate da algoritmi predittivi;
• polarizzazione sociale: la personalizzazione estrema dei contenuti rafforza le convinzioni pre-esistenti, contribuendo alla radicalizzazione delle opinioni;
• sfruttamento del tempo: il design delle piattaforme mira a massimizzare il tempo online trasformando l’esperienza digitale in un prodotto venduto agli inserzionisti.

C’è poi l’effetto amplificazione dei social media. Uno degli effetti più insidiosi dei social media è la capacità di amplificare contenuti estremi, divisivi o emotivamente coinvolgenti. I contenuti suscitano forti emozioni, come rabbia, paura o indignazione, tendono a essere più condivisivi e a generare maggiore coinvolgimento. Di conseguenza, gli algoritmi promuovono automaticamente questi contenuti creando una spirale di amplificazione che può alimentare polarizzazione, disinformazione e comportamenti tossici. L’effetto amplificazione non si limita a temi politici o sociali. Anche contenuti relativi alla salute mentale, alla bellezza e al successo personale, possono essere amplificati in modo dannoso.

I giovani rappresentano uno dei target più vulnerabili al già citato capitalismo della sorveglianza. Secondo un rapporto del Pew Research Center del 2022 intitolato Teen, Social Media and Technology, l’86% degli adolescenti degli Stati Uniti utilizza quotidianamente i social media, con il 62% che li frequenta più volte al giorno. Questo utilizzo intensivo è correlato a un aumento significativo di problemi di salute mentale, tra cui ansia, depressione e isolamento sociale. Gli algoritmi personalizzano i contenuti per aumentare il coinvolgimento, ignorando gli effetti devastanti sulla salute mentale degli utenti, specialmente i più giovani

Pregiudizio algoritmico e disuguaglianze

Un altro aspetto critico del capitalismo della sorveglianza è il pregiudizio algoritmico. Gli algoritmi di intelligenza artificiale, riflettono le disuguaglianze e i pregiudizi razziali presenti nella società. Ad esempio, studi condotti dal MIT hanno dimostrato che i sistemi di riconoscimento facciale presentano tassi di errore significativamente più alti per le donne e per le persone di colore rispetto agli uomini bianchi. Questi errori non sono semplici anomalie, ma il risultato di una progettazione che non tiene conto della diversità dei dati. Nel contesto dei social media, i bias algoritmici influenzano la visibilità dei contenuti, favorendo spesso narrazioni tossiche o discriminatorie. Questo contribuisce a rafforzare stereotipi di genere e razziali con conseguenze negative sulla percezione di se stessi degli utenti e sulla coesione sociale.

Le disuguaglianze alimentate dall’intelligenza artificiale si estendono anche ad ambiti come il lavoro e l’istruzione. Sistemi automatizzati di selezione del personale ad esempio, possono escludere candidati provenienti da contesti socioeconomici svantaggiati, limitando ulteriormente le opportunità per gruppo già marginalizzati. Inoltre, l’uso di algoritmi per determinare l’accesso a servizi essenziali, come i prestiti o l’assistenza sanitaria, può esacerbare le disuguaglianze esistenti.

Nell’ambito dell’istruzione è difficile prevedere l’impatto completo che avrà l’intelligenza artificiale, ma ciò che accade oggi nelle scuole e nelle università offre già alcuni indizi. Gli studenti usano app e strumenti digitali con naturalezza, quindi non ha senso cercare di ignorare la tecnologia.

Il politologo Yascha Mounk, come riportato in questo articolo di Aceprensa, osserva che molti insegnanti adottano due strategie sbagliate: rendere i compiti più difficili per evitare che gli studenti usino l’IA, oppure affrontare direttamente chi sospettano stia “barando”. Secondo Mounk, invece, è necessario accettare la realtà: chi lavorerà nei prossimi anni dovrà saper usare strumenti come l’IA, già indispensabili in molte professioni.

Allo stesso tempo, però, alcune capacità fondamentali — come leggere, comprendere e argomentare senza aiuti tecnologici — rischiano di indebolirsi. Ed è importante conservarle, perché servono per capire il mondo e partecipare alla vita sociale.

Per questo Mounk propone una soluzione “a due vie”:

• in alcuni compiti, gli studenti devono dimostrare le loro capacità senza tecnologia;
• in altri, devono essere formati all’uso dell’IA e poterla utilizzare liberamente.

Nelle sue lezioni alla Johns Hopkins University applica questo approccio: gli studenti sostengono un esame in presenza senza strumenti digitali, mentre nel lavoro finale possono usare l’IA, purché dichiarino come l’hanno usata e offrano un contributo originale.

Il messaggio finale è che il futuro dell’educazione non consiste nel combattere la tecnologia, ma nell’integrarla con intelligenza, preservando allo stesso tempo le competenze umane essenziali.

Disinformazione e manipolazione

La disinformazione è diventata uno dei problemi più gravi dell’era digitale ed è strettamente legata a quello che viene definito capitalismo della sorveglianza. Le grandi piattaforme online utilizzano algoritmi progettati per trattenere gli utenti il più a lungo possibile, perché più tempo trascorso online significa più dati raccolti e più profitti pubblicitari. Per raggiungere questo obiettivo, i contenuti che suscitano emozioni forti — come rabbia, paura o indignazione — vengono spesso favoriti, anche quando sono imprecisi o del tutto falsi.

Uno studio condotto dall’Oxford Internet Institute, centro di ricerca dell’Università di Oxford specializzato nell’analisi dell’impatto sociale di Internet, ha mostrato come le notizie false tendano a circolare molto più rapidamente rispetto a quelle verificate. In particolare, le fake news hanno circa il 70% di probabilità in più di essere condivise, perché spesso presentano titoli sensazionalistici, semplificano problemi complessi e confermano convinzioni preesistenti degli utenti. Questo le rende più “attraenti” per gli algoritmi e per chi le consuma.

Durante la pandemia di COVID-19, questi meccanismi sono diventati particolarmente evidenti. Teorie complottiste, false informazioni sui vaccini e cure non scientifiche sono state amplificate dai social network, raggiungendo milioni di persone in tempi rapidissimi. In molti casi, ciò ha contribuito a diffondere sfiducia nelle istituzioni sanitarie e nella scienza, ostacolando le campagne di vaccinazione e le misure di contenimento del virus.

Questo dimostra che la disinformazione non è solo un problema teorico o comunicativo, ma può avere conseguenze concrete e pericolose, incidendo sulla salute pubblica e minando la coesione sociale. Per questo motivo, il dibattito sul ruolo degli algoritmi e sulla responsabilità delle piattaforme digitali è oggi più che mai centrale.

La necessità di una regolamentazione globale

Di fronte a questi rischi è fondamentale adottare misure regolatorie efficaci per garantire uno sviluppo etico e sostenibile delle tecnologie digitali. Una regolamentazione efficace dovrebbe migliorare:

• trasparenza nell’uso dei dati: gli utenti devono avere piena consapevolezza di come i loro dati vengono raccolti e utilizzati;
• responsabilità delle piattaforme: le aziende devono essere ritenute responsabili per gli effetti negativi dei loro algoritmi;
• educazione digitale: è essenziale fornire strumenti critici per comprendere e gestire l’impatto delle tecnologie digitali.

È possibile un futuro sostenibile? Social media e intelligenza artificiale hanno rivoluzionato il nostro modo di vivere, offrendo opportunità straordinarie ma anche sfide complesse.

Tuttavia queste tecnologie, se gestite in modo responsabile, possono rappresentare una opportunità per migliorare la qualità della vita e affrontare sfide globali. Per garantire che social media e intelligenza artificiale servano l’umanità, e non il contrario, è necessario un impegno collettivo, per sviluppare una cultura digitale, basata sulla consapevolezza, sullo spirito critico, sulla responsabilità e sulla sostenibilità. Attraverso una regolamentazione globale, che promuova la trasparenza e limiti gli effetti negativi di algoritmi e una maggiore educazione ed etica digitale, possiamo costruire un futuro in cui l’innovazione tecnologica sia al servizio della società e non a suo discapito.