di Frances Haugen
Presidente Blumenthal, senatrice Blakburn e membri della sottocommissione,
vi ringrazio per avermi dato l’opportunità di essere qui davanti a voi e per il vostro interesse nell’affrontare una delle minacce più urgenti per il popolo americano, per i nostri figli e il benessere del nostro paese, così come per le persone e le nazioni di tutto il mondo.
Mi chiamo Frances Haugen. Lavoravo per Facebook e mi sono fatta assumere perché credo che Facebook abbia il potenziale per tirare fuori il meglio di noi. Ma oggi sono qui perché credo che i suoi prodotti danneggino i bambini, alimentino la contrapposizione, indeboliscano la nostra democrazia e molto altro. I dirigenti dell’azienda sanno come rendere più sicuri Facebook e Instagram ma non apporteranno le modifiche necessarie perché hanno messo i loro immensi profitti prima delle persone. L’intervento del Congresso è necessario. Non possono risolvere questa crisi senza il vostro aiuto.
Credo che i social media abbiano il potenziale per rendere più ricche le nostre vite e la nostra società. Possiamo avere dei social media come li desideriamo, che tirino fuori il meglio dell’umanità. Internet ha permesso alle persone di tutto il mondo di ricevere e far circolare informazioni e idee in un modo mai immaginato prima. E se Internet ha il potere di collegare una società sempre più globalizzata, in assenza di uno sviluppo attento e responsabile può procurare altrettanti danni che benefici.
Ho lavorato come product manager in grandi aziende informatiche dal 2006, tra cui Google, Pinterest, Yelp e Facebook. Il mio lavoro si è concentrato in gran parte su algoritmi come Google+ Search e motori di raccomandazione come quello che alimenta il News Feed di Facebook. Lavorando in quattro grandi aziende tecnologiche che gestiscono diversi tipi di social network, sono in grado di confrontare il modo in cui ciascuna approccia e affronta le diverse sfide. Le scelte operate dalla dirigenza di Facebook rappresentano un enorme problema – per bambine e bambini, per la sicurezza pubblica, per la democrazia – ecco perché mi sono fatta avanti. Parliamoci chiaro: non dev’essere così. Oggi ci troviamo qui a causa di scelte che Facebook ha fatto deliberatamente.
Sono entrata in Facebook nel 2019 perché una persona a me vicina è stata radicalizzata on line. Mi sono sentita in dovere di svolgere un ruolo attivo per rendere Facebook migliore e meno tossico. Per tutto il periodo in cui ci ho lavorato, prima come lead product manager per la sezione sulla disinformazione civile e poi per quella sul controspionaggio, ho avuto modo di notare come l’azienda si sia ripetutamente trovata di fronte a conflitti tra i propri profitti e la sicurezza di tutti noi. Facebook ha regolarmente risolto questi conflitti a favore dei propri profitti. Il risultato è stato un sistema che amplifica le contrapposizioni, l’estremismo e la polarizzazione e che mina le società di tutto il mondo. In alcuni casi, questo pericoloso atteggiamento on line è sfociato in violenza reale che ha leso o addirittura ucciso esseri umani. In altri casi, la macchina aziendale di ottimizzazione del profitto genera autolesionismo e odio di sé, specialmente in gruppi di persone vulnerabili, come le ragazze adolescenti. Queste criticità sono state ripetutamente confermate dalle ricerche interne di Facebook.
Non si tratta semplicemente di una questione che riguarda alcuni utenti dei social media particolarmente arrabbiati o instabili. Facebook è diventata un’azienda da mille miliardi di dollari facendoci pagare i suoi profitti con la sicurezza nostra e dei nostri figli e figlie. E questo è inaccettabile.
Credo di aver fatto quel che era giusto e necessario per il bene comune, ma so che Facebook ha risorse infinte e che potrebbe utilizzarle per distruggermi. Mi sono esposta perché mi sono resa conto di una verità spaventosa: quasi nessuno al di fuori di Facebook sa cosa succede dentro. La dirigenza aziendale nasconde informazioni vitali al governo degli Stati Uniti, ai suoi azionisti e ai governi di tutto il mondo. I documenti che ho fornito dimostrano come Facebook ci abbia ripetutamente ingannato su ciò che emerge dalle sue stesse ricerche interne sulla sicurezza di bambine e bambini, sul suo ruolo nella diffusione di messaggi d’odio e polarizzanti, e su molto altro. Apprezzo la serietà con cui i membri del Congresso e della Commissione stanno affrontando questi problemi.
La gravità di questa crisi richiede di uscire dalle precedenti cornici normative. Portare aggiustamenti a obsolete normative di protezione della privacy o modificare la “sezione 230” non basterà. Il punto della questione è che nessuno è in grado di capire la distruttività delle scelte di Facebook se non Facebook stessa, perché è la sola che può guardare sotto il tappeto. Un punto di partenza fondamentale per regolamentarla efficacemente è la trasparenza: pieno accesso ai dati per poter effettuare ricerche non svolte da Facebook. Su questa base potremo costruire regolamenti e standard sensati per far fronte ai danni ai consumatori, ai contenuti illegali, alla protezione dei dati, alle pratiche anticoncorrenziali, all’impostazione degli algoritmi e ad altro.
Finché Facebook potrà operare all’insaputa di tutti, non potrà essere costretta a render conto a nessuno. E continuerà a fare scelte che vanno contro il bene comune. Il bene di noi tutti.
Quando abbiamo capito che i produttori di tabacco nascondevano i danni provocati dai loro prodotti, il governo è intervenuto. Quando abbiamo scoperto che le auto erano più sicure con le cinture di sicurezza, il governo è intervenuto. Oggi, il governo sta intervenendo contro le aziende che hanno occultato le prove sulla presenza di oppioidi nei loro prodotti.
Vi imploro di fare la stessa cosa in questo caso.
In questo stesso momento, Facebook sta selezionando le informazioni che saranno visionate da miliardi di persone modellando la loro percezione della realtà. Anche chi non usa Facebook subisce l’influenza della radicalizzazione dei suoi utenti. Un’azienda che ha il controllo sui nostri pensieri, i nostri comportamenti e i nostri sentimenti più profondi necessita di una supervisione realmente efficace.
Ma il design chiuso di Facebook fa sì che non possa essere supervisionato in nessun modo, nemmeno dalla sua commissione di supervisione interna, che è tagliata fuori come il pubblico. Solo Facebook sa come personalizza le funzioni dei vostri profili. Si nasconde dietro a muri che impediscono di capire le vere dinamiche del sistema sia ai ricercatori, sia a chi dovrebbe regolamentarlo. Quando i produttori di tabacco sostenevano che le sigarette con filtro fossero meno dannose per i consumatori, gli scienziati avevano i mezzi indipendenti per smentire la loro linea di marketing e per dimostrare che in realtà minacciavano ancora di più la salute umana. Ma oggi non possiamo eseguire una valutazione indipendente su Facebook. Possiamo solo confidare che le dichiarazioni dell’azienda siano veridiche, e questa ha largamente dimostrato di non meritare la nostra cieca fiducia.
L’impossibilità di osservare compiutamente i sistemi di Facebook e di confermare che funzionano come dichiara l’azienda equivale a una situazione in cui il Dipartimento dei Trasporti regolamentasse i requisiti dei veicoli e il loro uso in base a quello che vede osservandoli passare in autostrada. Immaginate se chi redige quei regolamenti non potesse mai salire su un’auto, gonfiare le gomme, fare un crash-test, o se non potesse neppure scoprire che esistono le cinture di sicurezza. Chi dovrebbe regolamentare Facebook può vedere gli effetti di alcuni problemi, ma è tenuto all’oscuro su ciò che li causa e quindi è impossibilitato a individuare delle soluzioni adeguate. Non si può neppure accedere ai dati aziendali sulla sicurezza dei prodotti, tantomeno eseguire una verifica indipendente. Come fa il pubblico a valutare se Facebook sta risolvendo i conflitti d’interesse in funzione del bene pubblico, se c’è opacità e non si ha nessun riscontro su come opera realmente?
Tutto ciò deve cambiare.
Facebook vuol farvi credere che i problemi di cui parliamo siano insolubili. Vogliono farvi credere a delle false alternative. Vogliono farvi credere che dovete scegliere tra comunicare on line con le persone che vi sono care e salvaguardare la vostra privacy personale. Che per condividere delle foto simpatiche dei vostri figli con amici e amiche dobbiate accettare di essere inondati di disinformazione. Vogliono farvi credere che questi sono i patti. Oggi sono qui per dirvi che non è vero. Questi problemi possono essere risolti. Un social media più sicuro e piacevole è possibile. Ma c’è soprattutto una cosa che spero che tutti colgano dalle mie rivelazioni, ed è che Facebook sceglie quotidianamente il proprio profitto contro la nostra sicurezza, e che senza un intervento continuerà così.
Il Congresso può cambiare le regole del gioco di Facebook e fermare i danni che produce. Mi sono esposta, con grande rischio personale, perché credo che abbiamo ancora tempo per agire. Ma bisogna agire subito.
Grazie.
(Washington Post, 4 ottobre 2021)
