Nel video che riporto in calce, registrato all'Università di Pisa il 7 giugno 2023 (fonte 1 e fonte 2), Richard Stallman ha parlato delle problematiche legate all'uso del software proprietario, evidenziando come questo tipo di software spesso includa funzionalità malevole progettate per controllare gli utenti. Ha spiegato che la maggior parte delle persone non si rende conto di quanto siano maltrattate dai software proprietari, che sono progettati per dare potere alle grandi aziende tecnologiche a scapito degli utenti. Stallman ha sottolineato che molti programmi proprietari oggi sono effettivamente malware, in quanto disegnati per spiare, limitare o manipolare gli utenti, creando così un ambiente digitale oppressivo e non trasparente.
Stallman ha criticato aspramente i cosiddetti "smartphone", che considera dei computer in miniatura totalmente sotto il controllo delle aziende produttrici. Questi dispositivi non solo limitano la libertà degli utenti, ma sono anche progettati per impedire l'installazione di software libero, rendendo gli utenti completamente dipendenti dal software proprietario preinstallato. Questo controllo estremo impedisce agli utenti di esercitare la loro libertà digitale, costringendoli a utilizzare software che può essere malevolo e lesivo della loro privacy e sicurezza.
Inoltre, Stallman ha esortato tutti a rifiutare l'uso di dispositivi che limitano la libertà dell'utente, sottolineando l'importanza di mantenere il controllo sui propri strumenti digitali. Ha spiegato che rifiutare di utilizzare smartphone e altri dispositivi che non permettono l'installazione di software libero è un atto di resistenza contro la crescente invasione della privacy e la sorveglianza delle grandi aziende tecnologiche. Ha incoraggiato gli utenti a prendere coscienza delle limitazioni imposte dai dispositivi proprietari e a cercare alternative che rispettino la loro libertà e privacy.
Sicurezza degli utenti vs sicurezza delle aziende
Stallman ha affrontato il tema della sicurezza digitale, criticando il modo in cui le aziende tecnologiche spesso privilegiano la loro sicurezza a scapito di quella degli utenti. Ha sottolineato che molte discussioni sulla sicurezza informatica si concentrano su come proteggere le aziende da eventuali attacchi, trascurando invece la protezione degli utenti dai software malevoli che queste stesse aziende potrebbero distribuire.
Ha evidenziato come il software proprietario nelle scuole rappresenti un problema particolare, poiché viola la privacy degli studenti e li espone a pratiche di sorveglianza. Stallman ha spiegato che le scuole dovrebbero essere luoghi di apprendimento e libertà, non di sorveglianza, e ha criticato l'uso di software proprietario che raccoglie dati sugli studenti senza il loro consenso informato. Questo tipo di software spesso obbliga gli studenti a rinunciare alla loro privacy, imponendo pratiche invasive che limitano la loro libertà.
Stallman ha proposto soluzioni alternative per affrontare questi problemi, come l'adozione del software libero nelle scuole. Ha suggerito che l'uso di software libero può aiutare a proteggere la privacy degli studenti e a promuovere un ambiente di apprendimento più etico e rispettoso. Inoltre, ha invitato le istituzioni educative a rifiutare i sistemi che richiedono l'uso di software proprietario, incoraggiando invece l'adozione di soluzioni che rispettino la libertà e la privacy degli utenti.
Impatto della pandemia sul software proprietario nelle scuole
Durante il suo talk, Stallman ha discusso l'impatto della pandemia di COVID-19 sull'adozione del software proprietario nelle scuole. Ha spiegato che molte scuole, costrette a passare all'insegnamento a distanza, hanno adottato rapidamente software proprietario come Microsoft Teams e Google Classroom, aggravando i problemi di privacy e controllo sugli studenti. Questi strumenti, sebbene pratici, comportano una serie di rischi per la privacy degli studenti, che spesso non hanno scelta se non accettare questi sistemi invasivi.
Inoltre, Stallman ha fatto un parallelo con le pratiche distopiche descritte in "1984" di George Orwell, riferendosi ai software di sorveglianza utilizzati durante gli esami. Ha descritto come questi programmi prendano il controllo totale dei computer degli studenti, monitorando ogni loro movimento e persino l'ambiente circostante attraverso le webcam. Queste pratiche di sorveglianza estrema sono paragonabili a un regime di controllo totalitario, dove ogni azione degli studenti viene scrutata e valutata senza riguardo per la loro privacy.
Per contrastare questi problemi, Stallman ha proposto che gli studenti dovrebbero avere la possibilità di sostenere esami su computer scolastici, dove il software di sorveglianza non possa essere utilizzato contro di loro. Ha suggerito che le scuole devono prendere una posizione etica, garantendo che gli strumenti utilizzati per l'educazione non compromettano la libertà e la privacy degli studenti. Questa transizione verso l'uso del software libero è essenziale per creare un ambiente educativo giusto e sicuro.
Intelligenza artificiale e percezione pubblica
Stallman ha chiarito che strumenti come ChatGPT non sono veri e propri sistemi di AI, poiché non comprendono né sanno nulla; generano semplicemente testo fluido senza alcuna reale intelligenza. Ha sottolineato che l'intelligenza artificiale richiede la capacità di comprendere e conoscere cose, il che manca completamente a sistemi come ChatGPT. Questi sistemi sono in grado di produrre testo che sembra sensato solo perché imitano il linguaggio umano, ma senza alcuna comprensione reale del contenuto.
Ha avvertito dei pericoli derivanti dalla fiducia cieca in questi sistemi, poiché molte persone tendono a prendere per buone le risposte generate, senza rendersi conto della loro mancanza di comprensione. Questa fiducia può portare a gravi fraintendimenti e decisioni sbagliate basate su informazioni generate automaticamente senza una vera comprensione. Stallman ha messo in guardia contro l'uso indiscriminato di tali tecnologie senza una corretta consapevolezza delle loro limitazioni.
Stallman ha anche discusso delle implicazioni etiche e sociali dell'uso di reti neurali addestrate. Ha affermato che:
Gli utenti meritano il controllo dei programmi che usano, il che non si applica a un'IA che fosse una persona, perché una persona esiste per se stessa, quella IA dovrebbe avere il controllo sul suo codice. Tuttavia, la maggior parte delle IA non ha "agency" [capacità di un'entità di agire autonomamente, prendere decisioni e avere intenzionalità, n.d.t] o scopi propri, quindi le persone che le possiedono dovrebbero avere il controllo su di esse. Credo che gli utenti debbano avere controllo sui sistemi di IA che utilizzano.
Reti neurali e software libero
Una rete neurale è un modello di apprendimento automatico ispirato al funzionamento del cervello umano. È composta da strati di "nodi" o "neuroni" artificiali, che sono i componenti fondamentali della rete. Questi nodi sono organizzati in strati: uno strato di input, uno o più strati nascosti e uno strato di output.
Ogni nodo è collegato ad altri nodi attraverso "pesi", che sono valori numerici che vengono modificati durante il processo di addestramento della rete neurale. Questi pesi determinano la forza e la direzione della connessione tra i nodi. Quando una rete neurale viene addestrata su un set di dati, i pesi vengono regolati in modo da minimizzare l'errore nella previsione o nel compito che la rete sta cercando di imparare.
Stallman ha spiegato che i valori dei "nodi" all'interno della rete "agiscono come codice sorgente". Questo permette di modificare il comportamento della rete addestrandola ulteriormente con nuovi esempi, senza dover accedere ai dati di addestramento originali. Questa caratteristica rende possibile distribuire reti neurali addestrate come software libero, poiché è possibile apportare modifiche e miglioramenti in modo indipendente dai dati di origine.
Più precisamente:
- Stallman sostiene che non è cruciale fornire i dati di addestramento originali agli utenti di un sistema di machine learning. Ha spiegato che i dati di addestramento non sono necessari per utilizzare o modificare il modello addestrato, in quanto i "pesi" del modello stesso possono essere ulteriormente addestrati con nuovi esempi per migliorare o cambiare il comportamento della rete.
- Stallman sottolinea che spesso i dati di addestramento possono contenere informazioni personali che non dovrebbero essere distribuite per motivi di privacy. Per questo motivo, non distribuire i dati di addestramento può anche essere una misura di protezione della privacy.
- Un altro punto sollevato riguarda il "bias" (cioè distorsione sistematica) nei dati di addestramento. Questo significa che i dati non sono rappresentativi della realtà nel suo complesso, ma riflettono piuttosto le tendenze, i pregiudizi e le disuguaglianze presenti nella società da cui provengono. Stallman ha affermato che è possibile rilevare e correggere il bias nei modelli addestrati senza necessariamente avere accesso ai dati di addestramento originali. Testando il sistema con un numero sufficiente di esempi, si può osservare se il modello presenta bias e successivamente addestrarlo ulteriormente con dati correttivi.
Ricapitolando, Stallman ha sostenuto che, poiché i pesi della rete neurale possono essere modificati e utilizzati per alterare il comportamento della rete, essi possono essere trattati come il codice sorgente di un programma tradizionale. Questo significa che una rete neurale addestrata può essere distribuita come software libero se gli utenti hanno accesso ai pesi e agli strumenti per modificare questi pesi, ovvero se sono rispettati questi requisiti:
- Accessibilità: Gli utenti devono avere accesso ai pesi della rete.
- Modificabilità: Devono poter modificare i pesi attraverso ulteriori cicli di addestramento (il che implica che il modello deve essere gestibile con un computer ordinario, e non essere così enorme da richiedere necessariamente un super-computer - su questa questione Stallman afferma di non avere una soluzione).
- Distribuzione: Devono poter ridistribuire la rete modificata.
Stallman ha anche ragionato sulla differenza tra reti neurali addestrate e intelligenze artificiali reali:
A proposito, dovrei sottolineare che quando ho detto questo ho parlato di sistemi di apprendimento automatico o reti neurali addestrate, non ho detto IA perché la maggior parte di essi, direi, non sono IA. Faccio quella distinzione con attenzione. Utilizzerò il termine intelligenza artificiale solo per parlare di un sistema che può conoscere cose e capire cose. Quindi ChatGPT non è un'intelligenza artificiale. Non lo chiamerò così. Alcune reti neurali addestrate, se stanno capendo informazioni specifiche in qualche senso, forse capiscono qualcosa. Quindi forse sono IA piuttosto limitate, ma forse sono IA, anche se piuttosto limitate. Quindi stiamo attenti a non trattare quei termini come indistinguibili.
Tuttavia, Stallman ha avvertito dei pericoli associati alle AI avanzate, che potrebbero superare l'intelligenza umana e creare scenari imprevedibili e potenzialmente disastrosi. Ha citato scenari ipotetici dove AI estremamente avanzate potrebbero sviluppare piani complessi e sottili che gli esseri umani non sarebbero in grado di comprendere o contrastare in tempo. Questo solleva gravi preoccupazioni etiche e pratiche su come gestire lo sviluppo di tali tecnologie:
Non penso che ChatGPT sia una minaccia per l'umanità in questo momento perché non ha volontà, non può fare piani e non può realizzarli. Sai, gli scenari in cui un'IA decide di fare qualcosa, per esempio trasformare il mondo intero in graffette, sono un'idea ipotetica di come un obiettivo apparentemente innocuo dato a un'IA potrebbe portare al disastro se l'IA fosse abbastanza intelligente e potente da poter realizzare i suoi piani nel mondo reale.
Alcuni hanno detto che l'apprendimento automatico ha già causato disastri perché viene usato nei motori di raccomandazione dei social media antisociali, quelli che decidono cosa mostrare alle persone per massimizzare il tempo che trascorrono usando il sistema. Hanno scoperto che la disinformazione fascista è estremamente efficace per questo e sta promuovendo il fascismo in tutto il mondo, ignorando la verità. Se credi a tutto ciò che senti da un certo gruppo di persone, possono mentire continuamente e tu crederai a qualsiasi bugia dicano. Ci sono milioni di persone che fanno questo e, una volta che una persona ha perso la connessione con la verità, è molto difficile convincerla che sta credendo a bugie. Queste persone non hanno più un criterio di giudizio.
Quindi, forse l'apprendimento automatico ha già causato disastri per l'umanità perché viene usato da potenti corporazioni amorali, che sono la radice di questo disastro, e i sistemi di apprendimento automatico sono uno strumento che usano.
E per quanto riguarda l'ipotetica futura IA che potrebbe essere intelligente come un essere umano? Non possiamo prevedere cosa farà, è fondamentalmente impossibile perché sarebbe più intelligente di noi, potrebbe fare piani sottili che non scopriremmo mai fino a quando sarebbe troppo tardi. Come potremmo prevenirlo? Ci sono persone che da più di 10 anni stanno cercando di trovare un modo per sviluppare IA amichevoli, non so quali progressi abbiano fatto. So che vari libri di fantascienza hanno scenari molto diversi su cosa potrebbe accadere e non penso che possiamo escludere nessuno di quegli scenari, e sono sicuro che ci sono molti altri che le persone non hanno ancora immaginato.
Quindi, secondo me, non possiamo sperare di fare piani ora per ciò che ci terrebbe al sicuro dalle IA con intelligenza a livello umano. Forse, se alcune IA sono dalla nostra parte, ci aiuterebbero a fare tali piani. D'altra parte, potrebbero mentirci molto efficacemente. Con un altro essere umano possiamo avere una base per sapere che possiamo fidarci di alcune persone fino a un certo punto, ma possiamo anche essere ingannati. Quando trattiamo con un'IA, non sarebbe difficile per un'IA immaginare cosa direbbe a una persona se fosse onesta e dire esattamente quello. È la cosa più semplice al mondo: creare uno scenario alternativo, eseguire se stessa in quello scenario, guardare il risultato e capire come cambiarlo.
A proposito, ho letto un racconto di fantascienza che solleva la questione se le invocazioni ricorsive di programmi intelligenti meritino diritti umani [le invocazioni ricorsive sono un concetto familiare ai programmatori di software, in questo caso si riferisce a quando un'IA crea copie temporanee di se stessa per determinati compiti, n.d.t]. Se un'IA merita diritti umani in quanto persona, che dire delle invocazioni ricorsive? Dovrebbero semplicemente essere cancellate quando hanno fatto il loro lavoro? Credo che si chiamasse "Stones of Significance" e sollevava una questione filosofica molto inquietante.
Stallman ha anche discusso delle difficoltà nel rendere queste tecnologie trasparenti e controllabili. Ha evidenziato che molte delle AI e dei sistemi di apprendimento automatico attuali sono sviluppati come software proprietario, limitando la capacità degli utenti di comprenderne e modificarne il funzionamento. Questo crea un ulteriore livello di disuguaglianza e controllo, dove solo le grandi aziende hanno il potere di determinare come queste tecnologie vengono utilizzate e sviluppate.
Critiche alla legislazione sulla privacy
Stallman ha espresso forte preoccupazione per la mancanza di regolamentazioni che proteggano i diritti degli utenti contro le pratiche invasive delle aziende tecnologiche. Ha criticato le leggi attuali che spesso non riescono a impedire alle aziende di raccogliere e utilizzare dati personali senza il consenso esplicito degli utenti. Questa mancanza di protezione giuridica permette alle aziende di continuare a sfruttare i dati personali per profitto, senza riguardo per la privacy degli individui.
Ha esortato alla creazione di leggi che limitino l'accumulo e l'uso dei dati personali da parte delle aziende, sottolineando che i dati raccolti inevitabilmente saranno abusati. Ha sostenuto che la prevenzione è la migliore difesa, e che limitare la raccolta di dati è essenziale per proteggere la privacy degli utenti. Stallman ha anche criticato le leggi esistenti che, pur essendo ben intenzionate, spesso mancano di efficacia a causa di numerose eccezioni che permettono alle aziende di aggirarle.
Stallman ha fatto un appello alla resistenza individuale e organizzata contro il software proprietario, incoraggiando l'uso di alternative libere come il sistema operativo GNU/Linux. Ha sottolineato che la libertà del software è una componente essenziale della libertà personale e della democrazia, e ha invitato tutti a unirsi alla lotta per un mondo digitale più libero e giusto. Ha ribadito che solo attraverso l'adozione diffusa del software libero si possono ottenere cambiamenti significativi nella protezione della privacy e nella riduzione del potere delle grandi aziende tecnologiche.
Problemi del software proprietario nelle università
Stallman ha osservato come molte università e istituzioni di ricerca siano sempre più dipendenti dal software proprietario. Questo software spesso richiede infrastrutture complesse e costose, che solo le grandi aziende possono permettersi di mantenere. Questa dipendenza crea un ciclo vizioso, dove le università diventano sempre più legate alle soluzioni proprietarie, riducendo le opportunità per il software libero e le soluzioni più indipendenti.
Ha sottolineato che le università dovrebbero essere luoghi di libero pensiero e innovazione, non mercati per il software proprietario. Stallman ha evidenziato come molte istituzioni abbiano abbandonato l'uso di software libero per soluzioni proprietarie che, sebbene possano sembrare più efficienti a breve termine, a lungo termine limitano la libertà accademica e la capacità di innovazione indipendente. Ha citato esempi di professori e ricercatori che, nonostante le pressioni, continuano a utilizzare software libero per le loro attività accademiche, dimostrando che è possibile mantenere un ambiente di ricerca libero e aperto.
Stallman ha suggerito che i governi dovrebbero intervenire per sostenere lo sviluppo del software libero nelle università. Ha proposto che fondi pubblici siano destinati a sviluppare e mantenere infrastrutture basate su software libero, riducendo così la dipendenza dalle soluzioni proprietarie delle grandi aziende. Questo non solo proteggerebbe la libertà accademica, ma promuoverebbe anche un ecosistema di ricerca più aperto e collaborativo.
Appello alla resistenza contro il software proprietario
Stallman ha ribadito che la resistenza al software proprietario deve partire dagli individui. Ha incoraggiato tutti a prendere una posizione attiva e a rifiutare l'uso di software che limita la loro libertà. Ha suggerito di adottare alternative libere come il sistema operativo GNU/Linux, che offre un controllo completo sul proprio ambiente di lavoro e garantisce che il software utilizzato sia trasparente e modificabile dagli utenti.
Ha spiegato che la libertà del software è una componente essenziale della libertà personale e della democrazia. Secondo Stallman, utilizzare software libero non è solo una scelta tecnica, ma un atto politico e sociale che contribuisce a costruire una società più giusta e libera. Ha sottolineato che ogni volta che un individuo sceglie il software libero, compie un passo verso la riduzione del potere delle grandi aziende tecnologiche e la promozione della libertà digitale.
Stallman ha anche invitato le organizzazioni a unirsi a questa lotta. Ha esortato le scuole, le università e le istituzioni pubbliche a adottare software libero e a rifiutare le soluzioni proprietarie che limitano la libertà degli utenti. Ha concluso sottolineando che solo attraverso un'azione collettiva e organizzata si può sperare di creare un mondo digitale più libero e equo.
Pagamenti anonimi con GNU Taler
Stallman ha introdotto GNU Taler come una soluzione innovativa per i pagamenti anonimi, un sistema che permette di effettuare transazioni senza rivelare l'identità dell'acquirente. Ha spiegato che, a differenza dei sistemi di pagamento tradizionali che raccolgono una quantità significativa di dati personali, GNU Taler garantisce che l'identità dell'acquirente rimanga anonima, proteggendo così la privacy degli utenti. Questo sistema, però, assicura che il venditore sia sempre identificabile, prevenendo così l'uso illecito del sistema per scopi come l'evasione fiscale.
Ha criticato duramente i sistemi di pagamento digitali tradizionali per la loro invasività e la raccolta di dati personali. Stallman ha sottolineato che ogni pagamento effettuato con carte di credito o sistemi simili lascia una traccia digitale che può essere utilizzata per sorvegliare le abitudini e i movimenti delle persone. Questa sorveglianza finanziaria rappresenta una grave minaccia per la privacy e la libertà individuale, creando un ambiente in cui ogni transazione è monitorata e registrata.
Stallman ha promosso l'uso del contante come un mezzo semplice e efficace per preservare la privacy nelle transazioni quotidiane. Ha invitato le persone a utilizzare il contante il più possibile per ridurre la quantità di dati personali raccolti dai sistemi di pagamento digitali. Ha anche sottolineato l'importanza di lottare per il diritto all'anonimato nelle transazioni finanziarie, un diritto che ritiene essenziale per una società libera e democratica.
Necessità di nuove leggi sulla privacy
Stallman ha evidenziato che le attuali leggi sulla privacy sono insufficienti per proteggere realmente gli utenti dai continui abusi delle aziende tecnologiche. Ha spiegato che, una volta raccolti, i dati personali sono quasi inevitabilmente soggetti ad abusi, sia intenzionalmente che accidentalmente. Questa realtà richiede un cambiamento fondamentale nelle leggi, mirato a limitare la raccolta stessa dei dati piuttosto che semplicemente regolare il loro uso.
Ha denunciato la pratica delle aziende di identificare gli utenti tramite numeri di identificazione nazionale, evidenziando i rischi di repressione e sorveglianza di massa. Stallman ha spiegato che l'uso di numeri di identificazione nazionale per correlare dati da diverse fonti crea un sistema di sorveglianza onnipresente e pervasivo, facilitando la repressione politica e sociale. Ha sostenuto che ogni organizzazione dovrebbe assegnare il proprio identificatore piuttosto che usare un unico numero universale, riducendo così la facilità con cui i dati possono essere correlati e abusati.
Stallman ha inoltre criticato i sistemi di pagamento digitali per la loro raccolta invasiva di dati personali e ha promosso l'uso del contante per preservare la privacy. Ha argomentato che i pagamenti in contante sono uno dei pochi modi rimasti per effettuare transazioni anonime, libere dalla sorveglianza finanziaria. Ha esortato le persone a utilizzare il contante ogni volta che è possibile, come forma di resistenza contro la crescente invasione della privacy da parte dei sistemi di pagamento digitali.
Crescente complessità del software
Ha sottolineato che la crescente complessità del software è un problema significativo, in quanto molti programmi moderni richiedono investimenti e infrastrutture significative per essere sviluppati e mantenuti. Questa tendenza favorisce le grandi aziende con risorse sostanziali, limitando la capacità del software libero di competere. Stallman ha esortato a una maggiore valorizzazione della semplicità e dell'indipendenza nello sviluppo del software, suggerendo che programmi più semplici possono essere più facilmente mantenuti e distribuiti senza la necessità di strutture aziendali complesse.
Ha evidenziato come le università e le istituzioni di ricerca spesso richiedano software complesso, che solo le grandi aziende possono fornire. Questo crea una dipendenza dalle soluzioni proprietarie e limita l'adozione del software libero. Stallman ha suggerito che i governi dovrebbero sostenere lo sviluppo e la manutenzione del software libero nelle istituzioni pubbliche, garantendo così che queste organizzazioni non diventino dipendenti dalle soluzioni delle grandi aziende.
Stallman ha inoltre argomentato che il governo ha la responsabilità di garantire che la società rimanga libera, il che include la promozione del software libero. Ha sottolineato che lasciare un vuoto che può essere riempito da sviluppatori di software non libero equivale a permettere a queste entità di dominare parti significative della società. Pertanto, ha insistito sulla necessità di politiche pubbliche che promuovano attivamente il software libero.
Pericoli dell'Internet delle Cose (IoT)
Stallman ha espresso profonde preoccupazioni riguardo all'Internet delle Cose (IoT), descrivendolo come l'"Internet delle spie" o l'"Internet delle cose malevole". Ha sottolineato che qualsiasi dispositivo connesso è potenzialmente pericoloso se non implementato con software libero, poiché il software proprietario non può essere controllato dagli utenti. Questo crea un ambiente in cui i dispositivi domestici possono essere utilizzati per spiare e controllare gli utenti, piuttosto che servire i loro interessi.
Ha spiegato che i dispositivi connessi, come le telecamere di sorveglianza e gli elettrodomestici "intelligenti", possono raccogliere dati sugli utenti e inviarli a terzi senza il loro consenso informato. Questo non solo compromette la privacy, ma può anche essere utilizzato per fini malevoli, come la sorveglianza di massa o il controllo sociale. Stallman ha esortato a una maggiore consapevolezza riguardo ai rischi associati all'IoT e alla necessità di preferire dispositivi che utilizzano software libero, che gli utenti possono controllare e modificare.
Stallman ha concluso sottolineando che la libertà del software è parte integrante della lotta per la libertà e la democrazia in generale. Ha esortato tutti a prendere parte attiva nel movimento per il software libero e a rifiutare i sistemi che minano la libertà e la privacy degli individui. Solo attraverso un'azione collettiva e organizzata si può sperare di creare un mondo digitale più libero e giusto.
