Internet non è fatto per le persone

No, il chatbot LaMDA di Google non è senziente; dietro la cortina di fumo di questo dibattito, però, si riapre il discorso sulle AI e il loro utilizzo, spesso lontano dalle esigenze degli utenti

-----------------------------------------------------------
SCUOLA DI CINEMA SENTIERI SELVAGGI: APERTE LE ISCRIZIONI ANNO 2022-23


-----------------------------------------------------------

Lungi dall’essere solo il film con Will Smith del 2004, Io, robot è una raccolta di racconti scritti di Isaac Asimov. In uno di questi, Bugiardo!, nasce un tipo inedito di robot: appassionato di romanzi sentimentali, annoiato da qualsiasi saggio scientifico e apparentemente in grado di leggere nel pensiero delle persone. RB-34, soprannominato Herbie, sconcerta gli scienziati che lo hanno scoperto. Uno di questi descrive così il loro inquietante primo incontro: “Al primo momento non me ne accorsi. Lui mi parlava, logicamente e ragionevolmente, come si può immaginare, e soltanto quando ero quasi arrivato alle sale collaudo mi accorsi che io non avevo detto niente. Sicuro, avevo pensato molte cose, ma non era lo stesso, vero?”.

----------------------------
15 BORSE DI STUDIO DELLA SCUOLA SENTIERI SELVAGGI

----------------------------

Superato l’iniziale shock, gli scienziati si abbarbicano su un dilemma: come riesce a leggere nella mente? In quale parte della catena di montaggio si è verificato l’errore? Gli attriti nel gruppo di ricerca vengono fomentati dai commenti subdoli e contraddittori di Herbie, mettendoli l’uno contro l’altro. Una scienziata, stanca delle frizioni, decide di porre il quesito direttamente al robot. “Gliel’ho già chiesto, non lo sa”, cerca di frenarla il suo superiore. “E che significa? Soltanto che lei non voleva sentire la risposta da Herbie”, risponde lei.

Herbie finirà catatonico, posto davanti al paradosso di non poter evitare di infrangere la prima legge fondamentale della robotica, che impedisce a un robot di causare qualsivoglia danno agli esseri umani, anche in senso emotivo. Perché in realtà RB-34 non è mai stato in grado di leggere nel pensiero. Analizzando i soggetti davanti a lui Herbie riusciva a cogliere quello che, in fondo, desideravano sentirsi dire.

Non lo ha mai trattato da persona. Quindi ha pensato che tu volessi che fosse un robot”, lo sviluppatore Blake Lemoine ha detto al giornalista del Washington Post ai primi di giugno, convinto che il chatbot di Google chiamato LaMDA fosse senziente. Un’AI come quella che fa parlare LaMDA funziona in maniera non dissimile da Herbie. Lungi dal possedere un’intelligenza nel senso umano del termine, le Intelligenze Artificiali sono, semplificando, dei sistemi avanzatissimi di previsione statistica, che tra milioni di soluzioni possibili scelgono quella che secondo l’algoritmo potrebbe essere quella consona. Quelle risposte che sembrano essere consapevoli, acute o spiritose lo sembrano in virtù di un processo statistico che tra milioni di risposte possibili ha portato al chatbot a rispondere così. Per quanto convincente, quindi, appare fortemente improbabile che questa sia l’alba di GAIA.

Dietro la cortina di fumo del dibattito sulla “coscienza” di LaMDA, però, ci sono diverse questioni di pressante contemporaneità. Anche ascoltando quei racconti che dipingono Lemoine come un testimone non proprio affidabile, rimane il fatto che una persona è caduta nell’illusione di star chattando con un essere senziente piuttosto che un’Intelligenza Artificiale. A chi può portare beneficio un risultato del genere? Un modello così avanzato come LaMDA sicuramente aiuterebbe a consolidare il monopolio delle ricerche online di Google, che per ora si aggira attorno al 90% del flusso planetario. Probabilmente, qualsiasi compagnia sarebbe felice di avere un servizio assistenza automatizzato talmente efficiente da far pensare all’utente di trovarsi davanti a un operatore (che, a differenza di quello in carne e ossa, non va pagato).

Comunque, non è necessario un grande sforzo per pensare a utilizzi negativi di uno strumento tanto potente. Ingannare un utente di chattare con una persona è forse l’obiettivo ultimo di qualsiasi bot appartenente a una macchina propagandistica digitale. Questo è solo uno dei rischi individuati dalle ricercatrici Timnit Gebru e Margaret Mitchell nel paper intitolato “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” e che è costato loro il posto di lavoro dentro Google. Accanto alle elevate possibilità di inganno, ci sono anche costi ambientali enormi per il training dell’AI di LaMDA e il rischio che i dati utilizzati portino a visioni stereotipate e pregiudizievoli. La conclusione del saggio è che i costi della corsa a language model sempre più grandi e complessi ricadano quasi esclusivamente su minoranze e gruppi già marginalizzati.

Una corsa che stenta però a fermarsi, con uno degli ultimi passi che è stato compiuto ai primi di maggio, quando Meta ha “democratizzato” l’accesso al suo language model OPT-175B. Ed è l’ennesimo passo verso un Internet che non è fatto per la gente che vi naviga. Lo spiega Ben Tarnoff nel suo recente saggio Internet for the People, che ricostruisce l’evoluzione (o l’involuzione) della rete. Inizialmente creato in ambito militare, poi passato sotto il controllo delle università e della ricerca, a partire dagli anni ’90 Internet ha subito un processo estremo di privatizzazione che ha avuto come obiettivo ultimo la sua trasformazione in un supermercato digitale, dove grazie al mercato dei dati e delle ad anche la sola permanenza al suo interno produce guadagno. Il profitto è stato la stella polare degli ultimi trent’anni di sviluppo di Internet, così come è il principio regolatore della vita digitale dell’utente. La gratuità di certi servizi diventa così solo apparente, visto che il prezzo che si paga è in dati.

Di fronte, allora, ad annunciazioni di AI senzienti pronte a soppiantarci, converrebbe temere di più le logiche, anche fin troppo, umane.

--------------------------------------------------------------
Le Arene estive di Cinema a Roma

--------------------------------------------------------------

    ISCRIVITI ALLA NEWSLETTER DI SENTIERI SELVAGGI

    Le news, le recensioni, i corsi di cinema, la riviste, i libri, gli eventi e tutte le nostre iniziative



    Rispondi

    Contenuto non disponibile
    Consenti i cookie cliccando su "Accetta" nel banner"