l’IA veste Prada?

Vogliamo tutti credere nel futuro, ed in quel enorme balzo in avanti che è l’arrivo dell’intelligenza artificiale come risolutore infallibile di ogni mistero. Parlando con una moltitudine di alunni, insegnanti, bidelli… pardon operatori scolastici. Mi sono fatto pressappoco un’idea su come questa entità misteriosa viene vista.

Ora, non voglio scendere nei dettagli snocciolando dati, statistiche e quant’altro, ma vorrei lasciare tutto un po’ sul vago. Limitandomi alle mie due categorie preferite

Categoria A) Perlopiù studenti, età compresa tra i nove ed i 20 anni, vedono l’IA, come un essere Omnisciente (fermo restando che non conoscono il significato di omnisciente);

Categoria B) i diffidenti, età compresa dai 40 a matusalemme, si dividono tra “ho fatto un corso di Windows XP per lavorare” (si lo so, siamo nel 2025!)”, ed i “io uso il telefonino” (che significa passare giornate intere a ripostare i contenuti altrui su Facebook, e mandare gif animate per dare il buongiorno sui gruppi whatsapp).

Qualche giorno fa, assistendo involontariamente ad una lezione di laboratorio di Economia, tra i vari tira e molla tra alunni del biennio, ed il tecnico di laboratorio, (che di tecnico aveva ben poco), mi è capitato di poter dimostrare cosa succede quando una delle IA più conosciute, inciampa su qualcosa di semplice! (quanto meno, semplice per chi alle superiori ha fatto il minimo sindacale di matematica, e a prescindere da ciò, conosce un minimo di Excel).

Così mi sono inserito nella discussione tra il tecnico ed il gruppetto di ragazzini con un semplice ed innocente “ma guardate che le IA sbagliano”

L’esperimento!!! (immaginate il tutto con una musica epica, con tamburi ed ottoni):

L’esperimento in realtà, a dispetto del rullo di tamburi del rigo precedente, era semplicissimo. Ho fatto scattare una foto dal più loquace dei ragazzini a un simbolo che chiunque abbia mai aperto un foglio di calcolo conosce bene: il simbolo della Somma Automatica di Excel, quella grande ∑ (sigma maiuscola greca) che calcola in un istante la somma di una colonna di numeri.

Ed ho fatto chiedere all’IA “Gemini” (l’IA che Google installa sui suoi device), di spiegarci quel segno.

Naturalmente sia i ragazzini che il tecnico, aspettavano una risposta tecnica, magari un po’ prolissa, sulla funzione della sommatoria e la sua implementazione in Microsoft Excel. Quello che è arrivato, invece, è stato un lampo di genio, o forse un cortocircuito (qualcuno ricorda ancora Jonny 5?!) che ha lasciato, quasi, tutto il gruppetto in preda all’ilarità assoluta.

Infatti la risposta tanto attesa, è diventata una risposta tanto inattesa, ovvero: “È il logo di Louis Vuitton”

Sì, avete letto bene. Il potente modello di intelligenza artificiale di Google, progettato per elaborare informazioni complesse e risolvere problemi, ha identificato il simbolo matematico universale della sommatoria (∑) come il logo della casa di moda Louis Vuitton.

Il ragazzino, in cerca di una conferma alla presunta infallibilità dell’IA, si è ritrovato a ridere a crepapelle, e volato qualche sfotto, qualche testa si è girata verso il fondo dell’aula (sì le cose divertenti capitano solo a chi sta in fondo) sentendo di “Louis Vuitton”.

Ma perché l’IA “Allucina”? La Lezione Dietro la Risata

Aldilà della risata, e credetemi, è stato difficile smettere di ridere, questo episodio offre uno spunto di riflessione più che importante sul funzionamento dei modelli attuali di Intelligenza Artificiale, specialmente quelli multimodali che elaborano anche immagini:

I limiti del Contesto Visivo: Una singola icona ∑, scattata magari con una risoluzione non ottimale e fuori dal contesto di un intero foglio di calcolo, è un compito difficile per l’IA. Manca la “cornice” che la identifichi come strumento software.

L’Allucinazione: Quando un’IA non è sicura della risposta, non sempre ammette il non sapere. A volte, tende a “indovinare” o a “allucinare”, pescando in modo errato tra i dati usati durante il suo addestramento. In questo caso, probabilmente l’IA ha confuso la forma complessa del sigma con un altro simbolo astratto o monogramma che è più frequente nel suo database (e quale logo è più ubiquo e riconoscibile nel web di LV?).

Il Peso dell’Addestramento: Le IA sono potenti quanto i dati con cui vengono nutrite. Se i dati di addestramento hanno un forte bias verso contenuti popolari o facilmente riconoscibili (come i brand di lusso), e una carenza di esempi ben etichettati di interfacce software specifiche, si verificano questi errori clamorosi.

Conclusioni: L’IA è Umana… o almeno, Fallibile

E la prossima volta che userete un’IA, ricordatevi di mettere in dubbio le sue risposte. Magari, vi sta semplicemente suggerendo di investire i vostri risparmi in una borsa griffata, invece di calcolare il bilancio!