Andrea, ribaltiamo la questione: se alla gente la TV non fosse piaciuta, Berlusconi avrebbe continuato a costruire palazzi :-)
G. On Mon, 14 Oct 2024 at 12:58, Andrea Bolioli <[email protected]> wrote: > È divertente, con gli LLM si possono fare anche cose divertenti. > Io uso gli LLM per lavoro, faccio anche formazione sugli LLM, ecc > Ma spero che la riflessione sull’utilità sociale degli LLM, i rischi e le > opportunità, sia portata avanti anche da chi ne sa più di me di economia, > politica, società, diritto, educazione, ecc > Se avessimo chiesto solo a Berlusconi se la TV era utile… 😁 > > AB > > > > Il giorno lun 14 ott 2024 alle 12:36 Guido Vetere <[email protected]> > ha scritto: > >> se i LLM siano utili magari facciamolo dire a chi li usa, anche perché >> quelli non si fanno intimidire dai prof >> >> di sicuro sono molto divertenti, ecco l'articolo messo in bocca a >> Savonarola (ChatGPT 4) >> >> * O popolo cieco, sedotto dalla vanità delle macchine e dall'illusione >> dell'intelligenza creata dall'uomo! Come Pinocchio si lasciò ingannare dal >> Paese dei Balocchi, così le nostre scuole e università stanno per cedere >> l'anima all'idolo dell'IA generativa. Questa intelligenza non è che un >> automa vuoto, privo di sapienza divina, uno strumento delle grandi potenze >> per distruggere l'istruzione, per corrompere l'innocenza degli studenti. >> Vegliate, affinché non scivoliate nel peccato della pigrizia intellettuale!* >> >> (si scherza, eh) >> >> G. >> >> >> >> >> On Mon, 14 Oct 2024 at 12:06, Andrea Bolioli <[email protected]> >> wrote: >> >>> Grazie Daniela e a tutti. >>> >>> Sono d’accordo con quasi tutto quello che hai scritto nell’articolo . >>> La favola che l’IA serve per il bene dell’umanità andrebbe considerata >>> una favola del pifferaio magico, secondo me. >>> Lo dico pur essendo una persona che ha lavorato per 35 in ambito NLP e >>> che trova meravigliosi e stupefacenti i sistemi LLM attuali. Serviranno a >>> fare qualcosa di socialmente utile? Mah, per ora non è chiaro. >>> È molto utile fare formazione su questi temi in tutte la sedi in cui è >>> possibile fare formazione. Formazione scientificamente fondata, critica, >>> auspicabilmente efficace. >>> L’ignoranza su questi temi è molto diffusa, così come lo era riguardo al >>> web, ai motori di ricerca, ai social network, e prima riguardo alla TV e >>> altri mezzi di comunicazione di massa. Ignoranza che rende le persone >>> fruitori >>> passivi manipolabili, non solo la gente comune ma anche i decisori >>> politici. >>> >>> È ovvio che quello che creiamo riflette noi stessi, non viene creato dai >>> marziani, che non esistono. È noto che le persone creano anche cose >>> orribili. Alcuni creano cose orribili, altri cercano di contrastarle, >>> alcuni creano cose belle. Le persone fortunatamente non perseguono tutte >>> gli stessi scopi. Alcune hanno come unici scopi il profitto o il dominio. >>> >>> Il problema principale degli LLM non sono i bias: se penso alla TV >>> democristiana che l’Italia si è beccata per 40 anni, o alle televisioni >>> attuali di stati come la Russia, ho difficoltà a pensare che il problema >>> maggiore degli LLM siano i bias. In un paese democratico ognuno ha i suoi >>> bias. Su questo credo che siamo d’accordo. >>> Un sistema che genera testo esprime anche punti di vista, >>> inesorabilmente. Genera testo che viene letto e interpretato come dotato di >>> senso. Un sistema che risolve problemi di algebra non esprime punti di >>> vista, trova la soluzione corretta oppure no. >>> È un problema? Sì, c’è un problema se chi usa gli LLM pensa che siano >>> motori di ricerca (cita le fonti corrette e rilevanti? No), oppure pensa >>> che siano intelligenti (mi scrive la cosa più intelligente che si possa >>> immaginare? No), o pensa che siano sistemi di data analytics ( ha i >>> database più completi e corretti di ogni settore? No) . >>> (Non entro nel tema “pensiero” perché è filosoficamente troppo >>> impegnativo. Gli LLM non pensano. ) >>> >>> Gli LLM generano testo e codice software che ci permettono di fare copia >>> e incolla. Gli scrivo di che cosa ho bisogno, copio e incollo l’output se >>> mi piace, rileggo, correggo. Se non rileggo e correggo, sto sbagliando, non >>> ho capito che cosa sto usando. Se non rileggo e correggo e vendo ad una >>> azienda il report generato dall’LLM come last report della grande azienda >>> di consulenza (cosa che sta avvenendo), faccio una frode. Se vendo all’INPS >>> un fantomatico sistema di IA che risolverà i problemi delle pensioni >>> italiane (ma in che modo?!?), sto facendo una frode. Se faccio generare >>> all’LLM un bando pubblico senza rileggerlo… Se servono altri esempi, sono a >>> disposizione. >>> >>> È fastidioso sentire ogni 3x2 che qualunque problema verrà risolto >>> dall’IA. Meglio l’aloe vera 😉 Per ora nessuno ha detto che l’IA porterà la >>> pace nel mondo… Peccato. >>> >>> Buona giornata, >>> Andrea >>> >>> >>> >>> >>> >>> >>> >>> >>> Il giorno dom 13 ott 2024 alle 18:20 maurizio lana < >>> [email protected]> ha scritto: >>> >>>> ho letto l'articolo. >>>> condivido che l'infiltrazione di IA nelle pratiche della scuola e >>>> dell'Università sia un problema e sia anche l'espressione di un problema >>>> che c'era già - scuola e università come appendici del mondo aziendale. >>>> che i sistemi di IA - incapaci di gestire le ordinazioni degli >>>> hamburger - vengano introdotti nella scuola per gestire gli studenti >>>> (studenti come hamburger?) esplicita l'idea che lo studente sia un prodotto >>>> e non una persona. >>>> >>>> secondo me poi in questa introduzione una parte non piccola la gioca >>>> anche una dose di ignoranza e sudditanza psicologica: 'se non lo facciamo, >>>> facciamo figura di ignoranti'. come una riedizione dei vestiti nuovi >>>> dell'imperatore. >>>> >>>> quanto al fatto, nel commento di Alessandro Marzocchi, che "la macchina >>>> è creata dagli umani, mi pare ovvio che riproduca l'umano, coi suoi difetti >>>> ed errori" il problema è che ai sommi sacerdoti del culto di questa >>>> macchina, degli errori non importa nulla, importa solo che tutti (il >>>> maggior numero possibile) la credano onnisciente creativa onnipotente. >>>> >>>> rimando anche a Daniele Gambetta «Technic and magic: animismo di >>>> piattaforma e svolta linguistica 2.0 - seconda parte». DINAMOpress, 5 >>>> ottobre 2023. >>>> https://www.dinamopress.it/news/technic-and-magic-animismo-di-piattaforma-e-svolta-linguistica-2-0-seconda-parte/ >>>> che ricorda che il bias è insito (ineliminabile forse) nei sistemi di IA: >>>> >>>> “Il punto non è migliorare o correggere il modello, il punto è che >>>> qualunque rappresentazione del mondo e qualunque forma di espressione è >>>> situata, è posizionata in un contesto specifico sociale, storico. ... >>>> Eliminare il bias è una richiesta priva di senso, dal momento che un >>>> discorso neutrale non esiste” >>>> >>>> e il loro bias diventa pervasivo, mentre quello degli umani non arriva >>>> ad esserlo in quella forma e in quella misura. >>>> Maurizio >>>> >>>> >>>> >>>> >>>> >>>> Il 13/10/24 12:03, alessandro marzocchi ha scritto: >>>> >>>> Date: Sat, 12 Oct 2024 17:04:47 +0000 From: Daniela Tafani < >>>> [email protected]> ha scritto >>>> ho appena pubblicato un articolo dal titolo >>>> Omini di burro. Scuole e università al Paese dei Balocchi dell'IA >>>> generativa >>>> < >>>> https://btfp.sp.unipi.it/it/2024/10/omini-di-burro-scuole-e-universita-al-paese-dei-balocchi-dellia-generativa/ >>>> > >>>> Vi sarò grata di qualsiasi osservazione, in questa lista >>>> o nei commenti, nella pagina del "Bollettino telematico di filosofia >>>> politica" >>>> *** >>>> Daniela scrive: >>>> I testi generati riproducono, come in uno specchio >>>> <https://academic.oup.com/book/56292>, il pensiero egemonico e le >>>> ingiustizie espresse nei dati di partenza, ma, così come gli specchi non >>>> producono corpi, i grandi modelli del linguaggio naturale non producono >>>> menti. >>>> *** >>>> (mia osservazione): >>>> Ognuno deve molto all'ambiente in cui è cresciuto, all'educazione >>>> ricevuta. Le scelte diverse che a volte facciamo, potrebbero essere >>>> criticate come allucinazioni? Riflettiamo sul titolo del manuale di >>>> riferimento sulla follia: DSM, diagnostic STATISTIC manual, paradossalmente >>>> esasperando la statistica, quando la maggioranza era quadrupede i bipedi >>>> erano folli. E' stato un caso fortunato che allora non esisteva il DSM ma >>>> la stessa evoluzione è una deviazione statistica? >>>> Al netto di tutto, la macchina è creata dagli umani, mi pare ovvio che >>>> riproduca l'umano, coi suoi difetti ed errori. In fin dei conti la macchina >>>> analizza un numero enorme di casi (dati, informazioni, frasi, immagini) e >>>> da essi cerca di dedurre significati, relazioni. Noi umani facciamo >>>> qualcosa di diverso quando impariamo a parlare, camminare, scrivere, quando >>>> impariamo ad imparare? >>>> In tempi antichi, ma tutto sommato recenti, il medico toccava il nostro >>>> corpo per dedurre lo stato di salute, ora non più e da malato ho sofferto >>>> la mancanza del contatto fisico col medico, ora si usano termometri e >>>> millemila analisi molto spesso affidate a macchine ... esternalizzate, >>>> avrebbe criticato Platone. A partire dal termometro, ogni macchina ci dà >>>> una conoscenza del reale sua, della macchina con un "linguaggio macchina" e >>>> questo non ci ha preoccupato. A parte meraviglia, sorpresa, non ci ha >>>> preoccupato più di tanto la sostituzione del cuore - trapianto o macchine >>>> varie - anche se nel cuore vedevamo la sede di affetti ed emozioni. Ora ci >>>> preoccupa che la macchina si occupi di mente. >>>> Voleva scuotere la nostra mente il surrealismo che aveva anticipato >>>> dubbi e suggestioni, confondendo ed ibridando linguaggi e sensi, Magritte >>>> ci ha mostrato l'immagine di una pipa con la scritta "ceci n'est pas une >>>> pipe", prima dell'IA abbastanza per aprirci a domande nuove in tema di >>>> realtà e linguaggio che la descrive. >>>> Come tutti sono molto preoccupato, anche per controlli degenerati >>>> denunciati da Stefano Quintarelli e Juan Carlos De Martin, degenerazioni >>>> che neppure esse sono nate ora, fascismo nazismo stalinismo e loro >>>> controlli sono presenti nelle memorie dirette delle generazioni umane >>>> tuttora viventi. >>>> Alla fine mi domando: non è ovvio che questa nuova "macchina" ci >>>> somigli? >>>> Ma l'aspetto più interessante è l'analisi della realtà che essa apre. >>>> ... se ci arriveremo da persone libere, e questa è la domanda che più mi >>>> preoccupa, non la riflessione che la realtà è altro da noi, nonostante noi >>>> siamo parte della realtà >>>> Grazie, Daniela, per le riflessioni con le quali cresce la mia >>>> gratitudine per quel che imparo da questa lista: chi l'ha inventata? >>>> Errando discitur, anche questa è statistica, siamo tutti un poco pappagalli >>>> stocastici? >>>> Duccio (Alessandro Marzocchi) >>>> >>>> >>>> >>>> >>>> >>>> ------------------------------ >>>> >>>> pourquoi es-tu parti avant que je te l'apprenne? >>>> le savais-tu déjà? >>>> avais-tu deviné? >>>> bashung, immortels >>>> >>>> ------------------------------ >>>> Maurizio Lana >>>> Università del Piemonte Orientale >>>> Dipartimento di Studi Umanistici >>>> Piazza Roma 36 - 13100 Vercelli >>>> <https://www.google.com/maps/search/Piazza+Roma+36+-+13100+Vercelli?entry=gmail&source=g> >>>> >>>
