Ciao all, uscito oggi su Guerre di Rete l'articolo di Federico Nejrotti "ChatGPT: cosa può fare e non può fare" https://www.guerredirete.it/chatgpt-cosa-puo-fare-e-non-puo-fare/
"Nonostante la sofisticatezza di questi sistemi e gli innegabili passi da gigante che stanno venendo fatti, bisogna ricordarsi che queste intelligenze artificiali non sono altro che potentissimi algoritmi addestrati su un database. StackOverflow, la principale piattaforma online dedicata alle conversazioni tra programmatori, a pochi giorni dal lancio di ChatGPT ha dovuto vietare ufficialmente l’inserimento di risposte generate con questi modelli “perché la frequenza con cui le risposte fornite sono corrette è troppo bassa”. Il professore di robotica cognitiva Murray Shanahan, in un paper pubblicato a dicembre 2022, restituisce una descrizione chiarissima di questa fondamentale differenza. “Immaginiamo di fornire ad un large language model il prompt ‘La prima persona a camminare sulla Luna è stata’ (nel tentativo di fargli completare la frase, ndr), e immaginiamo che risponda ‘Neil Armstrong’. Cosa stiamo davvero chiedendo in questo caso? Dobbiamo ricordarci che non stiamo davvero chiedendo chi sia stata la prima persona a camminare sulla Luna. Ciò che stiamo chiedendo nei fatti all’algoritmo è la seguente cosa: Data la distribuzione statistica delle parole nel vasto corpus pubblico di testi, quali parole è più probabile che seguano alla sequenza ‘La prima persona a camminare sulla Luna è stata’? Una buona risposta a questa domanda è ‘Neil Armstrong’. Sam Altman, CEO di OpenAI, ha dichiarato su Twitter che benché molti stiano descrivendo ChatGPT come una AGI, ovvero un’intelligenza artificiale generale (Artificial General Intelligence) – semplificando, una intelligenza artificiale che assomigli di più a quella umana – l’algoritmo è “ovviamente ancora lontano” dall’esserlo. Chiunque provi ChatGPT saprà riconoscere immediatamente le apparenti grandi potenzialità in termini di produzione di lavoro cognitivo: c’è chi ha provato a usare ChatGPT per fare i compiti, chi per scrivere saggi scolastici, chi per ripetere intere lezioni. Ma è l’equivoco di cui abbiamo appena parlato a rendere ChatGPT disfunzionale e a suo modo pericoloso in questo senso: le sue risposte saranno sempre credibili, chiare e ben scritte, ma la correttezza delle informazioni che presenta richiederà sempre un processo di accurata verifica". Ciao *merlos*
