Buongiorno, premetto che non ho ascoltato il podcast di Attivissimo e non ho intenzione di farlo, ho solo un paio di commenti sui commenti
in merito alla domanda inclusa nel subject avrei alcune modeste proposta: no panic ma soprattutto non facciamo confusione tra fenomeno e epifenomeno, tra correlazione e causazione. Fabio Alemagna <[email protected]> writes: > Il giorno ven 30 giu 2023 alle ore 10:07 Alberto Cammozzo via nexa < > [email protected]> ha scritto: >> >> Le temute truffe di identità basate sulle immagini sintetiche si sono >> concretizzate e sono in corso; > > A me preoccupano di più gli usi che enti governativi potrebbero fare di > tecnologie come questa. False evidenze a carico di persone ritenute > scomode: opponenti politici, attivisti per i diritti umani, e chi più ne ha > più ne metta. Tecnologie come questa sono ormai qui per restare, bandirne o > regolarne l'uso per i "comuni mortali" non impedirebbe a chi "comune > mortale" non è di farne gli usi più disparati, pressoché sicuramente non a > vantaggio della comunità. che si tratti di enti amministrativi, governativi, agenzia di intelligence, aziende multinazionali o organizzazioni criminali (e a volte gli insiemi si intersecano) cambia poco, la cosa che io trovo _etremamente_ positiva dei sistemi computerizzati generativi (machine learning o no) è che rendono sempre più alla portata di tutti creare falsi, incluse identità false la soluzione a tutto questo non _deve_ essere quella di introdurre ulteriori "patenti" che consentano l'accesso a simili tecnologia, altrimenti le parole "democrazia" e "partecipazione" perderebbero ulteriormente di senso, che già sono messe male, ma proprio male male in poche parole: un grosso NO alla criminalizzazione degli strumenti, in particolare quelli informatici se ci sono dei problemi tecnologici con la gestione delle "identità digitali" è SOLO teconogicamente che _devono_ essere risolti... e POSSONO essere risolti > Probabilmente la strategia della Mutual assured destruction > <https://en.wikipedia.org/wiki/Mutual_assured_destruction> è l'unica > reale difesa contro questo tipo di situazione, sì ma cerchiamo di sgombrare il campo da un possibile equivoco: gli strumenti informatici NON sono armi, tantomeno con potenziale distruttivo del livello di armi atomiche, biologiche e chi più ne ha più ne inventi io respingo CON FORZA qualsiasi tentativo di paragonare "i bit" e i sistemi basati su di essi a /armi/: no way! > il che significa che la piena e libera disponibilità di queste > tecnologie è l'unica vera difesa verso il loro abuso. la disponibilità non serve a nulla se non è possibile poterle studiare, ecc. ecc.. le 4 libertà fondamentali del software libero, in poche parole solo comprendendo il funzionamento degli automatismi che ci circondano (come direbbe Giacomo Tesio) possiamo dotarci degli strumenti intellettuali e tecnologici per evitare di cascare nell'eteronomia (grazie Kant!), guadagnando maggiori livelli di autonomia > Nel momento presente siamo in una fase di transizione che viene con i > suoi disagi. Del resto, il furto d'identità non è una novità, con > milioni di casi l'anno in tutto il mondo, e non ho visto evidenze che > la cosa sia peggiorata in maniera significativa. concordo, io non credo affatto che il problema delle AI generative sia quello che rendono più facile il furto d'identità... per come fa schifo oggi il sistema di gestione della "identità digitale" basta un semplice phishing :-O >> i siti di disinformazione generano fiumi di falsità per incassare milioni; > Anche in questo caso, è forse una novità? ma soprattutto: cosa diavolo è la disinformazione?!? a parte definizioni vaghe e soggettive, qualcuno è mai riuscito a definire giuridicamente "disinformazione"? E filosoficamente? inoltre, in merito alla disinformazione si è discusso molto in questa lista, qui una _opinionated_ list: - https://server-nexa.polito.it/pipermail/nexa/2022-May/023803.html "The Liberal Obsession With ‘Disinformation’ Is Not Helping" - https://server-nexa.polito.it/pipermail/nexa/2022-November/024305.html "Truth Cops - Leaked Documents Outline DHS’s Plans to Police Disinformation" ogni volta che leggo "disinformazione" sento una forte puzza di censura > La disinformazione non ha mai avuto bisogno dell'IA fino ad oggi, > avviene e avveniva tutti i giorni anche sui media mainstream. le vie della cens... ops disinformazione sono infinite :-D > Evidenze che le cose siano significativamente peggiorate, con impatti > sulla società che vanno (molto) al di là dei guadagni di chi fa > disinformazione non ne ho viste. Qualcuno ha riferimenti in tal senso? concordo: che differenza fa la disinformazione generata dalle persone rispetto a quella generata dalle AI? forse la differenza con l'introduzione dell'AI è che le persone che **producono** disinformazione (tecnicamente: notizie false o narrazioni faziose spacciate come fatti) perderanno il loro posto da "creativi"? ...ma anche la lotta alla disinformazione si è evoluta e impiega l'AI per scovarla: https://jigsaw.google.com/issues/#disinformation --8<---------------cut here---------------start------------->8--- Confronting the threat of disinformation As the tactics of disinformation campaigns become more sophisticated, we’re building new technology to strengthen our collective defenses. --8<---------------cut here---------------end--------------->8--- Caspita che brutta fine per l'indistria dei FAT checkers essere sostituiti da sistemi di FAT checking automatici basati su machine learning. ...nel frattempo, come antidoto, propongo una massicia dose di human learning che aiuta parecchio a essere autonomi nel riconoscere le falsità: però attenzione, questa attività richiede moltissima /fatica/ e tempi moderatamente lunghi, esattamente l'opposto rispetto all'"informazione facile" con la quale siamo letteralmente bombardati >> e le immagini di abusi su minori generate dal software travolgono, per >> pura quantità, chi cerca di arginare questi orrori. > > Dirò qualcosa di non convenzionale, in tal senso: e se questo fosse un modo > per tenere lontano dai bambini in carne e ossa i pedofili? Potrebbe persino > essere che grazie all'IA usata a tal maniera vedremmo calare gli abusi su > minori: sarebbe questo un male? capisco la provocazione non convenzionale e mi intriga, ma dubito seriamente che chi diffonde tali immagini abbia quelle intenzioni :-) la materia è complessa e **molto** delicata, l'abuso minorile [1] comprende i reati legati al materiale pornografico minorile [2] che a seconda degli ordinamenti si /sovrappone/ giuridicamente a quelli legati al materiale pedopornografico [3] Wikipedia in merito alla legislazione italiana dice [4]: --8<---------------cut here---------------start------------->8--- La norma codicistica italiana intende come pedopornografico quel materiale che "ritrae o rappresenta visivamente un minore implicato o coinvolto in una condotta sessualmente esplicita, quale può essere anche la semplice esibizione lasciva dei genitali o della regione pubica".[9] Dal 2 marzo 2006 ciò si applica anche a fotomontaggi, fotoritocchi e in generale a immagini fotorealistiche realizzate utilizzando scatti o parti di scatti di soggetti minorenni. Questo si applica per attività sessuali e analoghe e anche se i fotomontaggi non ritraggono scene realmente accadute. Tuttavia, a differenza di altri Paesi, la legge italiana non si applica ai disegni che siano chiaramente distinguibili come tali (per esempio lolicon o shotacon) e non come fotorealistici. La legge infatti recita chiaramente che "per immagini virtuali si intendono quelle realizzate ritoccando foto di minori o parti di esse con tecniche di elaborazione grafica [...] la cui qualità di rappresentazione fa apparire come vere situazioni non reali".[10][11] In Italia il semplice possesso di materiale pornografico coinvolgente minori costituisce reato e per i soggetti coinvolti è prevista come pena accessoria l'interdizione a vita dall'attività nelle scuole e negli uffici o servizi in istituzioni o strutture prevalentemente frequentate da minori. --8<---------------cut here---------------end--------------->8--- in Italia non mi pare ci sia una sostanziale distinzione tra abusi su minori e abusi pedopornografici (sbaglio?) le immagini fotorealistiche di pornografia minorile generate per mezzo di sistemi ML vanno quindi a incrementare (non so di quanto) la quantità di materiale illegale; mi pare una questione di quantità più che di sostanza nella lotta agli abusi su minori o pedofili ribaltando la cosa, invece, mi pare degno di nota il fatto che tali immagini fotorealistiche possano (potenzialmente) essere generate dagli investigatori per essere utilizzate (potenzialmente) in azioni sotto copertura di infiltrazione in organizzazioni dedite allo sfruttamento sessuale minorile, senza usare quelle di situazioni reali. comunque, rispetto al serissimo problema degli abusi su minori e pedofili, non vedo come le immagini generate possano sostanzialmente peggiorare la situazione cordiali saluti, 380° [1] https://it.wikipedia.org/wiki/Abuso_minorile_(ordinamento_italiano)#Fonti [2] https://it.wikipedia.org/wiki/Pornografia_minorile https://it.wikipedia.org/wiki/Pornografia_minorile_(ordinamento_italiano) [3] https://it.wikipedia.org/wiki/Pedopornografia [4] https://it.wikipedia.org/wiki/Pedopornografia#In_Italia > > Fabio > _______________________________________________ > nexa mailing list > [email protected] > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list [email protected] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
