Blocco chat GPT

[wilcoyote]

Blocco ChatGPT in Italia.
Ecco 10 punti che non sono chiari a tutti:

1) Il Garante NON HA BLOCCATO l'accesso a ChatGPT. Ha "bloccato" il trattamento dei dati. In sostanza loro avevano 20 giorni per chiarire e anche in caso di non risposta ci sarebbero state altre procedure prima di arrivare EVENTUALMENTE ad un blocco dell'accesso.

2) ChatGPT ora non è accessibile dall'Italia in quanto sono stati loro a decidere di "spegnerlo" in Italia. Nessuno glielo ha ordinato.

3) Se ChatGPT ha deciso di "spegnere" autonomamente l'accesso in Italia, invece di dare chiarimenti al Garante, a pensar male viene in mente che evidentemente non stavano gestendo in dati nel rispetto della legge. Avrebbero potuto tenere aperto, dare spiegazioni al Garante sul fatto che in realtà stavano facendo tutto nel rispetto della legge. Invece hanno chiuso... Vedremo cosa risponderanno quindi...

4) Quando il Garante parla di trattamento dei dati personali non si riferisce alla email e password inserite dalle persone, ma soprattutto al fatto che abbiano raccolto a strascico dati su chiunque dal web senza farlo come invece prescrive la legge. Il problema è enorme. Di scala mondiale.

5) Un altro problema sollevato dal Garante è che i dati raccolti vengono rielaborati senza tutelare le persone. Per cui, per esempio, chiunque potrebbe vedere il proprio nome associato a qualcosa di diffamatorio, senza alcun controllo e senza alcuna possibilità di modificare l'errore. Sono molti i casi in cui incensurati sono stati descritti come pregiudicati. Se capitasse a me non mi farebbe piacere. Immaginate se li dentro ci fosse vostro figlio, minorenne, col suo nome associato a cose terribili, quando lo si cerca o lo si nomina in un chat in tutto il mondo...

6) La percezione del valore della privacy credo sia ai minimi termini e quindi in generale le persone spesso sottovalutano il problema, in quanto astratto e apparentemente solo fonte di problemi per l'utente. Il Garante protegge anche chi non capisce cosa stiano proteggendo e perché. è il bello delle istituzioni e della civiltà.

7) Il punto non è "ah, ma tanto accedo con una VPN e risolvo". Sarebbe un po' come dire: "La legge vieta la vendita di alcool a mio figlio di 5 anni? Chissenefrega, io sono furbo e glielo compro io, così li frego!". Non freghi loro, freghi te stesso (e tuo figlio).

8 ) Manca la percezione di cosa faccia davvero il Garante. Per esempio molti non sanno che non ha alcun potere diretto sul Registro delle Opposizioni. Per cui il fatto che non funzioni e che molti non riescano a uscire dal "giro" delle chiamate selvagge, non ha a che fare con ciò che è nei poteri dell'Autorità Garante per la Protezione dei dati personali.

9) La questione non ha a che fare con "l'arretratezza del Paese, antitecnologico". Anzi, al contrario, sui temi della privacy siamo sempre stati molto avanti e questo provvedimento è la dimostrazione di quanto invece l'Italia su questi temi abbia compreso prima di altri paesi la complessità del problema e abbia agito anticipando altri. Non mi stupirebbe se a catena arrivassero altri paesi a fare le stesse richieste a ChatGPT e loro chiudessero anche in quei paesi.

10) Chiudo con una considerazione personale: vogliamo progettare l'innovazione in sicurezza o no? La privacy deve essere "by design", come si dice. Ovvero deve essere parte del prodotto. Così come lo è oggi la sicurezza in un'automobile. Quando la progettano pensano alla sicurezza. Non fanno una macchina pensando a tutto il resto e poi solo alla fine mettono tanti cuscini intorno per risolvere il fatto che non sia stata progettata pensando a tutelare la vita dei passeggeri.
Questo vale anche per altri temi che non hanno a che fare con questo provvedimento ma che dovrebbero essere altrettanto importanti. Per esempio l'etica by design. La trasparenza degli algoritmi e dei dati con cui vengono generate le risposte. Il copyright correlato. E altri mille temi che a volte sfuggono ai non addetti ai lavori, ma che è giusto che non sia così per le istituzioni e le autorità preposte per tutelare i cittadini.

[finestraweb]

Grazie per il contributo.

È più semplice raccontare che questo nuovo servizio sia stato chiuso "per colpa" del Garante, sImbolo di un'Italia retrograda.
A volte, più che informare, è più facile raccontare.

Su cosa si debba fare, non lo so...

[Narodav]

che meraviglia, cercavo un posto dove discutere dell'argomento, grazie per aver aperto una sezione in OT su questo forum che reputo frequentato da persone competenti e accurate.
Io della faccenda ho provato a leggere sui giornali online, sapendo di pescare nel peggio, in quanto ormai l'informazione critica e' un lusso che non si trova su articoli aperti al pubblico.

Siceramente di tutti i punti sopra esposti non capisco l'obiezione del garante.
Mi spiego, in principio ChatGPT e' un modello di linguaggio trainato su informazioni pubblicate fine al 2021.
Se vogliamo questo puo' aprire dubbi riguardo il copyright in quanto all'interno della sua rete potrebbero esserci concetti proprietari.

Le obiezioni che accetto sono relative al fatto che il servizio e' rivolto ai maggiori di 13 anni, ma non c'e' un modo per verificare l'eta'. Questo per rendere il servizio disponibile a persone, in principio, dotate di spirito critico.
Penso tale obiezione sia rivolgibile anche a PornHub, ma non penso il garante abbia mosso critiche al sito >18 anni.

Quello che non capisco e' il seguente passaggio

le informazioni fornite da ChatGpt non sempre corrispondono al dato reale, determinando quindi un trattamento di dati personali inesatto.

Scusate, ma come per ogni altro strumento avete letto le istruzioni per l'uso?

Onestamente, come detto sopra ChatGPT e' un modello di linguaggio, non un database di scibile umano.
Le applicazioni piu' dirette di ChatGPT sono le seguenti:

- Riassumere testi
- Esprimere in linguaggi di programmazione un determinato problema
- Formalizzare concetti e pensieri
- Estrarre in frasi semplici concetti da documenti complessi (contratti, leggi, report tecnici)
- risolvere problemi matematici
- tradurre in differenti lingue (anche se e' evidente il forte Anglicismo dello strumento)

In queste funzioni, che uso quotidianamente, lo strumento e' decisamente utile.
Mi risolve tempo, mi aguzza la vista.
Certo, prendo tutto cio' che ricevo con "grano di sale", ma e' indubbio che mi accelera di molto il lavoro, in quanto e' piu' facile correggere o rimuovere parti, piuttosto che buttarle giu' su un foglio bianco.

Ora, l'uso dilagante e sbagliato che io vedo e' quello dell'oracolo.

Andare su ChatGPT senza contenuti, ma solo a fare domande e' sbagliato. Se ne fa un uso off-label.
E spesso si puo' incappare nei cosi detti "sogni" dell'algoritmo.

Detto questo, ripeto, non capisco le obiezioni mosse dal garante dalla privacy.
Alla fine se quello che vuole e' un EULA lunghissima a cui nessuno prestera' attenzione e a cui tutti daranno consenso, mi chiedo se questo "proteggera'" i nostri diritti.

[wilcoyote]

che meraviglia, cercavo un posto dove discutere dell'argomento, grazie per aver aperto una sezione in OT su questo forum che reputo frequentato da persone competenti e accurate.
Io della faccenda ho provato a leggere sui giornali online, sapendo di pescare nel peggio, in quanto ormai l'informazione critica e' un lusso che non si trova su articoli aperti al pubblico.

Siceramente di tutti i punti sopra esposti non capisco l'obiezione del garante.
Mi spiego, in principio ChatGPT e' un modello di linguaggio trainato su informazioni pubblicate fine al 2021.
Se vogliamo questo puo' aprire dubbi riguardo il copyright in quanto all'interno della sua rete potrebbero esserci concetti proprietari.

Le obiezioni che accetto sono relative al fatto che il servizio e' rivolto ai maggiori di 13 anni, ma non c'e' un modo per verificare l'eta'. Questo per rendere il servizio disponibile a persone, in principio, dotate di spirito critico.
Penso tale obiezione sia rivolgibile anche a PornHub, ma non penso il garante abbia mosso critiche al sito >18 anni.

Quello che non capisco e' il seguente passaggio

le informazioni fornite da ChatGpt non sempre corrispondono al dato reale, determinando quindi un trattamento di dati personali inesatto.

Scusate, ma come per ogni altro strumento avete letto le istruzioni per l'uso?

Onestamente, come detto sopra ChatGPT e' un modello di linguaggio, non un database di scibile umano.
Le applicazioni piu' dirette di ChatGPT sono le seguenti:

- Riassumere testi
- Esprimere in linguaggi di programmazione un determinato problema
- Formalizzare concetti e pensieri
- Estrarre in frasi semplici concetti da documenti complessi (contratti, leggi, report tecnici)
- risolvere problemi matematici
- tradurre in differenti lingue (anche se e' evidente il forte Anglicismo dello strumento)

In queste funzioni, che uso quotidianamente, lo strumento e' decisamente utile.
Mi risolve tempo, mi aguzza la vista.
Certo, prendo tutto cio' che ricevo con "grano di sale", ma e' indubbio che mi accelera di molto il lavoro, in quanto e' piu' facile correggere o rimuovere parti, piuttosto che buttarle giu' su un foglio bianco.

Ora, l'uso dilagante e sbagliato che io vedo e' quello dell'oracolo.

Andare su ChatGPT senza contenuti, ma solo a fare domande e' sbagliato. Se ne fa un uso off-label.
E spesso si puo' incappare nei cosi detti "sogni" dell'algoritmo.

Detto questo, ripeto, non capisco le obiezioni mosse dal garante dalla privacy.
Alla fine se quello che vuole e' un EULA lunghissima a cui nessuno prestera' attenzione e a cui tutti daranno consenso, mi chiedo se questo "proteggera'" i nostri diritti.

E' evidente che tu sia abbastanza esperto, certamente più di me, che chat GPT l'ho usata solo agli albori, senza necessità di iscrizione e quando ancora non si chiamava ChatGPT (in pratica era un prototipo di motore avanzato di interrogazione di basi dati in linguaggio naturale). Da quando è richiesta l'iscrizione, anche solo "free", chiedono anche il numero di smartphone, cosa che mi sono ben guardato dal comunicare e che conservo gelosamente (già devo darlo a destra e a manca per le varie app di servizi), l'unico social che ho sullo smartphone è whatsapp, se "social" si può chiamare. Infatti, guarda caso, non ricevo praticamente mai telefonate spam. Strano eh?
Devi tenere presente, come detto al punto 6 del post di apertura, che la stragrande maggioranza degli utenti non capisce un'emerita ceppa di sicurezza, privacy ecc.: il garante deve "garantire" anche (e soprattutto) loro.

Ciò posto io penso che inibire l'accesso a tutti coloro che si collegano dall'Italia sia stata una scelta draconiana, forse dettata dalla difficoltà tecnica di implementare i filtri per impedire il "trattamento non sufficientemente informato" dei dati sensibili dei cittadini italiani, oppure, speriamo di no, considerando l'Italia ininfluente al loro business, nemmeno stanno scrivendo le opportune patch.

Io ho lavorato a lungo come analista-programmatore al sistema informativo del fisco italiano (la famigerata SOGEI), fino all'inizio degli anni 2000 era necessario mantenere in organico una quantità apparentemente sproporzionata di analisti e programmatori, perché succedeva spesso che Ministero e/o Governo o Parlamento se ne uscissero con leggi e regolamenti di attuazione che stravolgevano da un giorno all'altro il quadro normativo su cui si basavano i sistemi di elaborazione, per cui era necessario adeguare nel più breve tempo possibile tali sistemi (da qui le famigerate "cartelle pazze", la fretta fa fare sempre errori). Ora si ricorre all'outsourcing ed al lavoro interinale (e costa più di prima, dovendo fare le cose a modo per non in correre negli strali del garante della concorrenza UE, che ha sempre mal digerito le aziende "in house" degli enti pubblici). Un'azienda privata questo non se lo può permettere: ecco, forse i vari enti di garanzia e authorities dovrebbero tener conto dei tempi tecnici non comprimibili, prima di prendere certe decisioni. Da questo punto di vista l'operato del garante italiano è criticabile, ma non per il merito.

[Narodav]

grazie della risposta, mi permetto di affinare il ragionamento.

Mi pare di capire che l'obiezione del garante non sia sul trattamento dei dati personali, intesi come dati inseriti al momento dell'iscrizione, quanto all'esito di una domanda all'algoritmo.
Mi spiego, se ho capito bene il garante di suo pugno ha usato la chat, ha chiesto domande tipo "parlami di Napoleone III" ha ricevuto una risposta non corretta, e ha deciso che l'algoritmo non fosse in grado di processare dati personali in modo idoneo.

Questo almeno il significato che riesco a dare all'oscuro virgolettato di cui sopra, che penso essere il punto della questione

le informazioni fornite da ChatGpt non sempre corrispondono al dato reale, determinando quindi un trattamento di dati personali inesatto.

Sicuramente ci saranno altre obiezioni di carattere regolatorio, tipo se la societa' e' rappresentata in EU, se la societa' tratta i dati secondo GDPR etc,
ma quanto riportato qui sopra sembra essere la motivazione principale per la contestazione.

A questa contestazione, e solo a questa, torno col mio contradditorio: ha il garante utilizzato lo strumento secondo il suo "intent of use"?
A mio parere no, perche' una domanda "Parlami di... " non e' corretta se rivolta a un modello di linguaggio.

Per farla facile, se chiedo "Parlami della Mela", il modello puo' rispondere "La mela e' il frutto del melo, dalla forma quadrata"

L'algoritmo e' stato in grado di capire che lingua utilizzavo, ha formulato la risposta nella stessa lingua, ha utilizzato una frase grammaticalmente corretta,
ha utilizzato contenuti relativi alla mia domanda, ma il suo contenuto non e' generalmente considerato corretto secondo l'esperienza comune che un umano ha dalla mela.

A mio avviso un uso corretto sarebbe il seguente, incollare un trattato di botanica e chiedere all'algoritmo se dal testo e' possibile estrarre le parti relative al frutto del melo.

In questo caso sono certo che l'algoritmo, avendo un contesto ben determinato, riuscira' a svolgere il compito come da aspettative.

Riferimenti
- uso scorretto dell'algoritmo

- Il concetto di mela quadrata esiste. e la risposta sopra e' solo generalmente sbagliata, ma non completamente link

[wilcoyote]

grazie della risposta, mi permetto di affinare il ragionamento.

Mi pare di capire che l'obiezione del garante non sia sul trattamento dei dati personali, intesi come dati inseriti al momento dell'iscrizione, quanto all'esito di una domanda all'algoritmo.
Mi spiego, se ho capito bene il garante di suo pugno ha usato la chat, ha chiesto domande tipo "parlami di Napoleone III" ha ricevuto una risposta non corretta, e ha deciso che l'algoritmo non fosse in grado di processare dati personali in modo idoneo.

Questo almeno il significato che riesco a dare all'oscuro virgolettato di cui sopra, che penso essere il punto della questione

le informazioni fornite da ChatGpt non sempre corrispondono al dato reale, determinando quindi un trattamento di dati personali inesatto.

Sicuramente ci saranno altre obiezioni di carattere regolatorio, tipo se la societa' e' rappresentata in EU, se la societa' tratta i dati secondo GDPR etc,
ma quanto riportato qui sopra sembra essere la motivazione principale per la contestazione.

A questa contestazione, e solo a questa, torno col mio contradditorio: ha il garante utilizzato lo strumento secondo il suo "intent of use"?
A mio parere no, perche' una domanda "Parlami di... " non e' corretta se rivolta a un modello di linguaggio.

Per farla facile, se chiedo "Parlami della Mela", il modello puo' rispondere "La mela e' il frutto del melo, dalla forma quadrata"

L'algoritmo e' stato in grado di capire che lingua utilizzavo, ha formulato la risposta nella stessa lingua, ha utilizzato una frase grammaticalmente corretta,
ha utilizzato contenuti relativi alla mia domanda, ma il suo contenuto non e' generalmente considerato corretto secondo l'esperienza comune che un umano ha dalla mela.

A mio avviso un uso corretto sarebbe il seguente, incollare un trattato di botanica e chiedere all'algoritmo se dal testo e' possibile estrarre le parti relative al frutto del melo.

In questo caso sono certo che l'algoritmo, avendo un contesto ben determinato, riuscira' a svolgere il compito come da aspettative.

Riferimenti
- uso scorretto dell'algoritmo

- Il concetto di mela quadrata esiste. e la risposta sopra e' solo generalmente sbagliata, ma non completamente link

Continui ad trascurare il fatto che ChatGPT non la usano solo gli esperti tuoi pari.
Sei come un pilota di F1 che si indigna perché è vietato ai neopatentati di guidare una supercar.

Secondo me (che sto tutti i giorni a contatto con "capre informatiche") è questo il succo del discorso.

[Narodav]

ma no, io non mi sono indignato cerco solo di capire la logica del provvedimento.

Riguardo il parallelismo automobilistico, penso di sentirmi piu' come un normale patentato che si domanda con quale logica il ministro della salute possa bloccare l'uso delle automobili solo perche' il ministro ha guidato un auto in retromarcia tutto il tempo e la trova non ergonomica, ergo con possibili implicazioni per la scogliosi della popolazione.

In poche parole, si spieghi al ministro di che strumento si tratta, e quali sono i criteri di uso.

[wilcoyote]

ma no, io non mi sono indignato cerco solo di capire la logica del provvedimento.

Riguardo il parallelismo automobilistico, penso di sentirmi piu' come un normale patentato che si domanda con quale logica il ministro della salute possa bloccare l'uso delle automobili solo perche' il ministro ha guidato un auto in retromarcia tutto il tempo e la trova non ergonomica, ergo con possibili implicazioni per la scogliosi della popolazione.

In poche parole, si spieghi al ministro di che strumento si tratta, e quali sono i criteri di uso.

Scusa, ma tu sai come i funzionari del garante (mica è una sola persona!) hanno condotto l'indagine? Perché a me sembra che ti sia fossilizzato solo su questo aspetto che, se fosse come dici, sarebbe effettivamente dirimente, ma non è detto che sia andata come dici tu.

[Narodav]

non mi pare che i metodi di indagine vengano pubblicati. Solo i provvedimenti link
Ovviamente non posso sapere come le indagini siano state portate avanti, solo evidenziare che il rilevato #3 e' mal posto per l' "intent of use" del servizio.
Capisco anche che il provvedimento mira a difendere i diritti dei cittadini secondo GDPR, per cui ogni persona e' libera di chiedere la correzione o rimozione di dati sensibili,
ma questo approccio non e' possibile su una rete neuronale.

Molto probabilmente quello che accadra' sara' che l'algoritmo rispondera' con un warning quando un utente chiedera' una domanda non in linea col suo servizio.

Esempio
> Parlami di Napoleone III
# as an AI language model, I do not have access to information about every individual in the world, including Napoleon III.
I suggest that you try searching for information about him online, through social media or other public records, or reaching out to someone who may have known him personally for more information.

[finestraweb]

[...]
A mio avviso un uso corretto sarebbe il seguente, incollare un trattato di botanica e chiedere all'algoritmo se dal testo e' possibile estrarre le parti relative al frutto del melo.

In questo caso sono certo che l'algoritmo, avendo un contesto ben determinato, riuscira' a svolgere il compito come da aspettative.
[...]

Cambiando discorso, le nozioni del trattato di botanica restano nella memoria del sistema? A quanto ho capito sì.