ChatControl, prossima norma europea

[C’è omertà]

Cosa ne pensate? è chiaro che non vale il discorso "non ho nulla da nascondere"

Sorveglianza di massa su mail e messaggi, cosa prevede il nuovo Regolamento Ue contro la pedopornografia online. Scorza (Privacy): "Avvertire gli utenti. Se qualcosa va storto conseguenze drammatiche" - Il Fatto Quotidiano

La sorveglianza di massa delle comunicazioni digitali diventa legale in Europa allo scopo di contrastare gli abusi sui minori online, il loro adescamento e la diffusione della pedopornografia. Questa la novità storica del nuovo Regolamento Ue ribattezzato “ChatControl” che il 6 luglio scorso ha...

www.ilfattoquotidiano.it

La sorveglianza di massa delle comunicazioni digitali diventa legale in Europa allo scopo di contrastare gli abusi sui minori online, il loro adescamento e la diffusione della pedopornografia. Questa la novità storica del nuovo Regolamento Ue ribattezzato “ChatControl” che il 6 luglio scorso ha già raccolto nel Parlamento Europeo un’ampia maggioranza (537 voti, 133 contrati e 24 astenuti) e si accinge a superare a breve l’ultimo scoglio legislativo, con la ratifica finale del Consiglio dell’Unione Europea. A quel punto il Regolamento sarà in vigore e di conseguenza, per tre anni, ogni cittadino europeo perderà il diritto alla riservatezza delle proprie comunicazioni digitali personali, sancito quasi vent’anni fa dalla Direttiva ePrivacy 2002/58/CE. “È un’attività significativa sul versante della protezione dei dati personali perché è molto invasiva, ma si tratta della migliore posizione di equilibrio sin qui identificata e, soprattutto, almeno per il momento, di una deroga“, commenta parlando con ilfattoquotidiano.it Guido Scorza, avvocato e componente del collegio del Garante per la protezione dei dati personali. Che pure avverte: “Se qualcosa va storto, penso al rischio di falsi positivi, le conseguenze per le persone potrebbero essere drammatiche quanto lo è ritrovarsi bollato, in un qualche database pubblico o privato, come pedofilo mentre non lo si è”.
...
I partiti europei contrari al provvedimento, Partito Pirata e Verdi, hanno puntato il dito sul presunto carattere “totalitario” del regolamento e sulla possibilità di errore dei sistemi di intelligenza artificiale utilizzati per questa sorveglianza di massa. “Nonostante tassi di errore fino all’86% secondo le statistiche della polizia, i fornitori possono segnalare automaticamente “materiale noto” alla polizia senza verifica umana – ha segnalato il portavoce del Partito Pirata Patrick Breyer -. Innumerevoli cittadini innocenti verranno sospettati di aver commesso un crimine, i minorenni vedranno nudi autogenerati (sexting) cadere in mani sbagliate, le vittime di abusi perderanno canali sicuri per la consulenza”. Proprio quest’ultimo punto, la possibilità che “ChatControl” finisca per intercettare e segnalare erroneamente le comunicazioni tra pazienti minorenni, loro genitori e i terapeuti o legali che li assistono nel percorso successivo all’abuso subito, è al momento tra i più controversi.

 

[icox]

Il termine "sorveglianza di massa" mi sembra un tantino esagerato in questo caso, almeno per quanto ci ho capito finora (e potrei anche non aver capito nulla).

Per cercare di farmi un'idea un piu' precisa ho dato una veloce lettura al documento ed effettivamente quanto riportano molte testate e' vero, anche se alcuni aspetti, come i limiti di questa deroga (articolo 3, punto a), non mi sono tanto chiari.
Sono anche andato a riprendermi la direttiva 2002/58/CE per leggere gli articoli interessati da questa deroga ed il piu' interessante e' probabilmente l'articolo 5: si vieta espressamente il controllo/intercettazione delle comunicazioni SALVO esplicito consenso dell'utente.
L'ultima parte e' quella che mi ha colpito di piu': per avere il consenso dell'utente potrebbe bastare una semplice clausola dentro i termini di utilizzo, quelli che generalmente noi tutti accettiamo senza leggere. Qui purtroppo non ho le competenze legali per capire se una cosa del genere si puo' fare.
Infine, da nessuna parte si parla di obbligo: qualora il fornitore del servizio decida di implementare quanto concesso dalla deroga dovra' rispettare tutta una serie di requisiti ma potrebbe anche decidere di non farlo.

Mettendo insieme i pezzi mi sono fatto l'idea che si', potenzialmente ora un fornitore di servizi potrebbe "sorvegliare" i propri utenti senza che questi lo sappiano, ma davvero converrebbe? Nel senso, ci sarebbero diversi limiti da rispettare e non dev'essere proprio banale mettersi in regola con quanto stabilito (vedere sempre articolo 3), avrebbe davvero senso andare ad incastrarsi in una cosa del genere quando con un banale aggiornamento dei termini di servizio puoi "monitorare" tutto quello che vuoi alla luce del sole?
In piu', non essendo un obbligo, le aziende che puntano molto sul tema privacy e riservatezza delle comunicazioni potranno comunque decidere di continuare a non applicare alcun controllo/monitoraggio.

Tutto cio' ovviamente se ho compreso correttamente la questione, in particolare per quanto riguarda il consenso dell'utente. Mi sono tuttavia immaginato i vari Google, Facebook e compagnia: gmail ad esempio ha pieno accesso alle mail dei propri utenti e sono piuttosto sicuro che se iniziassi a mandare foto di minori attraverso il loro servizio verrei preso abbastanza rapidamente, con o senza deroghe e direttive...

Insomma, per la conoscenza che ne ho al momento non la reputo certamente una cosa positiva ma non condivido nemmeno le conclusioni esagerate che arrivano da alcune testate. Magari sbaglio, personale opinione ovviamente.

Idee? Sbaglio in qualcosa?

 

[C’è omertà]

L'ultima parte e' quella che mi ha colpito di piu': avere il consenso dell'utente potrebbe essere una semplice clausola dentro i termini di utilizzo, quelli che generalmente noi tutti accettiamo senza leggere. Qui purtroppo non ho le competenze legali per capire se una cosa del genere si puo' fare.

a me invece pare proprio quello che l'articolo intende dire

ma comunque non so se così prenderanno più criminali, voglio dire, se li avvisi, si sposteranno altrove, che ne so, signal?

 

[DispatchCode]

C'è anche questo articolo, sempre del fatto https://www.ilfattoquotidiano.it/20...i-falsi-positivi-e-abusi-dei-diritti/6276072/

L'aspetto surreale è che abbiamo la cookie policy che vincola qualsiasi sito che fa uso di cookie a segnalare quali dati raccoglie e a quale scopo, e poi si finisce per essere monitorati su qualsiasi piattaforma di messaggistica.

Non sono per nulla favorevole, e ammetto che un po' mi preoccupa la faccenda. Io non uso nemmeno più Fb da alcuni anni, non faccio uso di Instagram ma uso WA e Telegram.
La cosa che inquieta è che le scansioni saranno automatiche, e che il software può rilevare falsi positivi. Automatiche, volendo fare un po' il gomblottaro di turno, adesso è per scandagliare foto e messaggi in cerca di possibili pedofili, domani per cosa può essere? Visto che le società sono private, non siamo nemmeno certi di cosa davvero raccoglieranno.

La mia sensazione è che chi pensa queste "soluzioni" e soprattutto le vota, non si renda realmente conto di ciò che sta facendo comunque.

Sto comunque cercando altre info in merito, più che altro per capire la parte tecnica quali errori può generare e in quali casi. E poi... capire cosa effettivamente verrà raccolto e se è presente una regolamentazione che costringa le aziende a riportare ciò che per loro è sospetto (cioè voglio dire, se è discrezionale potrebbero anche farlo per Tizio e non per Caio).

Comunque stando a quando dice l'articolo che ho linkato - se non erro, visto che l'ho letto ieri - nella versione 2.0 anche Signal potrebbe essere soggetta a tutto questo.

Il problema di fondo come dici tu @Numero8 ,è che si sposteranno. Non penso subito, perché prima qualcuno si farà arrestare o prendere, e poi altri si convinceranno che funziona realmente, e quindi la smetteranno.
La domanda è anche, dove andranno? Dubito andranno su Signal perché tra gli utenti medi minorenni certe applicazioni non sono comunque conosciute/usate.

Ma oltre a questo, basterà per fare arrestare qualcuno? Non ho ancora letto la norma @icox ,magari tu hai spulciato qualcosa: ma se uno fa il porco con una minorenne (eg. chiede delle foto, o fa diciamo "dei complimenti") può essere segnalato?
E poi ancora, supponiamo venga segnalato... secondo le norme vigenti è un reato? Perché se è una pena che procura qualche mese di galera o comunque meno di 3 anni, ho paura che non farà da vero deterrente...

Sono solo riflessioni e domande le mie, giusto per creare un po' di dibattito e vedere le varie opinioni (come si evince non ho le idee chiarissime su come funzionano le cose). ;)

 

[Moffetta88]

L'aspetto surreale è che abbiamo la cookie policy che vincola qualsiasi sito che fa uso di cookie a segnalare quali dati raccoglie e a quale scopo, e poi si finisce per essere monitorati su qualsiasi piattaforma di messaggistica.

Welcome to Europe..
La Ursulona deve essersi calata qualche acido di troppo..

 

[DispatchCode]

Welcome to Europe..
La Ursulona deve essersi calata qualche acido di troppo..

Se fanno quell'effetto li voglio anche io, magari aiutano anche nello sviluppo software.?

Comunque un altro aspetto interessante, lato tecnico, è questo. L'ho appreso ieri leggendo un articolo, non ricordo la fonte, ma parlav un altro informatico a riguardo: in buona sostanza verranno analizzate foto e contenuti video oltre che testuali. Non verranno analizzati gli audio però. Quindi se uno dice porcate via audio, non ci sono problemi per l'algoritmo.

 

[Moffetta88]

Il problema è che anche l'IA o AI più sofisticata può far cilecca nell'interpretare una foto.

Facebook's nudity-spotting AI mistook a photo of some onions for 'sexually suggestive' content

Facebook said the onion-seed ad had been removed for breaking its rules on "products with overtly sexual positioning."

www.businessinsider.com

Il problema è che se ti "controllano" perchè le tue cipolle sembran tette è un conto, ma se vieni "marchiato" come pedofilo perchè la foto della tua cucciolata di eterocefalo glabro viene vista come un'ammucchiata di bambini appena nati, è pesante.

A questa Europa pazzerella preferirei una bella dittatura di stampo sovietica/comunista, almeno lì la burocrazia è semplice: se hai torto finisci nel Gulag e non esci più.

 

[Tidus88]

Il problema è che anche l'IA o AI più sofisticata può far cilecca nell'interpretare una foto.

Facebook's nudity-spotting AI mistook a photo of some onions for 'sexually suggestive' content

Facebook said the onion-seed ad had been removed for breaking its rules on "products with overtly sexual positioning."

www.businessinsider.com

Il problema è che se ti "controllano" perchè le tue cipolle sembran tette è un conto, ma se vieni "marchiato" come pedofilo perchè la foto della tua cucciolata di eterocefalo glabro viene vista come un'ammucchiata di bambini appena nati, è pesante.

A questa Europa pazzerella preferirei una bella dittatura di stampo sovietica/comunista, almeno lì la burocrazia è semplice: se hai torto finisci nel Gulag e non esci più.

A volte anche se non ce l'hai...

 

[Moffetta88]

A volte anche se non ce l'hai...

???
Ah nel senso del Gulag xD

 

[Tidus88]

Eh sì.

Voglio dire, questa storia del ChatControl è una pessima notizia per tutti. E' un passo contrario alla democrazia.

Premetto che devo ancora informarmi e documentarmi bene, per il momento mi sto fidando di quanto scritto da voi compagni di forum che avete già letto.

Il punto è che la pedofilia deve ovviamente essere perseguita, il terrorismo idem.
Ma non si può violare la privacy di TUTTI gli europei per farlo.

Perchè da qui a diventare il GrandeFratello di Orwell si fa veramente prestissimo...

 

[Moffetta88]

Il punto è che la pedofilia deve ovviamente essere perseguita, il terrorismo idem.

Perfettamente allineato sul tuo pensiero!

Ma non si può violare la privacy di TUTTI gli europei per farlo.

Idem qui.

ora non ricordo benissimo, devo cercare l'articolo.
Mi ricordo che tanti anni fa un compositore musicale fu prelevato dal proprio studio ed accusato di terrorismo, perchè in alcuni suoi SMS si parlava di "bombs"/ "bridge" che poi eran riferimenti al testo di una canzone che stava scrivendo.

Quello che accadrà è l'espansione di sistemi come Signal, totalmente anonimi e criptati che non si piegherebbero mai al volere europeo

 

[icox]

La cosa che inquieta è che le scansioni saranno automatiche, e che il software può rilevare falsi positivi. Automatiche, volendo fare un po' il gomblottaro di turno, adesso è per scandagliare foto e messaggi in cerca di possibili pedofili, domani per cosa può essere? Visto che le società sono private, non siamo nemmeno certi di cosa davvero raccoglieranno.

....

Sto comunque cercando altre info in merito, più che altro per capire la parte tecnica quali errori può generare e in quali casi. E poi... capire cosa effettivamente verrà raccolto e se è presente una regolamentazione che costringa le aziende a riportare ciò che per loro è sospetto (cioè voglio dire, se è discrezionale potrebbero anche farlo per Tizio e non per Caio).

Se trovi qualcosa linka che interessa anche a me.
Da quello che ho capito (ed e' forse facile intuire) hanno messo diversi paletti e regole, come ad esempio esclusione di audio, condizioni e tempo massimo di conservazione di quanto analizzato ecc. Non so se hanno esplicitato qualcosa in piu' in termini pratici.

Le "scansioni automatiche" mi inquietano fino ad un certo punto, nel senso che gia' oggi molti servizi hanno in piedi sistemi di scansione/profilazione e pare andare bene alla maggioranza.

La questioni IMHO sono: questi sistemi di monitoraggio sono obbligatori per tutti i fornitori di servizi (utile poi anche sapere chi esattamente ricade in questa definizione)? Se lo sono, i risultati di queste "scansioni" devono necessariamente essere condivise con qualche entita' nazionale/europea?

Se le risposte sono affermative, allora abbiamo un problema serio.

In caso contrario e' un po' meno grave, fondamentalmente avremo Google e compagnia che se pizzicano una foto sui loro canali saranno obbligate a salvare ed inoltrare il tutto ad una qualche autorita'. Poco bello sopratutto se si tratta di un falso positivo... Sara' sicuramente necessaria verifica/convalida umana ma intanto potresti passare qualche brutta giornata.
Rimangono inoltre fuori tutti i servizi protetti e2e e quelli che si vendono come rispettosi della privacy e che quindi non vorranno implementare un sistema del genere.

Mi perdo qualcosa?

In entrambi i casi comunque e' un passo indietro IMHO... Brutto a dirsi ma temo che questa scelta portera' a pochi risultati e spero che al termine dei 3 anni di deroga si torni indietro.

 

[C’è omertà]

Vi dico solo che un algoritmo ha scambiato delle protezioni per arti marziali che ho messo in vendita, per mascherine (dispositivo medico) che è proibito vendere ?‍♂️

E che la richiesta di revisione ha sortito lo stesso effetto ?‍♂️

 

[C’è omertà]

Vi dico solo che un algoritmo ha scambiato delle protezioni per arti marziali che ho messo in vendita, per mascherine (dispositivo medico) che è proibito vendere ?‍♂️

E che la richiesta di revisione ha sortito lo stesso effetto ?‍♂️

E ora anche per una spada per bambini

 

[ray690]

di questo passo cominceranno a controllare tutti i conti bancari e vari movimenti per "combattere" l evasione fiscale, cominceranno a "controllare" tutte le persone tramite riconoscimento facciale mentre vanno in giro per la città e persino dentro i negozi per evitare furti e cose peggiori... è fu cosi che l umanità venne schedata e catalogata sotto vari parametri tipo "orientamento sessuale, politico, ecc.".
qui ormai stiamo perdendo tutti i nostri diritti di privacy e libera espressione. combattere questi reati è giusto e devono farlo con tutti i metodi a loro disponibili ma non possono andarci di mezzo le brave persone.