Slack: dati utenti usati senza consenso per addestrare modelli ML

Author: IlSoftware

Si accende la polemica su Slack, la nota piattaforma di collaborazione aziendale dal 2020 nella scuderia di Salesforce. Le critiche hanno un motivo preciso: Slack Technologies sta addestrando i suoi modelli di machine learning con i dati degli utenti senza però una loro autorizzazione esplicita. Tutto ciò avviene per impostazione predefinita e chiedere l’esclusione non è poi così semplice e immediato.

Slack e l’addestramento dei modelli ML: pioggia di critiche per l’uso dei dati degli utenti senza autorizzazione

Il caso è esploso quando Corey Quinn (dirigente di DuckBill Group), dopo aver individuato tale politica in trafiletto nel documento “Principi di privacy: ricerca, apprendimento e intelligenza artificiale” (che può essere consultato qui), ha condiviso il suo disappunto su X. Nell’informativa si legge quanto segue: «Per sviluppare modelli AI/ML, nostri sistemi analizzano i dati dei clienti caricati su Slack nonché altre informazioni (comprese le informazioni sull’utilizzo) come indicato nella nostra Privacy Policy e nel contratto con il cliente».

Vista la crescente preoccupazione, Slack ha pubblicato un post su blog per chiarire come vengono utilizzati i dati dei clienti. Secondo l’azienda, tali dati non vengono dati impasto ad un sistema di addestramento dei prodotti di AI generativa, per quelli vengono impiegati LLM di terze parti, ma vengono usati unicamente per modelli ML per prodotti come “canali, suggerimenti di emoji e risultati di ricerca”. Inoltre, l’azienda specifica che i modelli ML non accedono al contenuto dei messaggi nei DM e dei canali (pubblici o privati che siano) e che la raccolta avviene in forma aggregata, quindi non è possibile associare il file al singolo utente.

Come già anticipato, chiedere che i propri dati non vengano utilizzati per l’addestramento del machine learning non è una procedura così immediata. Secondo quanto indicato nella Privacy Policy, per tirarsi fuori da questa pratica (opt-out) bisogna chiedere a chi gestisce l’area di lavoro Slack di contattare l’assistenza clienti via email e attendere che la richiesta venga elaborata. Perché questo passaggio “lento e macchinoso”? Forse, scrive qualcuno sui social, per far desistere gli utenti, dal momento che meno dati ci sono, meno performante è il modello AI.