Salesforcen Slackia on kritisoitu sen tietosuojakäytännöistä, mikä mahdollisti alusta analysoidakseen käyttäjätietoja tekoälykoulutukseen, elleivät käyttäjät ole kieltäytyneet. Yritys selvensi, että nämä tiedot säilyvät alustassa, eikä niitä käytetä kolmannen osapuolen mallien kouluttamiseen.
Slack selitti, että sen koneoppimismallit toimivat alustatasolla parantaakseen toimintoja, kuten kanava-ja emoji-suosituksia ja hakua. tuloksia. Nämä mallit eivät käytä alkuperäistä viestisisältöä suorista viesteistä, yksityisistä kanavista tai julkisista kanavista ehdotusten luomiseksi. Yritys korosti, että sen malleja ei ole suunniteltu muistamaan tai toistamaan asiakastietoja.
Generatiivista tekoälyä ja asiakasdataa
Slack käyttää generatiivista tekoälyä Slack AI:ssa. tuote, joka käyttää kolmannen osapuolen suuria kielimalleja (LLM). Yhtiön mukaan näiden kolmannen osapuolen LLM:ien kouluttamiseen ei käytetä asiakastietoja. Sen sijaan Slack käyttää valmiita LLM:itä, jotka eivät säilytä asiakastietoja. Näitä malleja isännöidään Slackin AWS-infrastruktuurissa, mikä varmistaa, että asiakastiedot eivät poistu Slackin luottamusrajoista ja että LLM-palveluntarjoajilla ei ole pääsyä näihin tietoihin.
Vuonna 2023 päivitetyt tietosuojaperiaatteet sisälsivät alun perin kielen, jonka mukaan Slackin järjestelmät analysoivat asiakastietoja, kuten viestejä, sisältöä ja tiedostoja. kehittää AI/ML-malleja. Tämä laaja tiedonkäyttö johti käyttäjien merkittävään vastareaktioon, ja monet ilmaisivat huolensa tietojensa käytöstä tekoälykoulutukseen.
Käyttäjien huolenaiheet ja yrityksen reagointi
Hämäys on vaatinut, että tiedot eivät vuoda työtilojen yli, vaikka se myönsi, että sen globaalit mallit käyttävät asiakasdataa. Yksittäisten työtilojen viestit kuitenkin analysoidaan. Yhtiö tarkisti tietosuojaperiaatteitaan ja totesi:”Järjestelmämme analysoivat asiakastietoja ei-generatiivisten AI/ML-mallien kehittämiseksi ominaisuuksiin, kuten emojiin ja kanavasuosituksiin.”
Slackin tiedottaja korosti, että yrityksen käytännöt ja käytännöt eivät ole muuttuneet. Tietojen analysointiominaisuus on oletuksena käytössä, mikä saattaa herättää säännösten mukaisia huolenaiheita, vaikka yritys ei ole ilmoittanut, kuinka kauan tämä prosessi kestää.
Poistaminen tarkoittaa, että asiakkaat hyötyvät edelleen maailmanlaajuisesti koulutetuista malleista ilman, että heidän tietojaan lisätään näihin malleihin. Slack selitti, että tietoja käytetään parantamaan ominaisuuksia, kuten kyselyn jäsentämistä, automaattista täydennystä ja emoji-ehdotuksia. Yritys uskoo, että nämä henkilökohtaiset parannukset ovat mahdollisia vain tutkimalla käyttäjien vuorovaikutusta Slackin kanssa.
Journalistic Scutiny and Documentation Updates
Aihetta käsittelevät toimittajat ovat raportoineet. varoituksia Slackin artikkeleiden”epätarkkuuksista”, jotka perustuivat Slackin omaan dokumentaatioon. Yhtiö on sittemmin päivittänyt tätä dokumentaatiota selventääkseen käytäntöjään. Slack totesi 17. toukokuuta nimenomaisesti:”Emme kehitä LLM-malleja tai muita generatiivisia malleja käyttämällä asiakastietoja”ja määrittelee, että sen järjestelmät analysoivat asiakastietoja, mukaan lukien tiedostot,”kehittääkseen ei-generatiivisia AI/ML-malleja ominaisuuksille, kuten esim. emoji-ja kanavasuositukset.“
Slackin päivitetyssä dokumentaatiossa todetaan myös, että automaattisen täydennyksen ehdotukset ovat paikallisia ja peräisin käyttäjän työtilassa olevista yleisistä julkisista viestilauseista ehdotetut ja hyväksytyt täydennykset suojelemme tietosuojaa käyttämällä sääntöjä, joilla pisteytetään kirjoitetun tekstin ja ehdotuksen välinen samankaltaisuus, mukaan lukien vain algoritmin numeeristen pisteiden ja aiempien vuorovaikutusten lukumäärä.“
Alan konteksti ja vertailut
Tapahtuma, joka johti siihen, että monet käyttäjät sulkivat Slack-työpaikkansa, korostaa ohjelmistoyritysten kohtaamia haasteita viestiessään siitä, miten ne käyttävät käyttäjätietoja generatiivisiin tekoälysovelluksiin. Retrieval-augmented Generation (RAG)-työnkulkujen ja muiden koneoppimismenetelmien selittämisen monimutkaisuus tietosuojakäytännössä muodostaa maineriskin yrityksille.
Dropbox kohtasi samanlaisen ongelman joulukuussa 2023, kun uudesta oletusarvosta aiheutui hämmennystä. kytkin asetettu”jaa kolmannen osapuolen tekoälyn kanssa”aiheutti kohua. AWS:n tekninen johtaja ilmoitti julkisesti tietosuojahuolensa Dropboxille, joka myöhemmin selvensi, että”kolmannen osapuolen tekoälylle lähetetään vain [heidän] sisältönsä, joka liittyy nimenomaiseen pyyntöön tai komentoon kumppaneita [OpenAI] luodakseen vastauksen, yhteenvedon tai transkription… tietojasi ei koskaan käytetä heidän sisäisten malliensa kouluttamiseen, ja ne poistetaan OpenAI:n palvelimilta 30 päivän kuluessa.”
Slack totesi:”Johtava periaatteemme kun rakennamme tätä tuotetta, asiakastietojen yksityisyys ja turvallisuus on pyhää, kuten tietosuojakäytännössämme, tietoturvadokumentaatiossamme sekä SPARC:ssa ja Slackin ehdoissa kerrotaan.”The Stackin 17. toukokuuta tekemässä katsauksessa todettiin kuitenkin, ettei mikään näistä asiakirjoissa mainitaan luova tekoäly tai koneoppiminen.
Slack kerää myös käyttäjätietoja”organisaation trendien ja oivallusten tunnistamiseksi”tietosuojakäytäntönsä mukaisesti. Yritys ei ole vielä vastannut kysymyksiin, millaisia organisaatiotrendejä se vetää asiakastiedoista.
