Nakaharap ang Salesforce’s Slack ng batikos sa mga patakaran sa privacy nito, na nagpapahintulot sa platform upang pag-aralan ang data ng user para sa pagsasanay sa AI maliban kung nag-opt out ang mga user. Nilinaw ng kumpanya na ang data na ito ay nananatili sa loob ng platform at hindi ginagamit upang sanayin ang mga modelo ng third-party.
Ipinaliwanag ni Slack na ang mga modelo ng machine learning nito ay gumagana sa antas ng platform upang mapahusay ang mga functionality tulad ng mga rekomendasyon sa channel at emoji at paghahanap resulta. Hindi ina-access ng mga modelong ito ang orihinal na nilalaman ng mensahe mula sa mga direktang mensahe, pribadong channel, o pampublikong channel para sa pagbuo ng mga mungkahi. Binigyang-diin ng kumpanya na ang mga modelo nito ay hindi idinisenyo upang isaulo o kopyahin ang data ng customer.
Generative AI at Customer Data
Ginagamit ng Slack ang generative AI sa Slack AI nito produkto, na gumagamit ng mga third-party large language models (LLMs). Ayon sa kumpanya, walang data ng customer ang ginagamit para sanayin ang mga third-party na LLM na ito. Sa halip, gumagamit ang Slack ng mga off-the-shelf na LLM na hindi nagpapanatili ng data ng customer. Ang mga modelong ito ay naka-host sa imprastraktura ng AWS ng Slack, na tinitiyak na ang data ng customer ay hindi umaalis sa hangganan ng tiwala ng Slack, at ang mga LLM provider ay walang access sa data na ito.
Ang mga prinsipyo sa privacy, na na-update noong 2023, ay unang kasama ang wikang nagsasaad na sinusuri ng mga system ng Slack ang data ng customer, gaya ng mga mensahe, nilalaman, at mga file, upang bumuo ng mga modelo ng AI/ML. Ang malawak na paggamit ng data na ito ay humantong sa makabuluhang backlash ng user, na maraming nagpapahayag ng mga alalahanin sa kanilang data na ginagamit para sa pagsasanay sa AI.
Mga Alalahanin ng User at Pagtugon ng Kumpanya
Slack iginiit na hindi tatagas ang data sa mga workspace, bagama’t kinikilala nito na ang mga global na modelo nito ay gumagamit ng data ng customer. Ang mga mensahe sa loob ng mga indibidwal na workspace, gayunpaman, ay sinusuri. Binago ng kumpanya ang mga prinsipyo nito sa pagkapribado upang sabihin:”Upang bumuo ng mga hindi nakakabuo na modelo ng AI/ML para sa mga feature gaya ng mga rekomendasyon sa emoji at channel, sinusuri ng aming mga system ang Data ng Customer.”
Binigyang-diin ng isang tagapagsalita ng Slack na ang mga patakaran ng kumpanya at ang mga kasanayan ay hindi nagbago; tanging ang wika ang na-update para sa kalinawan Ang tampok na pagsusuri ng data ay pinagana bilang default, na maaaring magdulot ng mga alalahanin sa regulasyon na dapat mag-email sa koponan ng karanasan sa customer ng Slack, kahit na hindi tinukoy ng kumpanya kung gaano katagal ang prosesong ito ay tumatagal.
Ang pag-opt out ay nangangahulugan na ang mga customer ay makikinabang pa rin sa mga modelong sinanay sa buong mundo nang hindi nag-aambag ng kanilang data sa mga modelong ito. Naniniwala ang kumpanya na ang mga personalized na pagpapahusay na ito ay posible lamang sa pamamagitan ng pag-aaral ng mga pakikipag-ugnayan ng user sa Slack.
Journalistic Scrutiny and Documentation Updates
Iniulat ng mga mamamahayag na sumasaklaw sa isyu. pagtanggap ng mga babala mula sa Slack tungkol sa”mga kamalian”sa kanilang mga artikulo, na batay sa sariling dokumentasyon ng Slack. Mula noon ay na-update ng kumpanya ang dokumentasyong ito upang linawin ang mga kasanayan nito. Noong Mayo 17, tahasang sinabi ng Slack:”Hindi kami gumagawa ng mga LLM o iba pang generative na modelo gamit ang data ng customer,”at tinukoy na sinusuri ng mga system nito ang data ng customer, kabilang ang mga file, para”bumuo ng mga hindi nakakabuo na modelo ng AI/ML para sa mga feature gaya ng emoji at mga rekomendasyon sa channel.“
Nabanggit din ng na-update na dokumentasyon ng Slack na para sa autocomplete, “lokal ang mga suhestyon at nagmula sa mga karaniwang parirala sa pampublikong mensahe sa workspace ng user iminungkahing at tinatanggap na mga pagkumpleto. Pinoprotektahan namin ang privacy ng data sa pamamagitan ng paggamit ng mga panuntunan upang mamarkahan ang pagkakatulad sa pagitan ng na-type na teksto at mungkahi sa iba’t ibang paraan, kabilang ang paggamit lamang ng mga numerical na marka at bilang ng mga nakaraang pakikipag-ugnayan sa algorithm.“
Industry Context and Comparisons
Ang insidente, na humantong sa maraming user na nagsara sa kanilang mga Slack workplace, ay nagha-highlight sa mga hamon na kinakaharap ng mga kumpanya ng software sa pakikipag-usap kung paano nila ginagamit ang data ng user para sa mga generative AI application. Ang mga kumplikado ng pagpapaliwanag ng mga retrieval-augmented generation (RAG) workflow at iba pang machine learning approach sa isang patakaran sa privacy ay nagdudulot ng reputational risk para sa mga kumpanya.
Nakaharap ang Dropbox sa isang katulad na isyu noong Disyembre 2023, nang magkaroon ng kalituhan sa isang bagong default. toggle set to “share with third-party AI” na nagdulot ng kaguluhan. Ang CTO ng AWS sa publiko ay nag-flag ng kanyang mga alalahanin sa privacy sa Dropbox, na kalaunan ay nilinaw na “ang [kanilang] content lang na nauugnay sa isang tahasang kahilingan o utos ang ipinapadala sa aming third-party na AI kasosyo [OpenAI] upang bumuo ng isang sagot, buod, o transcript… ang iyong data ay hindi kailanman ginagamit upang sanayin ang kanilang mga panloob na modelo, at tatanggalin mula sa mga server ng OpenAI sa loob ng 30 araw.”
Sinabi ni Slack:”Ang aming gabay na prinsipyo habang ginagawa namin ang produktong ito ay ang pagkapribado at seguridad ng Data ng Customer ay sagrado, gaya ng nakadetalye sa aming patakaran sa privacy, dokumentasyon ng seguridad, at SPARC at ang Mga Tuntunin ng Slack.”Gayunpaman, isang pagsusuri noong Mayo 17 ng The Stack ay nagsabi na wala sa mga ito binabanggit ng mga dokumento ang generative AI o machine learning.
Kinakolekta din ng Slack ang data ng user para “matukoy ang mga trend at insight ng organisasyon,”ayon sa patakaran sa privacy nito. Hindi pa sumasagot ang kumpanya sa mga tanong tungkol sa kung anong uri ng mga trend ng organisasyon ang kinukuha nito mula sa data ng customer.
