Slack firmy Salesforce spotkał się z krytyką ze względu na politykę prywatności, która umożliwiła platformę do analizowania danych użytkowników na potrzeby szkolenia AI, chyba że użytkownicy zrezygnują. Firma wyjaśniła, że te dane pozostają na platformie i nie są wykorzystywane do uczenia modeli innych firm.
Slack wyjaśnił, że jej modele uczenia maszynowego działają na poziomie platformy w celu ulepszenia funkcjonalności, takich jak rekomendacje kanałów i emoji oraz wyszukiwanie wyniki. Modele te nie uzyskują dostępu do oryginalnej treści wiadomości z wiadomości bezpośrednich, kanałów prywatnych ani kanałów publicznych w celu generowania sugestii. Firma podkreśliła, że jej modele nie są przeznaczone do zapamiętywania ani odtwarzania danych klientów.
Generatywna sztuczna inteligencja i dane klientów
Slack wykorzystuje generatywną sztuczną inteligencję w swoim Slack AI produktu, wykorzystując modele dużych języków (LLM) innych firm. Według firmy żadne dane klientów nie są wykorzystywane do szkolenia zewnętrznych LLM. Zamiast tego Slack korzysta z gotowych rozwiązań LLM, które nie przechowują danych klientów. Modele te są hostowane w infrastrukturze AWS firmy Slack, co gwarantuje, że dane klientów nie opuszczą granicy zaufania Slack, a dostawcy LLM nie będą mieli dostępu do tych danych.
Zasady prywatności zaktualizowane w 2023 r. początkowo zawierały sformułowanie stwierdzające, że systemy Slack analizują dane klientów, takie jak wiadomości, treść i pliki, w celu opracowywać modele AI/ML. To szerokie wykorzystanie danych doprowadziło do znacznej reakcji użytkowników, a wielu wyraziło obawy dotyczące wykorzystania ich danych do szkoleń w zakresie sztucznej inteligencji.
Obawy użytkowników i reakcja firmy
Slack nalegała, aby dane nie wyciekały między obszarami roboczymi, chociaż przyznała, że jej globalne modele wykorzystują dane klientów. Analizie poddawane są natomiast komunikaty w obrębie poszczególnych obszarów roboczych. Firma zmieniła swoje zasady prywatności, stwierdzając: „Aby opracować niegeneracyjne modele AI/ML dla funkcji takich jak emoji i rekomendacje kanałów, nasze systemy analizują Dane klientów”.
Rzecznik Slacka podkreślił, że zasady firmy i praktyki nie uległy zmianie; jedynie język został zaktualizowany dla przejrzystości. Funkcja analizy danych jest domyślnie włączona, co może budzić wątpliwości prawne. Właściciele Workspace muszą wysłać wiadomość e-mail do zespołu ds. obsługi klienta Slack, aby zrezygnować, chociaż firma nie określiła, jak długo proces ten trwa.
Rezygnacja oznacza, że klienci nadal będą korzystać z globalnie trenowanych modeli bez dostarczania swoich danych do tych modeli. Slack wyjaśnił, że dane są wykorzystywane do ulepszania funkcji, takich jak analizowanie zapytań, autouzupełnianie i sugestie emoji Firma wierzy, że te spersonalizowane ulepszenia są możliwe wyłącznie po zbadaniu interakcji użytkowników ze Slackiem.
Analiza dziennikarska i aktualizacje dokumentacji
Dziennikarze zajmujący się tym problemem zgłosili. otrzymywanie ostrzeżeń od Slacka o „nieścisłościach” w ich artykułach, które były oparte na własnej dokumentacji Slacka. Od tego czasu firma zaktualizowała tę dokumentację, aby wyjaśnić swoje praktyki. Od 17 maja firma Slack wyraźnie stwierdza: „Nie opracowujemy LLM ani innych modeli generatywnych przy użyciu danych klientów” i precyzuje, że jej systemy analizują dane klientów, w tym pliki, w celu „opracowania niegeneratywnych modeli AI/ML dla takich funkcji jak emoji i rekomendacje kanałów.”
Zaktualizowana dokumentacja Slacka zauważa również, że w przypadku autouzupełniania „sugestie są lokalne i pochodzą z popularnych wyrażeń w wiadomościach publicznych w obszarze roboczym użytkownika. Nasz algorytm, który wybiera spośród potencjalnych sugestii, został wcześniej przeszkolony na całym świecie sugerowane i akceptowane uzupełnienia Chronimy prywatność danych, stosując reguły do oceny podobieństwa między wpisanym tekstem a sugestią na różne sposoby, w tym wyłącznie przy użyciu wyników liczbowych i zliczeń przeszłych interakcji w algorytmie.”.
Kontekst branżowy i porównania
Incydent, który doprowadził do zamknięcia przez wielu użytkowników miejsc pracy na platformie Slack, uwypukla wyzwania, przed jakimi stoją firmy produkujące oprogramowanie, informując o tym, w jaki sposób wykorzystują dane użytkowników w generatywnych aplikacjach AI. Złożoność wyjaśniania przepływów pracy związanych z generowaniem wspomaganym wyszukiwaniem (RAG) i innych podejść do uczenia maszynowego w polityce prywatności stwarza ryzyko dla reputacji firm.
Slack stwierdził: „Naszą naczelną zasadą podczas tworzenia tego produktu jest to, że prywatność i bezpieczeństwo Danych Klienta jest rzeczą świętą, jak szczegółowo opisano w naszej polityce prywatności, dokumentacji bezpieczeństwa oraz SPARC i Warunkach Slack.” Jednakże w recenzji przeprowadzonej 17 maja przez The Stack zauważono, że żaden z tych dokumentów nie wspomina o generatywnej sztucznej inteligencji ani uczeniu maszynowym.
Slack zbiera również dane użytkowników w celu „identyfikacji trendów i spostrzeżeń organizacyjnych”, zgodnie ze swoją polityką prywatności. Firma nie odpowiedziała jeszcze na pytania dotyczące tego, jakie trendy organizacyjne czerpie z danych klientów.
Dropbox stanął przed podobnym problemem w grudniu 2023 r., kiedy zamieszanie wokół nowego domyślnego przełącznika ustawionego na „udostępnij osobom trzecim” sztuczna inteligencja strony” wywołała zamieszanie. Dyrektor ds. technologii AWS publicznie zgłosił swoje obawy dotyczące prywatności firmie Dropbox, która później wyjaśniła, że „tylko [ich] treść odnosząca się do wyraźnego żądania lub polecenia jest wysyłana do naszych zewnętrznych partnerów AI [OpenAI] w celu wygenerowania odpowiedzi , podsumowanie lub transkrypcja… Twoje dane nigdy nie są wykorzystywane do uczenia ich modeli wewnętrznych i są usuwane z serwerów OpenAI w ciągu 30 dni.”
