Twitch pozwala Amazonowi wykorzystywać streamy, VOD-y, klipy, czaty oraz materiały publikowane na kanałach do trenowania modeli generatywnej sztucznej inteligencji. Największa kontrowersja nie polega jednak na samym wykorzystaniu AI. Platforma przyjęła model opt-out: twórca jest objęty systemem, dopóki sam nie znajdzie odpowiedniego ustawienia i go nie wyłączy. Co więcej, nawet zwykły widz piszący wiadomości na cudzym czacie nie ma nad nimi pełnej kontroli, bo znaczenie mogą mieć ustawienia właściciela danego kanału. To bardzo dobry przykład tego, jak szybko zmienia się znaczenie słowa „zgoda” na największych internetowych platformach.
Twitch oficjalnie opisuje nowe ustawienie jako możliwość wyłączenia zawartości kanału z przyszłego trenowania generatywnych modeli Amazona. Według informacji platformy chodzi między innymi o transmisje, VOD-y, klipy, czaty streamów, zdjęcia oraz tekst znajdujący się na kanale. Nie jest to więc mały fragment danych analitycznych zbieranych gdzieś w tle. Mówimy właściwie o tym, co stanowi podstawowy produkt wytwarzany każdego dnia przez streamerów korzystających z Twitcha.
Wyłączenie jest stosunkowo proste. Trzeba wejść w ustawienia konta Twitch, następnie w „Security and Privacy”, znaleźć ustawienie dotyczące trenowania generatywnego AI i dezaktywować odpowiedni przełącznik. WIRED opisuje również procedurę wyłączenia tej funkcji. Problem zaczyna się jednak wcześniej: dlaczego użytkownik w ogóle musi to robić? Znacznie bardziej naturalnym rozwiązaniem wydawałoby się pytanie twórcy, czy chce przekazać swoje materiały do trenowania modeli Amazona. Twitch zrobił odwrotnie. Jeśli niczego nie zmienisz, mechanizm pozostaje aktywny.
I właśnie tutaj zaczyna się najciekawsza część całej historii. Mike Minton, Chief Product Officer Twitcha, tłumaczył, dlaczego firma nie zdecydowała się na model opt-in. Jak opisuje The Verge, argument był wyjątkowo prosty: gdyby trzeba było dobrowolnie się zapisać, prawdopodobnie prawie nikt by tego nie zrobił. Jest w tym coś wyjątkowo szczerego. Firma zdaje sobie sprawę, że twórcy niekoniecznie chcieliby masowo przekazywać swoją pracę na potrzeby trenowania AI, dlatego rozwiązanie skonstruowano tak, aby korzystało również z bezczynności użytkownika.
To zasadnicza różnica. Można dyskutować, czy generatywna sztuczna inteligencja jest dobra, zła albo po prostu nieunikniona. Trudniej jednak obronić założenie, że brak reakcji użytkownika jest równoznaczny z jego świadomą decyzją o przekazaniu własnej twórczości do treningu modelu należącego do jednej z największych korporacji świata. Niedawno na BigBadDice opisywaliśmy bardzo podobny problem, gdy okazało się, że Google może wykorzystywać zdjęcia, pliki i nagrania głosowe użytkowników do rozwijania swoich systemów AI. Wtedy również najważniejszym pytaniem nie było samo istnienie sztucznej inteligencji, lecz to, czy użytkownik naprawdę świadomie rozumie, na co się zgadza.
Sytuacja robi się jeszcze ciekawsza w przypadku czatu. The Verge zwraca uwagę, że jeśli napiszesz wiadomość podczas transmisji innego twórcy, znaczenie mają preferencje dotyczące AI ustawione dla tamtego kanału. Innymi słowy: możesz zadbać o ustawienia swojego konta, a później wejść na transmisję kogoś innego i nadal tworzyć treści, których wykorzystanie nie zależy wyłącznie od ciebie. Dla osoby, która Twitcha wyłącznie ogląda i nigdy nie prowadziła własnej transmisji, może to być najbardziej zaskakująca część całej zmiany.
Podobny mechanizm widzieliśmy już w świecie gier. W przypadku Pokémon GO gracze przez lata dostarczali skany prawdziwych miejsc, które później mogły posłużyć do rozwijania technologii mapowania świata i modeli AI. Użytkownik wykonywał określoną czynność dlatego, że była częścią aplikacji, ale zgromadzone dane z czasem okazywały się wartościowe również w zupełnie innym celu. Twitch pokazuje, że ten sam problem coraz mocniej przenosi się z danych o świecie fizycznym na zwykłą internetową twórczość.
Trzeba jednocześnie rozdzielić dwie rzeczy. Wyłączenie treningu generatywnej AI nie oznacza wyłączenia wszystkich systemów wykorzystujących sztuczną inteligencję lub uczenie maszynowe na Twitchu. Platforma nadal może korzystać z automatycznych systemów potrzebnych do rekomendacji, moderacji, bezpieczeństwa czy działania innych funkcji serwisu. Przełącznik dotyczy konkretnie trenowania generatywnych modeli Amazona. Dlatego samo jego wyłączenie nie oznacza nagle całkowitego odcięcia swoich danych od technologii stosowanych przez platformę.
Jest jeszcze jedna niewygodna kwestia: nie mamy pełnej wiedzy o tym, jak dokładnie materiały Twitcha były wykorzystywane wcześniej. Nowa możliwość dotyczy przyszłego treningu, ale samo pojawienie się ustawienia nie odpowiada automatycznie na wszystkie pytania dotyczące historycznych zbiorów danych. To szerszy problem całej branży AI. Użytkownik bardzo często dowiaduje się, że jego zdjęcia, teksty, nagrania albo zachowania są cennym materiałem dopiero wtedy, gdy firma dodaje nowe funkcje, zmienia regulamin albo zaczyna tłumaczyć, jak działają jej modele.
Na BigBadDice opisywaliśmy również przypadek, gdy w aplikacji Meta AI odkryto elementy związane z technologią rozpoznawania twarzy. Każda z tych historii wygląda trochę inaczej, ale wszystkie prowadzą do podobnego pytania: jak dużo kontroli nad swoimi danymi i własną twórczością zachowuje użytkownik platformy, której cały model biznesowy opiera się na analizowaniu ogromnych ilości informacji?
W przypadku Twitcha jest to szczególnie istotne, bo streamer wykonuje konkretną pracę. Prowadzi transmisję, tworzy materiały, buduje społeczność, moderuje kanał i zapewnia platformie treść przyciągającą widzów. Twitch daje infrastrukturę oraz dostęp do odbiorców, ale bez twórców praktycznie nie ma produktu. Jeżeli ta sama twórczość zaczyna jednocześnie stawać się surowcem dla kolejnego biznesu właściciela platformy, pytanie o granice wydaje się całkowicie uzasadnione.
Nie chodzi przy tym o nawoływanie do masowego opuszczania Twitcha. Warto natomiast wejść w ustawienia i świadomie zdecydować, czy chcemy brać w tym udział. Jeżeli Amazon uważa materiały streamerów za wystarczająco wartościowe, żeby trenować na nich swoje modele, twórcy mają pełne prawo uznać je za wystarczająco wartościowe, aby samemu zdecydować o ich wykorzystaniu. Najbardziej wymowne w całej historii pozostaje właśnie to, że przedstawiciel Twitcha sam przyznał, iż gdyby użytkowników trzeba było aktywnie zachęcić do wyrażenia zgody, zainteresowanie prawdopodobnie byłoby minimalne. I może właśnie dlatego opt-in powinien być tutaj standardem, a nie problemem do obejścia.
