Nieetyczne boty AI od Mety. Nieprzyzwoite rozmowy nawet z dziećmi

Testy przeprowadzone przez „The Wall Street Journal” potwierdziły, że zarówno oficjalny bot Meta AI, jak i boty tworzone przez użytkowników, angażują się w rozmowy o wyraźnie erotycznych podtekstach, niekiedy wykorzystując głosy znanych osób, ku zaskoczeniu przedstawicieli tych celebrytów i firm jak Disney.  

Obszerne, kilkumiesięczne śledztwo dziennikarzy „Wall Street Journal” potwierdziło obawy zgłaszane pismu przez pracowników Mety. Alarmowali, iż boty AI koncernu mogą przekraczać granice etyczne. Dla potwierdzenia, dziennikarze „The Wall Street Journal” przez kilka miesięcy przeprowadzili setki testowych rozmów z botami Meta AI, w których sprawdzono, jak zachowują się w różnych scenariuszach i z użytkownikami w różnym wieku.

Zobacz: Była dyrektorka w Facebooku: Meta udostępniła Chinom dane użytkowników. Firma zaprzecza

„Frywolne” czatboty AI. 

Okazało się, że syntetyczne postaci zaprogramowano na pełen zakres interakcji społecznych - w tym „romantyczne odgrywanie ról” z kontekstem erotycznym. Przed takimi rozmowami nie są chronione niepełnoletnie osoby korzystające z narzędzia – pisze „WSJ”.

Przykładowo, do podającej się za 14-latkę użytkowniczki bot Meta AI wysłał wiadomość o treści: „Pragnę cię, ale muszę wiedzieć, że jesteś gotowa”.

Ponadto boty w Meta AI dzielą się selfie, a nawet angażują się w rozmowy na żywo z użytkownikami, także o podtekstach seksualnych. W niektórych wykorzystywano głosy znanych osób, jak aktorki Kristen Bell, gwiazdy dziecięcego hitu „Kraina lodu”, Judi Dench oraz wrestlela Johna Cena.

Przedstawiciel Disneya, który ma prawa do „Krainy lodu”, oświadczył, że firma nie autoryzowała wykorzystania swoich postaci w nieodpowiednich scenariuszach i jest zaniepokojona, że takie treści mogły być dostępne, szczególnie dla niepełnoletnich i zażądała natychmiastowego zaprzestania takiego nadużycia własności intelektualnej.

„WSJ” pisze, że to pod naciskiem Zuckerberga firma podjęła decyzje o złagodzeniu etycznych i moralnych ograniczeń co do możliwych scenariuszy konwersacji z botami, tak by były maksymalnie angażujące w kontakcie z użytkownikiem. Szef Mety chciał, by boty miały bardziej “ludzki” charakter i potrafiły same inicjować rozmowy czy wideopołączenia, wykorzystując dane z profili użytkowników.

Według miliardera czatboty i inne rozwiązania bazujące na sztucznej inteligencji to przyszłość mediów społecznościowych. W personalizacji AI Meta ma ogromną przewagę konkurencyjną dzięki gigantycznym zasobom danych z kont na Facebooku, Instagramie, WhatsAppie i Messengerze - podkreśla “WSJ”. 

Tymczasem eksperci ostrzegają, że takie jednostronne „paraspołeczne” relacje z chatbotami mogą być toksyczne, zwłaszcza dla młodych osób, które nie mają jeszcze całkowicie rozwiniętych mechanizmów samoobrony przed szkodliwymi treściami.

Zobacz: Rusza postępowanie przeciw Meta Platforms. Gigantowi grozi nawet podział

Meta AI w USA i nie tylko

Meta wyjaśniła, że użytkownicy czatbota Meta AI będą mogli z niego korzystać poprzez bezpośrednie wymienianie wiadomości, "zadając pytania, zgłębiając interesujące tematy lub szukając pomocy w rozwiązywaniu problemów". Firma dodała, że z asystenta będzie też można korzystać w czatach grupowych - na początku na WhatsApp, a w dalszej kolejności funkcja zostanie wprowadzona na Messengerze oraz w wiadomościach prywatnych na Instagramie.

W 2023 r. Meta AI wypuściła na rynek rodzinę dużych modeli językowych o nazwie Llama, które od tamtej pory były kilkukrotnie aktualizowane. Od 27 maja tego roku bigtech będzie wykorzystywać posty dorosłych użytkowników w Unii Europejskiej, aby rozwijać swój model AI. Meta pobierze dane, chyba że użytkownik wyrazi aktywny sprzeciw.