Sztuczna inteligencja na TikToku nieco „wymknęła się” spod kontroli. Okazało się, że serwis przypadkowo udostępnił wewnętrzną wersję pakietu narzędzi Symphony, która pozwoliła wygenerować bardzo niepokojące treści.
Sztuczna inteligencja na TikToku
TikTok angażuje się w rozwój sztucznej inteligencji i dość często informuje lub zapowiada nowe narzędzia. Wśród nich znalazł się pakiet Symphony, który dedykowany jest twórcom, i został zaktualizowany o trzy dodatkowe elementy: Digital Avatars, AI Dubbing oraz Collective. Oprogramowanie ma być wsparciem dla firm i twórców udostępniających treści reklamowe w serwisie.
Spore zainteresowanie wzbudziły generowane awatary cyfrowe oraz funkcje dubbingu językowego. Dzięki tego typu narzędziom możliwe jest tworzenie filmów marketingowych „z ludzkim charakterem”, a dokładniej z wygenerowaną podobizną płatnych aktorów, które pokonają wszelkie bariery językowe.
Okazuje się jednak, że serwis popełnił błąd i udzielił powszechnego dostępu do wewnętrznej wersji swojego oprogramowania do tworzenia awatarów. Pierwsze zgłoszenie dotyczące tej niemałej pomyłki zauważyło CNN. Portal w artykule wspomniał, że twórcom udało się wygenerować filmy z cytatami pochodzącymi z Main Kampf Adolfa Hitlera, List do Ameryki Osamy bin Ladena czy reklamę, która miałaby zachęcać widzów do picia wybielacza.
„Problem techniczny” został zażegnany
Wewnętrzna wersja narzędzia TikToka, opartego o AI, została udostępniona każdemu, kto posiada konto osobiste w serwisie, choć oprogramowanie to zostało skierowane do osób korzystających z Menedżera reklam. Ta dość „nieograniczona” wersja została już wycofana – przedstawicielka portalu w oświadczeniu skierowanym do portalu The Verge zaznaczyła, że „problem techniczny” został już naprawiony. Rzekomo z opcji tej skorzystała „niezwykle mała liczba użytkowników”.
Co ciekawe, filmy wygenerowane przez tę aplikację nie otrzymywały żadnego oznaczenia, które wskazywałoby na to, iż wideo zostało utworzone przez sztuczną inteligencję, podczas gdy właściwa wersja oprogramowania z serii Symphony dodaje specjalny znak. Wygenerowane przez CNN pliki nie zostały udostępnione na TikToku. Jak twierdzi rzeczniczka serwisu filmy, zostałyby odrzucone, gdyż naruszałyby one zasady platformy.
