Żeby zrozumieć, z czym mamy do czynienia, wystarczy wpisać w internetowej wyszukiwarce „baby peacock”, aby znaleźć zdjęcie małego pawia. W wynikach pojawiają się realistyczne portrety słodkich miniaturowych ptaków, które jednak nie mają nic wspólnego z prawdziwym wyglądem pawiego pisklęcia. „Zdjęcia” to grafiki stworzone przez modele generatywnej AI, jak Midjourney, Stable Diffusion czy Dall-e.

– W bazie Adobe Stock znajduje się około 600 tys. zdjęć dla zapytania „lew”. Z tego około 130 tys. to grafiki generatywnej AI – podaje inny przykład Johan Cedmar-Brandstedt, ekspert ds. etycznej AI. Tobias Ambs-Thomsen, dyrektor w Kunde & Co., ekspert w zakresie AI, przekonuje, że sztuczna inteligencja już przejmuje wyniki wyszukiwania Google’a. „Przyzwyczailiśmy się, że wyszukiwarki dostarczają odpowiedzi opartych na faktach. Ale nie możemy już na tym polegać” – napisał w mediach społecznościowych.

Zalew fałszywymi treściami prowadzi do masowego zacierania granic między fikcją a rzeczywistością. Adobe Stock oznacza grafiki AI, ale w internecie jest wiele materiałów, które nie informują użytkowników, że nie są one prawdziwe. Co więcej, część wprowadza w błąd lub wręcz jest fałszywa. Analitycy zwracają uwagę, że na tak wadliwych danych dostępnych w sieci uczą się ludzie (zwłaszcza dzieci), ale i same algorytmy. Dezinformacja z powrotem przenika zatem do modeli AI. Treści generowane przez sztuczną inteligencję trafiają do internetu, potem są wykorzystywane do trenowania kolejnych modeli i – o ile nie ma weryfikacji – nieprawdziwe dane są powielane.

Jak zauważa Dariusz Jemielniak, profesor w Akademii L. Koźmińskiego, specjalizujący się m.in. w problematyce dezinformacji, zagrożenie związane z tą tzw. pętlą zwrotną AI jest obecnie bardzo poważne i stale rośnie. – Modele generatywne AI stały się niezwykle zaawansowane i potrafią tworzyć realistyczne obrazy oraz teksty. Jednak brak odpowiedniej weryfikacji generowanych treści prowadzi do sytuacji, w której fałszywe informacje przenikają do przestrzeni publicznej – wyjaśnia Jemielniak.

Eksperci zgodnie twierdzą, że potrzeba edukacji na temat AI i promowania umiejętności krytycznego myślenia. Ale przeciwdziałanie temu zjawisku wymaga wielopłaszczyznowego podejścia.

– Twórcy modeli AI powinni implementować mechanizmy sprawdzające jakość i prawdziwość danych wykorzystywanych do trenowania. Obejmuje to usuwanie treści potencjalnie fałszywych lub wprowadzających w błąd. Potrzebne są inwestycje w technologie pozwalające na identyfikację i oznaczanie treści tworzonych przez AI, ale także regulacje i standardy etyczne. Współpraca między naukowcami, przemysłem a ustawodawcami może prowadzić do ustanowienia norm i przepisów regulujących tworzenie i dystrybucję treści generowanych przez AI – twierdzi prof. Jemielniak.