Według dwóch nowych raportów, europejskie partie skrajnie prawicowe wykorzystywały obrazy generowane przez sztuczną inteligencję (AI) do wspierania swoich przekazów politycznych, ale trudno jest ocenić, w jaki sposób obrazy te mogły wpłynąć na ostatnie wybory we Francji i Europie.
Organizacja non-profit "AI Forensics" zbadała strony mediów społecznościowych 31 francuskich partii politycznych, aby ustalić, czy wykryły one treści generowane przez sztuczną inteligencję (genAI). Zbadano okres od 1 maja do 28 czerwca, podczas wyborów europejskich i pierwszej rundy francuskiej kampanii legislacyjnej.
Następnie wprowadzono te obrazy do wyszukiwarek związanych ze sztuczną inteligencją, aby sprawdzić, czy zostały one utworzone przez narzędzie AI.
W sumie zespół odkrył 51 przypadków generatywnych obrazów AI wykorzystywanych przez francuskie partie, przy czym skrajnie prawicowe National Rally (RN), "Reconquête" i "Les Patriotes" używały ich najczęściej, chociaż naukowcy stwierdzili, że są to ostrożne szacunki.
"To pierwszy cykl wyborczy, w którym istnieje (generatywna) sztuczna inteligencja, ale jesteśmy pewni, że w nadchodzących latach będzie ona wykorzystywana coraz częściej" - powiedział Salvatore Romano, badacz z AI Forensics, w wywiadzie dla "Euronews Next (LON:NXT)".
"Jeśli nie jesteśmy w stanie poradzić sobie z tym teraz, gdy skala jest tak mała (...) tym trudniej będzie w przyszłości, gdy technologia będzie nie do odróżnienia od rzeczywistej treści" - dodał.
Skrajnie prawicowa RN wygrała pierwszą turę wyborów we Francji w ubiegłą niedzielę z 33% głosów, a w wyborach europejskich w czerwcu zdobyła 31,5% głosów.
Gdzie pojawiły się treści AI
Według raportu AI Forensics, większość obrazów kampanii generowanych przez sztuczną inteligencję wykorzystywanych przez francuskie partie "przekazuje przesłania antyimigracyjne, brak bezpieczeństwa we Francji, brak wolności słowa, wadliwy system sądowniczy i słabą ochronę rolnictwa".
"[Obrazy] są wykorzystywane, jako technika siania paniki, aby powiedzieć, że Francja nie jest bezpieczna w UE, a to jest bardzo ukierunkowane na wrażliwe osoby w naszym społeczeństwie" - dodała Miazia Schüler, badaczka z AI Forensics.
Obrazy te często miały "hiperrealistyczny" wygląd, w którym przeciętny użytkownik mógł wyraźnie zobaczyć, że zostały stworzone przez sztuczną inteligencję, wyjaśnił Schüler.
Inne były subtelne, jak imitacje politycznych kreskówek w gazetach.
Niektóre partie, takie jak skrajnie prawicowa "Reconquête", wykorzystały również generatywną sztuczną inteligencję do stworzenia wizerunków prezydenta Francji Emmanuela Macrona i komisarz europejskiej Ursuli Von Der Leyen.
Podczas kampanii UE, RN stworzyła stronę internetową o nazwie "Europa bez nich". Strona ta podobnie kwestionowała pozycje przywódcze Macrona i Von Der Leyen, zgodnie z badaniem przeprowadzonym przez Digital Forensic Research Lab Atlantic Council ("DFRLabs").
Strona internetowa - nadal działająca - zawiera, co najmniej trzy obrazy wygenerowane przez sztuczną inteligencję: według ich raportu przedstawia ona petycje przeciwko "lekceważeniu ludzi przez UE, masowej imigracji i promowaniu hidżabu".
To tylko wierzchołek góry lodowej
Valentin Chatelet, badacz Atlantic Council, stwierdził, że "trudno" jest określić, jak duży wpływ tego rodzaju treści generowane przez sztuczną inteligencję miały na sukces RN zarówno w wyborach do UE, jak i we Francji.
"Uważam, że ma to pozytywny wpływ na materiały, których partia używa do przekazania określonej idei, takiej jak konkretne stanowisko Bardelli w danej kwestii" - mówi Chatelet.
"(Obrazy generowane przez sztuczną inteligencję) są również wykorzystywane do szokowania ludzi... dopóki nie staną się głównym nurtem" - dodał.
"Euronews Next" skontaktował się z partiami politycznymi "National Rally" (RN), "Identity and Democracy", "Patriots" i "Reconquista", ale nie otrzymał odpowiedzi.
Według francuskiego nadawcy "BFMTV" kandydaci RN przeszli szkolenie w zakresie sztucznej inteligencji, w tym korzystania z ChatGPT, od stycznia 2024 roku. W broszurze szkoleniowej podano przykłady, w jaki sposób sztuczna inteligencja może pomóc kandydatom politycznym, na przykład w tworzeniu plakatów kampanii i znajdowaniu argumentów do debat, podał nadawca.
Ani badanie AI Forensics, ani "DFRLabs" Rady Atlantyckiej nie analizowały osobistych wiadomości kandydatów ani treści tworzonych przez zwolenników partii.
Romano uważa, że jego badanie to "tylko wierzchołek góry lodowej" ilości nieoznakowanych treści wyborczych AI krążących na platformach mediów społecznościowych.
Krytyczne zaniedbania firm technologicznych w zakresie wykorzystania sztucznej inteligencji
W raporcie AI Forensics stwierdzono, że żaden z obrazów wygenerowanych przez sztuczną inteligencję nie został oznaczony, jako taki.
"Nasze ustalenia ujawniają krytyczne zaniedbania ze strony partii politycznych i platform w zakresie przestrzegania zobowiązań do oznaczania obrazów generowanych przez sztuczną inteligencję w ich kampaniach politycznych, podkreślając pilną potrzebę przejrzystości" - czytamy w raporcie.
Duże firmy technologiczne, takie jak Google (NASDAQ: GOOGL), OpenAI, Meta (NASDAQ:META) i TikTok podpisały w lutym otwarte porozumienie technologiczne, które "określa oczekiwania dotyczące sposobu, w jaki sygnatariusze będą zarządzać wprowadzającymi w błąd treściami wyborczymi generowanymi przez sztuczną inteligencję" na swoich platformach przed wyborami europejskimi.
Pierwszym zobowiązaniem w tej umowie było to, że platformy będą "(identyfikować) realistyczne obrazy generowane przez sztuczną inteligencję i/lub (poświadczać) autentyczność treści i ich pochodzenie", czytamy w kopii umowy.
Obiecały również dokonać przeglądu swoich modeli, aby "zrozumieć ryzyko, jakie mogą stwarzać" wprowadzające w błąd treści generowane przez sztuczną inteligencję.
Niektóre partie polityczne podpisały własną wersję tego porozumienia z Komisją Europejską, w której stwierdziły, że są "zobowiązane do zapobiegania celowemu wprowadzaniu w błąd opinii publicznej, w tym poprzez wykorzystanie sztucznej inteligencji", czytamy w kopii porozumienia.
Grupa "Tożsamość i Demokracja" (ID) w Parlamencie Europejskim podpisała ten kodeks postępowania, a jednym z jej członków jest RN. Inne francuskie partie narodowe tego nie zrobiły.
Romano stwierdził, że AI Forensics prześle swój raport do Komisji Europejskiej w nadziei, że zostaną wyciągnięte jakieś konsekwencje wobec partii za naruszenie tych kodeksów postępowania.
-----------------------------------
Szukasz akcji z szansą na wysokie wzrosty? Gotowych strategii inwestowania na giełdzie, modeli wspartych AI, wartości godziwej spółek polskiego parkietu?
Jeśli chcesz jeszcze bardziej obniżyć koszty - subskrypcja dwuletnia InvestingPro (-50%) powstała właśnie dla Ciebie!
Akcje niedowartościowane, pełen portfel największych ekspertów inwestowania, portfele rebalansowane co miesiąc - nie możesz tego przegapić!
-----------------------------------