“Egy friss kutatás szerint az AI által írt szövegeket a befogadók hitelesebbnek tartják, mint az ember által írottakat” - erről is beszélt Krekó Péter, az ELTE PPK Szociálpszichológiai Tanszékének docense, a Political Capital igazgatója a Magyar Tudományos Akadémia (MTA) november 23-i konferenciáján.
A Pszichológia és mesterséges intelligencia: Új kihívások, új lehetőségek című konferencián az előadók többek között a nyelvi modellek vagy a kutatói munka és a mesterséges intelligencia összekapcsolódásáról beszéltek. Krekó pedig azt vizsgálta saját és mások kutatásait összefoglalva, hogy a generatív mesterséges intelligencia milyen hatással van a dezinformáció befogadóira.
Krekó előadásának három fő kérdése az volt, hogy:
Krekó szerint az első kérdésen belül három olyan területet különíthetünk el, ahol a mesterséges intelligencia dezinformációra gyakorolt hatását vizsgálni érdemes: ez a dezinformáció előállítása, terjesztése és azonosítása.
A témában született kutatások eredményeit úgy lehet összefoglalni, hogy
a mesterséges intelligencia által generált üzenetek logikusak, letisztultak és tényszerűek, ezért is tudnak rendkívül meggyőzőek lenni, de hátrányuk, hogy unalmasak, történetmesélés szempontjából kevésbé izgalmasak.
Egy friss kutatást idézve Krekó elmondta, hogy a GPT-3 által írt szövegeket a befogadók hitelesebbnek tartották, mint az ember által írottakat; a megkérdezettek pedig nem tudták megkülönböztetni a program által írt tweeteket az emberi kéz alkotta posztoktól. Ez ugyanúgy igaz a dezinformációs, mint az igaz tartalmakra.
Egy másik kutatás szerint a generatív AI által írt üzenetek könnyen meggyőzik a befogadókat politikai témákban is, legyen szó a szabad fegyverviseléssel kapcsolatos vitákról, gazdasági vagy szociális kérdésekről. Krekó szerint felmerül a kérdés, hogy ha a chatGPT képes teljes pártprogramokat megírni, amelyek a célközönség számára meggyőzőbbek, mint az ember által írott szövegek, akkor lesz-e szükség a jövőben szövegírókra, vagy arra, hogy a pártok szakértőket alkalmazzanak a programok megírására.
Erre némileg választ ad a bullshit-problematika, vagyis az, hogy amilyen meggyőző tud lenni egy AI által generált szöveg, olyan sokszor csupán jól hangzó, ám üres frázisokkal teli szövegekről van szó, melyek igazságot csak nyomokban tartalmaznak.
A dezinformáció előállítása kapcsán Krekó kitért a deepfake-ek univerzumára is, vagyis olyan hamis tartalmakéra, amelyeket már létező hangok és képek alapján, mélytanulással állít elő a mesterséges intelligencia. A témával mi is foglalkoztunk korábban, a deepfake-ről szóló podcastunk itt érhető el.
A deepfake-eknek egyre többször és egyre nagyobb szerepe van a politikai kampányokban is, bár azt igen nehéz megmondani, hogy egy deepfake videó mennyire tudja befolyásolni például a választópolgárokat. Krekó itt több példát is említett az amerikai választásoktól kezdve a Hamász-izraeli háborún át a szlovák választásokig: ez utóbbival szintén foglalkoztunk mi is.
Ebben a cikkben azt foglaltuk össze, hogyan igyekeztek összezavarni a szlovák választókat deepfake hangfelvételekkel és Kreml-propagandával a kampány során. Egy esetben például Michal Šimečka, a Progresszív Szlovákia (PS) párt elnökének mesterségesen generált hangja szerepelt egy deepfake felvételen, ahol a politikus arról beszélt, hogy pártja kormányra kerülése esetén az alkoholizmus visszaszorítása érdekében 70-100 százalékkal megemelné a sör árát.
Krekó szerint azonban a deepfake-kel kapcsolatban mindenképpen jó hír, hogy éles dezinformációs helyzetben (például a Covid, az orosz-ukrán vagy a Hamász-izraeli háború esetében), akkor még mindig inkább az úgynevezett cheapfake-ek dominálnak, vagyis azok a manipulált tartalmak, amelyeket nagyon gyorsan elő lehet állítani, éppen ezért nem túl professzionálisak és gyorsan leleplezhetők.
Az AI nemcsak a dezinformáció előállításában, de annak terjesztésében is jelentős szerepet játszhat. Krekó itt a Cambridge Analytica botrányát említette: amikor a közösségimédia-felületeknek a felhasználókról szerzett részletes tudása és a dezinformáció terjesztése találkozott egymással, súlyos következményeket eredményezve. Bár az ok-okozati összefüggésben itt sem lehetünk biztosak, mondta Krekó: vagyis azt, hogy a Cambridge Analytica miatt történt-e a Brexit, vagy Trump megválasztása, valószínűleg sosem fogjuk megtudni. Az viszont biztos, hogy
az AI által terjesztett dezinformáció integráns része a politikai kampányoknak.
Az X-en (akkor még Twitter) például már a 2016-os amerikai elnökválasztási kampányban is botok generálták az üzenetek egyötödét. Egy ideig a platform hatékonyan fellépett a botok ellen, de ez Elon Musk vezetése alatt igencsak háttérbe szorult. Arról, hogy a világ leggazdagabb embere milyen változtatásokat vezetett be az X-en, és azok hogyan engednek az eddigieknél simább utat a dezinformáció terjedésének, ebben a cikkben írtunk részletesen.
Krekó szerint az álhírek, különösen a politikai tartalmúak szempontjából az a legnagyobb kihívás, hogy a plurális, társadalmi vita helyét átveszi egy bezárkózó, zártabb csoportokon alapuló törzsies társadalom, ahol nincs közbeszéd és olyan nyilvános platform, ahol mindenki ugyanarról beszél.
Emellett az is veszélyt jelent, hogy az emberek a dezinformációs tartalmak kapcsán elveszítik az igazságba vetett hitüket, vagy szimplán apátiába süllyednek, vagyis nem érdekli őket, hogy mi igaz és mi nem, inkább feladják az igazság keresését.
Pozitívum viszont, hogy több kísérlet is bizonyítja, hogy
az álhírekkel kapcsolatos emberi tanulás lehetséges, és igen hatékony.
Vagyis minél többet tudunk és tanulunk a dezinformációról és annak beazonosításáról, annál jobban felvértezzünk magunkat, annál könnyebben felismerjük az álhíreket, deepfake-et és egyéb, mesterséges intelligencia vagy ember által generált hamis tartalmakat.
A Political Capital és a Lakmusz a HDMO projekt keretében működik együtt.
Címlapi kép forrása: Olivier Douliery/AFP
