AI és titoktartás

Ahogy az szinte minden újdonsággal, főleg ami forradalminak tűnik, az AI-al is megtörtént, hogy szinte mindenki szinte mindenre azt kezdte el használni.

Már az is kérdéses bölcsesség, hogy a keresőmotorokat lecserélik erre, hiszen az AI hiába ad szofisztikáltnak tűnő választ a kérdésre, mégsem támogatja azt, hogy több forrásból, kritikusan tudjunk a válaszokhoz állni. Ha valaki siet, elfogadja a választ, még ha pontatlan vagy teljes tévedés is az.

A nagyobb problémák akkor kezdődnek, amikor „beszélgetünk” is az AI-al.

Itt tennék is egy apró kitérőt. Ami jelenleg működik, nem mesterséges intelligencia, mert valójában egyetlen igazi gondolata sincs. Statisztikai valószínűségeken alapuló nyelvi modell. Ez annyit tesz, hogy az internetes szövegek, illetve a saját beszélgetései alapján megjósolja, egy adott mondatnak az adott kontextusban mi a legvalószínűbb első és következő szava. Ez nem gondolkodás, ez már magában is manipuláció, mivel nem „vállalja önmagát”, hanem azt mondja, amit a legvalószínűbben elfogadunk.

De vissza a jelen cikk témájára. A legnagyobb gond a saját hiszékenységünk. Bár a cégek ügyesen jelzik és érzékeltetik, hogy természetesen nem mentenek el adatokat, ezt gyakorlatilag pontosan tudjuk, hogy nem így van.

Súlyos probléma, hogy most már nem csak olyan adatokat osztunk meg magunkról, hogy milyen termékeket szeretünk vásárolni vagy milyen szolgáltatások érdekelnek minket mostanában, hanem a legbelső titkainkat, pszichés sérüléseinket is. Ez pedig még inkább alkalmassá teszi ezt a rendszert arra, hogy manipulálja a mindennapjainkat.

Talán nem kell említenem a világ legismertebb tesztjét az adatokon alapuló manipulációra: a Brexit. Ez volt az első hivatalosan is elismert olyan komoly téttel rendelkező választás, ahol a metaadatok felhasználásával a bizonytalan választókat célozva, mintegy manipulálták a választást. És ehhez csak az internetes böngészési adatok álltak rendelkezésre.

Most ennél sokkal többről van szó. Gyakorlatilag mind a szövegezés mind a témák alapján a szinte teljes pszichológiai profilunkat önként odaadjuk. Ezzel olyan hatékonyságú reklámokat lehet előállítani személyre szabottan, amik ellen majdnem teljesen védtelenek vagyunk. Olyan termékek és szolgáltatások fognak megjelenni, amikre vágyunk, még ha sokszor magunknak sem teljesen fogalmaztuk ezt meg. Ráadásul olyan szövegezéssel kapjuk ezeket a reklámokat, amik ránk a legjobban hatnak. Hiszen ezt az AI és az azt birtokló cég már a beszélgetéseink alapján profilozta, és eltárolta.

Gyanítom, már ma sem úgy reklámoz egy nagyobb vállalat, hogy megírja a marketinges a szöveget, utána páran megkritizálják, keresnek hozzá képet, megtervezik hova kerüljön a gomb, milyen színek legyenek stb. Egyszerűen megadják, hogy mit akarnak értékesíteni, a szakosodott cégek pedig csak simán kiszórják az AI által egyénre szabottan megalkotott reklámokat azokhoz, akik a legnagyobb valószínűséggel vásárlók. És itt a lényeg, hogy nem azok kapják, akiknek esetleg szükségük van az adott termékre/szolgáltatásra, hanem azok, akik a legnagyobb valósószínűséggel rávehetők a vásárlásra. Ezek pedig leginkább azok az emberek, akik éppen valamilyen lelki, párkapcsolati, életvezetési problémával küzdenek. Mert már régóta tudjuk, hogy a külső örömforrások átmenetileg csillapítják a pszichés „fájdalmat”. Pontosabban időben eltolják, így majd később okoz gondot. És ezt a tologatást jó sokáig lehet csinálni, közben pedig jó sok pénzt lehet keresni vele.

Ugyanakkor nem csak efféle marketingre lehet felhasználni. Valójában a véleményünk és a gondolkodásunk is formálható, ha a „megfelelő” tartalmakat kapjuk egyfolytában. Mennél többet látunk egy adott témát, annál hajlamosabbak vagyunk azt gondolni, ez egy fontos kérdés, és bizonyára mindenkit foglalkoztat. Pedig jó eséllyel ez csak egy lépés, amíg elérkezünk a megrendelő kívánalmainak megfelelő következtetésig. Ez lehet egy népszavazás, egy karrierút, ideológiai szemlélet stb. esetében.

Ami talán még ennél is ijesztőbb, hogy személyes célokra is felhasználható, ha valaki elég anyagi forrással rendelkezik. És nem arra gondolok, hogy Elon Musk kifizeti, hogy jobb PR-ja legyen a világban. Sokkal inkább arra, hogy mivel kritikátlanul elhiszünk mindent az AI-nak, mi tartana vissza egy félrelépő gazdag házasságban élőt, hogy az AI-t felhasználva „meggyőzze” a partnerét, hogy ez ártalmatlan, sőt amúgy nem is biztos hogy tényleg az történt, ami. Ehhez csak annyi kell, az AI szépen lassan, finoman elejtse ezeket a kérdéseket és kételyeket a megcsalt fél beszélgetéseiben.

Bármennyire tűnik is az utóbbi már összeesküvés elméletnek, szinte biztos, hogy ami nekünk a nappaliban eszünkbe jut, az egy olyan embernek, aki az AI felhasználásának lehetőségével foglalkozik napi 8 órában, már rég eszébe jutott.

Végül az utolsó fenntartásom a témával kapcsolatban: és mi van a mások adataival?

Mert a beszélgetéseink közben, természetesen mások is érintettek. Hiába nem nevezzük őket néven, vagy más nevet használunk, a rendszer pillanatok alatt beazonosítja, kiről is van szó. Így az ő titkaikat is kiadjuk.

Mielőtt vállat vonnánk erre, sose feledjük! Rólunk is beszélget valaki az AI-al.