89. M&C levél: Miért hagytuk, hogy így legyen? Sokan bíznak abban, hogy az új információs technológiák automatikusan jobb élethez vezetnek. De ennek éppen az ellenkezője kezd körvonalazódni.

Radó István
2018. augusztus 21.

A jelenlegi trend szerint a számítógépek sebessége tízévente a százszorosára nő. Ha a trend folytatódik, akkor 30 év alatt egymilliószor, 50 év alatt tízmilliárdszor lesznek gyorsabbak a számítógépek. Vagyis 50 év múlva lesznek már olyan apró számítógépek, amelyek úgy tudnak majd számolni, mint a Földön élő tízmilliárd ember összessége.

Ezt Jürgen Schmidhuber professzor, a mesterséges intelligenciára (MI) szakosodott svájci IDSIA kutatóintézet tudományos igazgatója mondta a Horváth & Partners 2. Big Data Konferenciáján Stuttgartban. Jürgen Schmidhuber és Sepp Hochreiter még 1997-ben alkotta meg a visszacsatolásos neurális háló továbbfejlesztett változatát, a Long Short-Term Memory (LSTM) hálózatot, amelynek jellemzője, hogy tetszőlegesen hosszú szekvenciákkal képes dolgozni. Ezt ma a legnagyobb IT cégek – Google, Microsoft, IBM, Apple – használják például arc- és beszédfelismerésre.

A gépi tanulásra szolgáló neurális hálózatokat évtizedek óta létrehozták és tökéletesítik, de a gyakorlati alkalmazásra a számítógép-kapacitás említett viharos bővülése és az adott lehetőséget, hogy immár rengeteg adat áll rendelkezésre.

Ezt a rengeteg adatot ingyen és dalolva mi szolgáltatjuk, elvben annak fejében, hogy olyan testre szabott tartalmakat kapjunk cserébe, mint a közösségi média, a keresőszolgáltatás, a navigáció, az „ingyenes” tárhely és a levélfiók, hogy csak néhányat említsünk. Elviseljük a kéretlen reklámot és azt hisszük, hogy ezzel fizetünk a trendi szolgáltatásokért. Nem gondolunk arra, hogy aranyat ér az, amit mi üveggyöngyökért cserélünk el. A valóságban ugyanis az adatainkból hatalmat épít a „technológiai Big 5”, vagyis a Google, a Facebook, a Microsoft, az Amazon és az Apple – no meg a többi ide sorolható, főleg amerikai és kínai cég. Azonban ezek a vállalatok már ma sem a reklámmal, hanem az MI-vel érik el a legmagasabb profithányadot.

Mint Jevgenyij Morozov, a Stanford Egyetem kutatója rámutatott, a stratégiájuk világos: az MI fejlesztése számára annyi adatot akarnak kitermelni a működésük során, amennyit csak lehetséges, mert a mesterséges intelligencia a mi adatainkból tanul. És jobb lesz nálunk. Az IDSIA által kifejlesztett MI már jobban teljesít a francia kézírás felismerésében és javításában, mint azok a hús-vér francia szakemberek, akiknek a munkájából tanult. A tanuló algoritmusok nemsokára a legkülönbözőbb területeken jobbak lesznek az embernél.

Elsőként a pénzpiacokon tapasztalhattuk meg, milyen az, amikor a mesterséges intelligenciával rendelkező számítógépek egymás ellen kereskednek, amikor a digitális kereskedési rendszerek már nem egyszerű kommunikációs eszközként, hanem döntéshozóként funkcionálnak, másodpercenként meghozva ezernyi döntést, amikor egy flash crash után elül a piaci szereplőkön a félelem és a tanácstalanság. Először a pénzpiacokon tapasztalhattuk meg, hogy a digitális tanuló gépezet megfosztja az államokat legitimációjuktól a piacok működésének befolyásolásában. És itt láttuk meg először, hogy az automatizált kereskedési rendszerek a reálgazdaság felett is átveszik az irányítást, hiszen a határidős áru- és nyersanyagpiacok árazása is elszakad a reálgazdaság kereslet-kínálati viszonyaitól.

Siri, Alexa, Uber, Google térkép és társaik kezdetben nagyszerűséget hoztak az életünkbe, kiszolgálnak bennünket, embereket. Eltalálják a gondolatainkat, kiszolgálják preferenciáinkat. Aztán majd ennél is többet tesznek: gondolkodnak helyettünk, befolyásolnak bennünket. Éppen abban a fázisban vagyunk, amikor elejtik a vadat, a módszeres adatgyűjtés folyik, az emberi szokásokat, az identitást képletekbe, algoritmusokba tömörítik, és így az egyén kiszámíthatóvá, irányíthatóvá válik. A felvilágosodás és a szabadelvű gondolatok évszázadai után ráköszönt az emberiségre a hiedelmek, a babonák, az álhírek és az irányított gondolatok kora. Aki írja az algoritmust, az írja az új embert, mert az ember az ő gondolkodását meghatározó algoritmusok összessége – állítja Daniel Denett, amerikai filozófus.

Sokan bíznak abban, hogy az új technológiák automatikusan jobb élethez vezetnek. De ennek éppen az ellenkezője kezd körvonalazódni. Gondoljunk csak arra, hogy a közösségi média által teremtett szabad információáramlástól sokan a demokrácia erősödését várták. Ma már látjuk, hogy a közösségi média sokkal inkább hamis hírek terjesztésének, választások befolyásolásának terepe lett. Sokszor fogjuk még hallani a mentális imperializmus kifejezést, ami abból fakad, hogy a nagy játékosok transzparenssé tesznek bennünket, olvassák, ellenőrzik és értékesítik gondolatainkat, azon agyalnak, mit tesznek és vesznek, illetve mit fognak tenni és venni az emberek. A valóság az, véli Frank Schirrmacher „Ego – Das Spiel des Lebens” című könyvében, hogy lóvá tettek bennünket, és önkéntelenül elfogadtuk az információs kapitalizmus játékszabályait.

Mivel az MI rendszerek profitorientált vállalkozások kezében vannak, nehéz elképzelni, hogy a képességeiket profittermelés helyett a közjó érdekében használják majd fel. Ha ezt felismerjük, kézenfekvő, hogy az államtól elvárjuk, tegyen valamit.

De az állam nem tesz szinte semmit, mert maga is használja az algoritmusokat birtokló cégek szolgáltatásait. Az államnak is érdeke az olcsóbb egészségügy, közlekedés, stb. Az „okos” városokhoz (smart city), az „okos” államigazgatáshoz, a sikeres terrorelhárításhoz (reality mining, pre-crime analytics) és még sok minden máshoz mesterséges intelligencia kell. Nem várható tehát, hogy az államok érdemben korlátozzák az adatgyűjtést és az algoritmusokat. Nincs elég erejük, pénzük, szaktudásuk ennek önálló kifejlesztéséhez.

A technológiai Big 5 már az államok fejére nőtt. A technológiai játékosok hatalma lassan összefonódik az államokéval, az egyének pedig egyre gyengébbé válnak és egyre erősebb függésbe kerülnek az algoritmusokat birtokló vállalkozásokkal és államokkal szemben.

A kifejlődő információs kapitalizmus a gazdaságot és a társadalmat saját szolgálatába állítja, és átrendezi az alkotmányos és a nemzetközi jogi kereteket. Az algoritmusokkal forradalmat indíthatnak el, háborút vezethetnek és választásokat dönthetnek el. A kapitalizmust az információs kapitalizmus váltja fel, mert akié az adat, azé a hatalom.

Jevgenyij Morozov a budapesti Brain Baron is elmondta véleményét, mely szerint egyszer talán az államok szerepét is átveszik a nagy technológiai cégek. „Add nekünk az adatbázisaidat, majd mi megoldjuk a problémáidat” – mondhatják a politikusoknak,  és minden valószínűség szerint le fognak boltolni egymással.

A kérdést, miért hagytuk, hogy így legyen, könnyű megválaszolni: azért, mert nem kérdeztek meg bennünket arról, milyen világot akarunk.

A szerző az IFUA Horváth & Partners ügyvezetője

Ha védeni szeretné az adatait, talál hozzá 9 tippet “Az internet veszélyesebb, mint gondolnánk” című cikkünkben

Cimkék: ,