Edward Snowden varuje před umělou inteligencí
S tím jak se vše digitalizuje, tak se zvětšuje také dohled umělé inteligence nad lidmi. Sociální sítě mají boty (počítačové programy), kteří shromažďují informace o lidech a automaticky potlačují svobodu projevu. Lidé si také stahují aplikace, které je sledují.
Edward Snowden, bývalý agent NSA a informátor, ve své knize Nesmazatelné záznamy uvádí několik příkladů toho, jak nás bude umělá inteligence kontrolovat a omezovat naši svobodu. Budu zde citovat ze strany 216 této knihy.
Citát z knihy
„Bezpečnostní kamery
Největší nebezpečí skryté v systému bezpečnostních kamer ještě leží před námi a je spojeno s rozvojem umělé inteligence v podobě rozpoznávaní obličejů a charakteristických osobních rysů. Bezpečnostní kamera vybavená systémem umělé inteligence přestane být pouhým záznamovým zažířením, ale přiblíží se svou povahou jakémusi automatickému policistovi – stane se z ní vpravdě robo-cop, robotický policista, aktivně vyhledávající „podezřelou“ aktivitu, jako například zjevnou distribuci drogy (když se lidé obejmou nebo si potřesou rukou) a očividnou příslušnost k nějakému gangu (pokud lidé budou nosit specifické barvy a značky oblečení). Už v roce 2011 mi bylo jasné, že právě tam nás zavádí rozvoj této techniky, aniž by se o tom vedla nějaká závažná veřejná diskuse.
V hlavě se mi kupily možnosti potenciálního monitorování a spojily se ve vizi hrozivé skutečnosti. Svět, v němž budou všichni lidé bez vyjimky stále sledováni, se logicky stane světem, v němž se budou moci všechny zákony vynucovat do krajnosti, navíc automaticky, díky počítačům. Je přece jen dost obtížné představit si nějaké zařízení vybavené umělou inteligencí, jež by si povšimlo člověk apřekračující zákon a nevedlo ho k odpovědnosti. Žádný policejní algoritmus nebude nikdy naprogramován na shovívavost a odpuštění, i kdyby to bylo možné.
Napadlo mě, jestli právě tohle nebude konečným, byť groteskním naplněním původního amerického slibu, že všichni občané si budou rovni před zákonem. Ovšem šlo by o rovnoprávnost v utlačování prostřednictvím totálních automatizovaných sil k naplnění požadavků zákonů. Představil jsem si, jak budoucí „chytrá lednička“ stojící u mě v kuchyni monitoruje mé zvyky a chování a z mých sklonů pít balené nápoje přímo z kartonu nebo si před jídlem neumývat ruce vyvodí pravděpodobnost, že nejspíš budu zločinec.
Podobný svět pod diktátem absolutních automatizovaných bezpečnostních složek – včetně dejme tomu zákonů týkající se vlastnictví domácích mazlíčků nebo způsobu chování ve vymezených zónách – by se stal nesnesitelným. Extrémní spravedlnost by se snadno mohla zvrhnout v extrémní nespravedlnost, a nejen ve smyslu přísného trestání přestupků, ale také v tom ohledu, jak zásadově a důkladně by se zákony uplatňovaly a vynucovaly. Téměř každá početná a delší dobu existující společnost si vyvinula spoustu nepsaných zákonů a předpokládá, se, že příslušníci dané společnosti je budou respektovat, i když si je třeba ani neuvědomují.
Podle paragrafu 10-501 marylandského trestního zákona je cizoložství nezákonné a trestné pod pokutou deseti dolarů. V Severní Karolíně platí vyhláška 14-309.8, podle níž je ilegální každá hra bingo trvající déle než pět hodin. Obě tyto právní normy vzešly z minulé, prudérnější doby, a přece kdo ví proč nebyly zrušeny.
Většina našeho života probíhá nikoli v černobílém, nýbrž v šedivém prostředí: přeházíme ulici mimo přechod, házíme směsný odpad do kontejnerů na tříděný a naopak, jezdíme na bicyklech mimo vymezené pruhy a využíváme cizí Wi-Fi, abychom si stáhli knihu, za kterou nezaplatíme. Zkrátka: ve světě, v němž by byly všechny zákony neustále vynucovány, bychom byli všichni zločinci.“
Předvídaní trestné činnosti
Dnes svoboda člověka, které říkáme soukromí, začíná prodělávat generační změnu. Ti, kteří 11. září 2001 ještě nebyli na světě, prožijí celý život pod všudypřítomným a širokým sledováním. Tihle mladí lidé, kteří neznají jiný svět, se rozhodli si nějaký vysnít, a právě jejich politická tvořivost a technický důmysl mi dávají naději.
Avšak pokud se nerozhodneme vyžádat si svá data zpátky rovnou teď, naše děti už to možná nebudou moci udělat. A ony, a také jejich děti, se chytí do pasti – každá následující generace bude nucena žít pod datovým přízrakem generace předchozí, stane se předmětem mohutného nakupení informací, jejichž potenciál ve vztahu ke společenské kontrole a manipulování s lidmi přesáhne nejen právní omezení, ale i hranice představivosti.
Kdo z nás může předvídat budoucnost? Kdo by se toho odvážil? Odpověď na první otázku zní, že ve skutečnosti nikdo, a odpověď na tu druhou zní kdokoli, zvlášť každá vláda a podnik na planetě. Právě k tomu se využívá našich dat. Algoritmy je analyzují, vyhledávají vzorce zavedeného chování a z nich extrapolují vzorce, které teprve přijdou; jde o jakési digitální věštění, jen o něco přesnější, než analogové metody jako třeba čtení z dlaně. Jakmile zavrtáte do skutečných technických mechanisků, podle nichž se vypočítává pravděpodobnost, pochopíte, že jde o vědu, přesněji antivědu, která získala osudově nesprávné jméno: toto předpovídání je ve skutečnosti manipulace. Pokud vám webová stránka říká, že když se vám líbí tahle knížka, mohly by se vám líbit také knihy od Jamese Clappera nebo Michaela Haydena, nejde o nabídku plynoucí z poučeného odhadu, ale spíš o jemný nátlakový mechanismus.
Nesmíme připustit, abychom byli tímto způsobem zneužívaní, abychom byli zneužívání proti budoucnosti. Nemůžeme dovolit, aby naše data byla využívána k tomu, že se nám prodávají věci, jež nesmí být na prodej, jako například žurnalistika. Pokud bychom to udělali, pak by se nám dostával do rukou takový žurnalistický produkt, jaký chceme, nebo jaký nám chtějí vnutit ti, kteří třímají moc, namísto čestné kolektivní konverzace, která je nezbytná. Nesmíme připustit, aby se jakoby božské sledování, jemuž jsme podrobeni, využívalo k „výpočtům“ našich občanských prohřešků nebo „predikci“ naší nezákonné činnosti; aby se nám říkalo, jaké vzdělání můžeme získat nebo jakou práci můžeme dostat, nebo jestli se vůbec můžeme vzdělávat a zda se nám podaří získat práci; aby nás systém diskriminoval na základě našich finančních, právních nebo lékařských záznamů, nemluvě o etnickém původu a rase, což jsou časté konstrukce, k nimž se data využívají.
A pokud jde o naše nejosobnější data, naši genetickou informaci: dovolíme-li, aby se jí užívalo k naší identifikaci, pak se toho zneužije k našemu pronásledování nebo dokonce k naší modifikaci – k přetvoření samé podstaty naší lidskosti podle obrazu techniky, která chce uchvátit kontrolu.
Všechno, co je řečeno výše, už se samozřejmě stalo.“
Konec citátu.
Závěr
Snowden svou knihu napsal v roce 2019. Nicméně v dnešní době už se všechny tyto tendence, které zmiňoval objevují.
Éra Covidu dala mnoha lidem pocítit, jak funguje taková Total Control a o čem celá tato operace je. Lidé si dobrovolně stahovali sledovací aplikace, aby byli „v bezpečí“. Drony a roboti napomínali lidi, že mají dodržovat covidová opatření.
Podle Epoch Times v současné době jsou v USA lidé sledování na základě toho, zda si píchli vakcínu a pokud ne, tak jsou v systému evidování na černé listině jako problémoví lidé a nemůžou si najít práci.
Podle Newspunch se WEF snaží implementovat technologii, která umí číst lidské myšlenky. Tuto technologii by měly v budoucnu využívat vlády a nadnárodní firmy, aby měli ještě větší kontrolu nad lidmi.
V budoucnu se také plánuje další pandemie. Na základě toho byly na státní a mezinárodní úrovni přijaty pravidla, která budou ještě více kontrolovat lidi a omezovat jejich osobní svobody.
Snowden předpověděl (nebo spíše už tehdy věděl) kam veškeré toto sledování vede. Někdo si může říct: „Však já nejsem špatný člověk, nikomu neubližuji a snažím se dodržovat zákony.“
Umělé inteligenci je to však jedno. Bez empatie a soucitu umělé inteligence se budou věci dít automaticky, bez otázek a jak říká Snowden: „místo extrémní spravedlnosti dojde k extrémní nespravedlnosti“.
Ve filmech nám často prozradí co nás čeká. Je to podvědomé programování na budoucnost a lidé si to neuvědomují.
Budeme žít v realitě podobné filmu Demolition man, kde nás budou hlídat bezpečnostní kamery v kombinaci s filmem Minority Report, kde nám UI bude číst myšlenky a na základě toho bude „předvídat“, že chceme provést trestnou činnost?:
Pusťte si automatické české titulky:
Nezávislost naší redakce můžete podpořit finančním darem v jakékoliv výši bankovním převodem na účet:
2400157743/2010
QR kód obsahuje údaje k platbě. Výši částky si určíte sami.
Facebook komentáře