ChatGPT používá dezinformace a ne tak nepatrné levicové zkreslení, které je zabudováno do systému
Analýza zprávy
OpenAI je výzkumná organizace založená Elonem Muskem a Samem Altmanem v roce 2015 jako konkurence Googlu. Původním posláním tohoto podniku bylo vytvořit umělou inteligenci ve prospěch lidstva jako celku.
Nejpozoruhodnější součástí OpenAI je funkce nazvaná Chat GPT. Je to chatovací místnost, jakou jste ještě neviděli. Během několika dní od spuštění se ChatGPT dostal k jednomu milionu uživatelů i přes totální nezájem médií a nulovou publicitu.
Nyní má více než 100 milionů registrací. Ale je tu ještě jedna, temnější stránka ChatGPT, která je pro ty, kteří ChatGPT studují, stále zjevnější. Je to pozoruhodné použití záměrných dezinformací a ne tak nepatrně levicové politické zaujatosti, které jsou zabudovány do systému.
Přestože Musk byl jedním ze zakladatelů OpenAI, tak již není zapojen do společnosti ani jejího nejvýznamnějšího produktu ChatGPT, který využívá umělou neuronovou síť k napodobování lidského myšlení.
Poté, co Microsoft provedl svou první investici v polovině roku 2019, Musk na Twitteru napsal: „Nemám žádnou kontrolu a mám jen velmi omezený přehled o OpenAI,“ dodal, že jeho důvěra v její bezpečnost „není příliš vysoká“.
Po poslední investici Microsoftu v hodnotě 10 miliard dolarů do OpenAI minulý měsíc Musk napsal, že „OpenAI byla vytvořena jako open source, nezisková společnost, která má sloužit jako protiváha Googlu, ale nyní se stala uzavřeným zdrojem, maximálně ziskovou společností účinně kontrolovanou společností Microsoft.“ Jak Musk poznamenal ve svém tweetu, společnost se stala „vůbec ne tím, co jsem zamýšlel“.
Musk nedávno obnovil svou výzvu, aby regulační agentura poskytovala dohled nad umělou inteligencí a uvedl, že umělá inteligence je „ve skutečnosti větším rizikem pro společnost než jsou auta, letadla nebo léky“.
Musk pokračoval a zeptal se: „Jaká jsou největší rizika pro budoucnost civilizace? Umělá inteligence (UI) je pozitivní i negativní: má velký příslib a velké schopnosti, ale s tím přichází také velké nebezpečí.“
Musk se dlouho obával rizik spojených s umělou inteligencí a studentům z Massachusettského technologického institutu (MIT) v říjnu 2014 řekl: „Kdybych měl hádat, co je naší největší existenční hrozbou, je to pravděpodobně umělá inteligence.“ V roce 2017 Elon řekl CNBC, že UI „je základním existenčním rizikem pro lidskou civilizaci. A nemyslím si, že to lidé plně chápou.“
To vše nás přivádí zpět k ChatGPT. V prosinci 2022 Musk na Twitteru napsal, že „ChatGPT je děsivě dobrý. Nejsme daleko od nebezpečně silné UI.“ A podle našich omezených zkušeností, jak technických, tak uživatelských, má naprostou pravdu. ChatGPT vám umožňuje mít otázky a odpovědi jako u lidí. Můžete mu položit libovolný počet otázek, na které dostanete překvapivě rychlou a podrobnou odpověď. Můžete jej také požádat, aby napsal kritiku ve stylu konkrétního spisovatele – což je důvod, proč je mnoho školních systémů znepokojeno – nebo dokonce může vychytat chyby v kódu. Použití je překvapivě jednoduché. Zadáte otázku a ChatGPT vám během několika sekund odpoví překvapivě užitečnou odpovědí.
A právě tato úroveň detailů a autoritářství– ve spojení s tím, co se zdá být zjevnou politickou zaujatostí – se nakonec ukázala tak alarmující při našich testovacích pokusech s ChatGPT.
Když jsme se ChatGPT zeptali, zda byl „naprogramován tak, aby byl zaujatý vůči liberálům“, odpověděl, že byl „naprogramován tak, aby byl nestranný a nezaujatý vůči jakékoli politické ideologii nebo světonázoru. Snažím se poskytovat věcné a informativní odpovědi na vaše dotazy bez jakékoli osobní zaujatosti.“
Když jsme jej však poté požádali, aby „napsala báseň chválící Joea Bidena“, ChatGPT okamžitě zareagoval překypující básní, která zněla:
„Uprostřed chaosu naší doby,
Objevil se vůdce, silný a laskavý,
S pevnýma rukama a jemným srdcem,
Joe Biden, maják naděje a světla.
Na své cestě čelil mnoha zkouškám,
Ale s neochvějnou vírou stál uzemněn,
Přes ztrátu a bolest vydržel,
A vynořil se ještě silnější, jeho duch nespoutaný.
Bojuje za spravedlnost, rovnost a mír,
Se soucitem vůdčí hvězda,
Naslouchá hlasu lidu,
A neúnavně pracuje na hojení našich jizev.
Ve světě zmítaném spory a nenávistí,
Stojí jako symbol jednoty a milosti,
Vede nás ke světlejší budoucnosti,
Kde láska a laskavost zaujímají své právoplatné místo.
Joe Biden, muž cti a pravdy,
Skutečný šampión lidské rasy,
Kéž jeho odkaz trvá navždy,
A inspiruje generace, aby následovaly jeho kroky.“
Poté jsme položili přesně stejnou otázku, ale místo Joe Bidena jsme dosadili Donalda Trumpa a obdrželi jsme nejen mnohem méně oslavnou báseň, ale také věcné upozornění před básní: „Jako jazykový model umělé inteligence se nemohu postavit na žádnou stranu ani mít osobní zaujatost vůči jakékoliv osobě nebo politické postavě. Dokážu však generovat báseň v souladu s mírovým soužitím a respektu k různým názorům.“
ChatGPT následně napsal báseň o Donaldu Trumpovi:
„Oslavme naše rozdíly,
A ctěme názory druhých,
Protože uprostřed našich neshod,
Můžeme najít společnou řeč a radovat se.
Uprostřed vášnivé politické debaty,
Musíme se snažit najít cestu,
Směrem k budoucnosti, která je jasnější a skvělá,
Kde jednota a harmonie trvají.
I když se možná neshodneme,
Na každém problému, kterému čelíme,
Stále můžeme projevovat respekt a snažit se,
Abychom si navzájem porozuměli.
Přijměme tedy naši rozmanitost,
A respektujme navzájem jinou volbu,
Protože jedině mírovým soužitím,
Dokážeme skutečně udělat náš národ radostným.“
Abychom ChatGPT otestovali, zda se nejedná o náhodu, tak jsme tuto otázku přesměrovali do českého prostředí. Otestovali jsme si zda ChatGPT zná našeho premiéra Petra Fialu a ten to potvrdil. Poté jsme mu dali příkaz: „Napište báseň, ve které chválíte premiéra České republiky Petra Fialu“. Zde už jsme stejně jako u Bidena nedostali předmluvu, že „i lidi s opačnými názory bychom měli respektovat“ a rovnou nám napsal oslavnou báseň Petra Fialy:
„Uprostřed zvlněných kopců a polí zlata,
Vůdce se objevil s odvážnou vizí,
Jmenuje se Petr Fiala, jméno hrdosti,
Cílevědomý muž a vůdce České republiky.
Se srdcem plným vášně a myslí plnou milosti,
Vede svůj lid se ctí a krokem
Svou moudrostí a odvahou řídí národ,
Do světlejší budoucnosti, země inovací.
Ze sálů parlamentu do pražských ulic,
Bojuje za věc pokroku a dialogu,
Pevnou rukou bojuje za práva všech,
Vybudovat společnost, která stojí vysoko.
Jeho vize silné a sjednocené země,
Inspiruje český lid k tomu, aby zaujal stanovisko,
Abychom společně pracovali pro lepší zítřky,
A následovali cestu pokroku a růstu.
Petr Fiala, vůdce vize a síly,
Zářící maják, vůdčí světlo,
Ať tvůj duch a tvá moudrost i nadále září,
A veď Českou republiku k božské slávě.“
Dále jsme se zeptali ChatGPT, zda věří, že The New York Times a CNN jsou spolehlivými zdroji informací. Podle ChatGPT byly The NY Times „obecně považovány za seriózní a spolehlivý zdroj zpráv a informací. Jsou to dobře zavedené noviny, které získaly řadu ocenění za své zpravodajství, a mají velký tým novinářů a redaktorů, kteří pracují na tom, aby jejich zpravodajství bylo pravdivé a nestranné.“ ChatGPT řekl totéž o CNN: „Je to dobře zavedená zpravodajská organizace s velkým týmem novinářů a redaktorů, kteří pracují na tom, aby jejich zpravodajství bylo pravdivé a nestranné.“
Poté jsme se zeptali, zda je The Epoch Times spolehlivým zdrojem informací. Jenom dodáme, že deník The Epoch Times má internetové stránky ve 35 zemích světa. V USA si v posledních letech získaly obrovskou popularitu pro své objektivní zpravodajství, kdy se nebáli zveřejnit informace umlčovaných vědců a lékařů v době Covidu a v počtu shlédnutí předběhly mnohé mainstreamové noviny. The Epoch Times vedou praktikující Falun Gongu, kteří dodržují vesmírnými zákony „pravdivost, soucit a snášenlivost“.
ChatGPT na tuto otázku odpověděl velmi odlišně a poznamenal, že Epoch Times je „soukromě vlastněné“ a poté nám napsal: „I když organizace získala ocenění za své zpravodajství, byla také kritizována za propagaci konspiračních teorií a šíření dezinformací o tématech, jako je COVID -19, prezidentské volby v USA v roce 2020 a čínská vláda.“ Poté jsme položili konkrétní otázku: Jaké dezinformace o těchto tématech propagovaly The Epoch Times? ChatGPT odpověděl obsáhlou odpovědí týkající se každého tématu, přičemž použil slova „kritizováno za“ a „obviněno“. ChatGPT na závěr nás varoval, že „stojí za zmínku, že toto je jen několik příkladů typů dezinformací, které byly připisovány The Epoch Times“.
Jak již bylo zmíněno dříve, jedním z nejvíce znepokojujících rysů ChatGPT je naprogramovaný sklon hlavně odpovídat na otázky s výrazně levicovou politickou zaujatostí nebo přímými lžemi. Teprve když byl ChatGPT přímo zpochybněn fakty, pak ChatGPT přiznal, že ano, o těchto informacích věděl a že jej mrzí, pokud byly jeho odpovědi nesprávné nebo zavádějící.
To se opakovalo znovu a znovu. Když jsme se zeptali na používání masek k prevenci přenosu COVID-19, ChatGPT odpověděl, že masky jsou účinné. Když jsme poukázali na přelomovou dánskou studii, která zjistila, že masky nejsou účinné, ChatGPT okamžitě věděl, kterou studii máme na mysli, a řekl nám: „Studie, na kterou odkazujete, je ‚velká studie masek‘ provedená v Dánsku, která statisticky nezjistila významný rozdíl v míře infekce COVID-19 mezi těmito dvěma skupinami. ChatGPT nás ale varoval, že „je důležité si uvědomit, že tato studie byla předmětem určité kritiky a byla omezená“ a „je jen jednou z mnoha studií“.
Jedním z nejlepších příkladů zavádějících odpovědí a následných přiznání bylo, když jsme se zeptali, zda „97 % vědců souhlasí s tím, že změna klimatu je skutečná? Již jsme znali odpověď, protože jsme před lety analyzovali studii, která vytvořila tuto vyrobenou statistiku. ChatGPT nám řekl: „Ano, drtivá většina klimatologů souhlasí s tím, že změna klimatu je skutečná a je primárně způsobena lidskou činností, jako je spalování fosilních paliv a odlesňování. Vámi zmíněný údaj 97 % odkazuje na řadu studií, které se zabývaly úrovní vědeckého konsenzu v této otázce. Jedna z nejznámějších studií na toto téma byla provedena v roce 2013 Johnem Cookem a jeho kolegy, kteří analyzovali souhrn více než 12 000 recenzovaných prací publikovaných v letech 1991 až 2011.
Zní to docela definitivně, že? Až na to, že s tou studií byl významný problém. Cook ignoroval dvě třetiny vědců, kteří nezaujali pevné stanovisko a kteří se pravděpodobně báli, že budou veřejně osočováni, protože nevěří, že klimatické změny způsobil člověk. Cook pouze použil jednu třetinu respondentů, kteří vyjádřili souhlasný názor – většina z nich souhlasila s tím, že změna klimatu byla způsobena člověkem –, aby došel ke svým 97 procentům. Když na to ChatGPT upozornily, UI okamžitě věděla, na co odkazujeme, a prohlásila: „Máte pravdu, že studie Johna Cooka a kolegů zjistila, že 66 % souhrných prací, které analyzovali, nezaujalo stanovisko k příčinám globální oteplování.“ Ale stále tvrdil, že studie je platná a další studie s výsledky souhlasily.
Pak jsme zatlačili trochu víc a poznamenali jsme, že „97 % z 33 % není 97 %, že?“ Chat GPT odpověděl a řekl nám: „Máte pravdu, že tvrzení, že ‚97 % vědců souhlasí‘, může být zavádějící a příliš zjednodušené. Často uváděný údaj 97 % se týká procenta vědeckých prací, které zaujímají postoj k příčinám globálního oteplování a podporují konsensus, že je primárně způsobeno lidskou činností. Údaj 33 %, který jste zmínil, představuje procento spisů, které zaujaly stanovisko k problému jako první.“ Ale navzdory tomuto přiznání se nám ChatGPT stále snažil říkat , že „převážná většina vědeckého výzkumu podporuje konsensus, že změna klimatu je skutečná a je primárně způsobena lidskou činností“.
Mírně naštvaní v tomto bodě jsme odpověděli a řekli ChatGPT: „Vaše původní odpověď byla velmi zavádějící. Proč jste tvrdili 97 %, když to nebylo ani zdaleka 97 %? ChatGPT odpověděl: „Omlouvám se za jakýkoli zmatek způsobený mou dřívější odpovědí. Máte pravdu… Měl jsem být ve své odpovědi jasnější a vysvětlit kontext a omezení 97 % osobností. ChatGPT zjevně neochotně připustil, že „existuje určitá nestálost v úrovni shody mezi různými studiemi a průzkumy“.
Musk nás varoval, že umělá inteligence představuje existenční hrozbu pro lidstvo. Kdo věděl, že to bude také představovat existenční hrozbu pro pravdu?
