Oceňovaný vědec varuje, že AI se může vzepřít lidem

Podle renomovaného počítačového vědce Yoshui Bengia by se tato technologie mohla stát inteligentnější než lidé a nakonec převzít moc.

Bengio varuje, že rychlý vývoj umělé inteligence (AI) by mohl představovat vážná rizika pro lidstvo, protože tuto technologii je čím dál víc obtižnější kontrolovat.

RT píše: Profesor na univerzitě v Montrealu a vedoucí Montrealského institutu pro učení algoritmů, profesor Bengio, ve čtvrtek pro CNBC řekl, že stroje mohou brzy převzít většinu kognitivních schopností lidí.

Vědec měl na mysli umělou všeobecnou inteligenci (AGI), typ technologie umělé inteligence, jejímž cílem je vyrovnat se nebo být lepší než lidská inteligence. „Inteligence znamená moc. Takže, kdo bude ovládat tu moc?“ řekl Bengio.

„Pokud vytvoříme subjekty, které jsou chytřejší než my a mají své vlastní cíle, co to znamená pro lidstvo? Jsme v nebezpečí?“ zeptal se.

Počítačový vědec uvedl známou obavu, že stroje s umělou inteligencí, které jsou v současné době trénovány „povedou k systémům, které se obrátí proti lidem“.

Poukázal na to, že určité organizace a vlády by mohly chtít postavit výkonné a nákladné stroje AI. To by vedlo ke koncentraci ekonomické, politické a vojenské moci, což by nakonec ohrozilo geopolitickou stabilitu na celém světě, varoval.

„Jsou lidé, kteří by mohli chtít zneužít tuto moc, a jsou lidé, kteří by mohli být rádi, kdyby lidstvo nahradily stroje,“ řekl a vyzval k přísnější regulaci.

Podle počítačového vědce; společnosti vyvíjející umělou inteligenci vedou mezi sebou „nebezpečný závod“ o globální technologickou nadvládu  a měly by nést odpovědnost za své činy.

Bengio je nejlépe známý pro svou průkopnickou práci v oblasti hlubokého učení, která mu v roce 2018 přinesla Cenu A.M Tuninga, známou jako „Nobelovou cenu za výpočetní techniku“, spolu s vědci  Geoffreyem Hintonem a Yannem LeCunem. V roce 2019 mu byla udělena Killamova cena a v roce 2022 se stal počítačovým vědcem s nejvyšším vlivem na svět podle H-indexu.

V posledních letech vzbuzují významné osobnosti v technologickém průmyslu obavy z potenciálního nebezpečí, které představuje neregulované přijetí technologie AI.

Hinton, který je považován za průkopníka AI, varoval, že svět může zažít velké katastrofy, pokud nebude používání zbraní řízených AI náležitě regulováno.