Už jsou tady! Pozorují nás, dělají na nás pokusy a jdou nám po krku

pátek 30. listopad 2012 07:05

http://primadvd.cz/15619/Roboti.html
Filmový plakát

Není na obranu proti ne-lidským inteligencím už trochu pozdě?

"Matrix je všude. Je to všude kolem nás. I teď, v této místnosti.
Vidíte ho, když se podíváte z okna nebo když zapnete televizi. Můžete ho cítit, když jdete do práce, když jdete do kostela, když budete platit daně. Je to svět, který byl člověku nasazen na oči, aby bránil vidění pravdy." Morpheus

 

Univerzita v Cambridge otevře v příštím roce nové centrum zkoumající rizika, která plynou pro lidstvo z používání umělé inteligence. Univerzita plánuje dát dohromady akademiky, kteří budou zvažovat, jak překotný vývoj superpočítačů a dalších technologií „ohrožuje naši vlastní existenci“.

Obávám se ale, že se akademikům budou protáčet panenky víc než televizní loutce brouka Pytlíka, až zjistí, že "oni" jsou už mezi námi a mají toho dokonce už mnoho na svědomí.

 Problém ne-lidské inteligence se totiž týká ještě širších soborů „inteligentních objektů/subjektů“ než jen „mimozemské inteligence“, „zvířecí inteligence“, „inteligence vyšších duchovních bytostí“ a „umělé inteligence". Pátou množinu případů bych nazval „inteligentním prostředím“, „animovanou inteligencí“, „systémy s integrovanou lidskou inteligencí“ nebo „společenskými automatismy složitých lidských systémů“. Jde o to, že člověk svým vlastním rozumem udržuje v chodu např. systémy ekonomické, finanční, technicko-dopravní, technicko-výrobní, technicko-komunikační, technicko-energetické, armádně zbrojní (vojensko-průmyslové komplexy), sociální, politické apod. A tyto systémy mohou automaticky, mimoděčně začít sledovat nelidské zájmy právě proto, že jsou složitými systémy samy o sobě a projevují určitou vlastní vnitřní strukturovanost (a tendenci k ní a k jejímu zkvalitňování), svou vnitřní zákonitost (která není ve všech ohledech člověku zřejmá a jasná), svou vnitřní cílovost a vůbec systémovou autonomii, třebaže prvky těchto systémů do velké míry zatím animuje člověk. Takže ti obáváni "roboti" nás do jisté míry už ovládají, třebaže (tihle) stojí na našich zádech. Autonomní vůle této animované inteligence se projevuje spíš statisticky a frekvenčně než spojitě, proto si ji jen málo uvědomujeme, je však reálná a může mít a má závažné důsledky. Vidíme jednotlivá okénka filmu jejich reality a ještě nám nedošlo, že ta okénka dohromady dávají pohyblivý, živý film o monstrech, která na nás na jedné straně dřou, na jiné útočí.

Někteří lidé si myslí, že doba, kdy se umělá inteligence dokáže sama učit ze svých chyb a plánovat a realizovat nové a nové kroky, kterými by nás mohla jednou ohrozit, je daleko. Ale to je chybná úvaha. Umělá inteligence to totiž dnes již dokáže. Problém je ale dnes zejména v tom, že se "UI" všude učit ani nemusí, protože např. zmíněné inteligentní prostředí udržuje v chodu sám člověk a dotuje ho svým vlastním rozumem, intelektem. A tyto s člověkem integrované rozsáhlé a mocné systémy - např. ekonomický systém - prostě sledují externálně jiné cíle než člověk. Ne, že by o tom nějak zvlášť přemýšlely, je to vedlejší, nežádoucí účinek, externalita. Ovšem externalita, jejíž činy jsou provázanější, organičtější a autonomnější, než jsme byli ochotni si připustit. Tyto na člověka integrované inteligentní systémy (třebaže do značné míry jen přeneseně inteligentní) vlastně představují v jistém úhlu pohledu "mimozemskou" inteligenci, která už mezi námi úřaduje a moc nám nefandí.   

Mezi jevy, u kterých si již mnozí všimli, že nejsou řízeny jen člověkem, že náhody, které je vyvolávají a řídí nejsou mnohdy jen náhodami, je válka. Jak to, že válku můžeme plánovat a řídit (jak si často namlouváme), a mír ne?! Není právě to důkazem, že válku neřídíme skoro vůbec? Proč jsme svědky nevymýtitelnosti ozbrojených konfliktů, když v mnoha případech jsou lidská logika a zdravý rozum proti argumentům těchto válek? Již Lenin si všimnul, že ekonomicko-produkční systém "svobodného" kapitalistického světa má své vnitřní zákonitosti, které tlačí svět k expanzi a válce, často mimo lidské vědomí: "Kapitalistická ekonomika nemůže, vzhledem ke své struktuře, absorbovat svou vlastní produkci, a proto je nucena expandovat: jedinec ani nemá možnost si uvědomit mechanismus, který jej unáší." Ale zdá se, že to nejsou jen jednoduché ekonomické zákonitosti, které vedou k závažným následkům - jsou to zákonitosti vtělené do složitých společenských systémů a jsou to tyto systémy, které je prosazují.

Lawrence LeShan ve své knize Psychologie války přesvědčivě odhaluje psychologické motivy, příčiny a další psychologické aspekty války a dokazuje, že zákonitosti války netkví jen v lidské logice. Je ale jasné, že válku ovlivňují i příčiny na úrovni ekonomické, politické, sociální a že tyto příčiny jsou produkovány složitými systémy, jejichž zájmy a důsledky se často neshodují se zájmy jednotlivých lidí ani celých národů. Tyto systémy mají jednak díky vlastní složité struktuře, ale i díky dalším integrovaným systémům (včetně systémů komunikačních a výpočetních), jako i samým zúčastněným lidem, inteligentní charakter. Takže část nežádoucích externalit můžeme považovat za potenciálně cíleně člověku nepřátelské.

Také fyzický antropolog sir Arthur Keith přišel na to, že jsou to nejen lidské argumenty, které vyvolávají a udržují válku: "Příroda udržuje svůj sad zdravý vyřezáváním a roubováním; válka je její pilka a očkovací hák." V tomto případě jsou ale přírodou lidmi budované systémy. Pravda, zákonitosti v nich působící můžeme vždy nazvat přírodními, ale o nevědomou přírodu již mnohdy nejde. Nakonec - nevytvořila náhodou i lidské vědomí "nevědomá" příroda? A není tak sama příroda šestým typem ne-lidské inteligence?

Ekonomická bytost, jejíž složité tělo tak důsledně ve všech státech udržujeme při životě nám ale způsobuje mnohem víc nežádoucích překvapení a problémů, než jen války - mnohé z nich ve svůj vlastní prospěch, ale na úkor člověka. Kolik schopných podnikatelů jen u nás již vypustilo duši ve snaze obnovit podnikání v této zemi. Nebylo to i proto, že ekonomický stroj sleduje jiné cíle než štěstí, prosperitu a zdraví člověka? 

Zrovna nedávno jsem se bavil s jedním známým valašským informatikem a myslitelem na důchodu - Františkem Mohylou, který rád studuje a rozebírá různé kapitoly dějin a vyjádřil svůj názor na většinu zločinů, ke kterým došlo za Stalina či Hitlera: "K většině spáchaných zločinů oni žádné rozkazy nevydávali, šlo o důsledek automatismů v policejní a armádní byrokracii, o vedlejší důsledek existence složitých ale nedokonalých systémů."

Zdá se, že jsem svým článkem víc otázek vyvolal než zodpověděl, ale věřím, že vědci z Cambridge nám s tím teď píchnou.

Darius Nosreti

Související články


Žádný diskusní příspěvek dosud nebyl vložen.

Darius Nosreti

Darius Nosreti

Píši o všem kromě hitparád populární hudby, nových aut a fotbalu. (Více témat viz u mne na Facebooku.)

Hledač pravdy, obdivovatel přírody, zajatec krásy a vzpružovatel pokleslé demokracie

REPUTACE AUTORA:
0,00

Seznam rubrik

Tipy autora

tento blog
všechny blogy