Utváříme technologie, nebo utvářejí nás?

Jean-Pierre Dupuy: DO WE SHAPE TECHNOLOGIES, OR DO THEY SHAPE US?

Mechanisation of the Mind

Na otázku, kterou klade název této přednášky by mohla přijít stručná odpověď, kterou v polovině 19. století položil Ralph Waldo Emerson:"Stroje, pokud jsou jednou vyrobené, vyrábějí lidi“. Trochu delší odpověď by mohla znít, že technologie lze utvářet jen do té míry, pokud si také uvědomíme, že stroje utvářejí nás.

To mne přivádí k otázce o oprávněnosti samotné otázky. Dva základní postoje vůči technologii zdůrazňují naši schopnost utvářet technologii, ačkoli se ve všech ostatních ohledech velice liší.

Ten technokratický přístup je za prvé racionalistický a rozhodovací. Je typický pro naše technologické elity a je to druh filozofie, obsažený v tom, jak vědci a inženýři o technologii sami uvažují. Z této perspektivy je - pokud jde o hodnoty - technologie cosi neutrálního; je wert-frei, bez-hodnotová. Jde o pouhý prostředek k dosažení nějakého cíle. Podle toho jaké jsou záměry těch, kdo ji vymyslí nebo používají, může podpořit nebo poškodit to, jak prožíváme radost, pohodu, úspěch a podobně. Je to utilitární, instrumentální pojetí technologie, vnímané jako ztělesnění jisté racionality, kterou Max Weber nazval zweckrationalität – tedy racionalita prostředků a cílů. Jak známo, Heidegger toto pojetí radikálně dekonstruoval. "Dokud budeme uvažovat o technologii jako o nástroji," prohlásil Heidegger ve svém slavném článku o podstatě techniky, který byl poprvé zveřejněn v roce 1949, "zůstaneme uvěznění ve vůli k mistrovství." A tato „vůle k mistrovství“ může znamenat jedině naši záhubu.

Druhý přístup, typický pro sociologii technologie, a jednu z variant známou jako „SCOT“, tedy „společenská konstrukce technologie“, zdůrazňuje ideu, že technologii utváříme sami. Jeden z jejích základních textů tvrdí, že „společenské prostředí technologie utváří, stejně jako je tomu naopak“. (1) Je zřejmé, že výraz „my utváříme technologii“ má zde naprosto jiný význam než ten, který najdeme v technokratickém postoji. Teď jde o to pochopit to, jak sociální svět, a ti, kdo mají moc rozhodovat, utváří artefakty. Ať už se artefakt skládá z čehokoli, takové společenské utváření nemá moc společného s racionálním rozhodováním technokrata nebo byrokrata. Ta druhá linie myšlení zdůrazňuje naši schopnost utvářet technologie v reakci na kdysi módní tezi, že technologický determinismus převažuje nad všemi jinými formami kauzality – tézi známou jako „autonomie technologie“. Názor, že technologie je autonomní propagovaly různé myšlenkové směry nebo jednotliví myslitelé, bez ohledu na jejich odlišnosti. Lze zmínit Heideggera, Jacquese Ellula, Ivana Illiche, frankfurtskou školu, od Marcuse přes Adorna, Horkheimera po Habermase, „hlubinnou ekologii“, různé ekologické školy atd. Například podle Jacquese Ellula je technika prostředím, v němž lidé existují, prostředím, které nahradilo přírodu. Je umělé, autonomní, sebeurčující, charakterizované růstem, ale není zaměřeno na cíl. Prostředek zde má přednost před cílem. Jeho části jsou bytostně propojené a vzájemně neoddělitelné. Technika dominuje moderním lidským hodnotám, volbám a nápadům. Naše rozhodování je vždy již součást technologického procesu. Věříme, že se můžeme rozhodovat, zatímco za nás ve skutečnosti rozhoduje Technika.

Naše skupina si od začátku byla vědoma toho, jak nutné je nepřipojovat se k davům, které věří, že technologii je možné analyzovat pouze, nebo hlavně ve vztahu vůči ní samé. Naše skupina si většinou všímala jak sociální struktury utvářejí příležitosti a omezení. V tom ohledu byla pro nás zpráva NSF „Converging Technologies for Human Performance“ záporným vzorem. Americká zpráva je zajímavá kombinace technologického determinismu a technokratického procesu rozhodování. Technologie je zde považována za prostředek pro dosažení cíle; ten přístup je čistě utilitární a instrumentální. Hlavním motorem pro technologii je její účel. To je považováno za nevyhnutelné, téměř něco jako osud, ale osud, kdy je jen na nás, zda si ho vybereme, nebo jej odmítneme. Věda a technika se vyvíjí autonomně, je to pokrok, který naše rozhodnutí a úsilí může zpomalit nebo urychlit. Výhledy jsou nádherné například můžeme „dosáhnout věku inovací a prosperity, který bude bodem zlomu ve vývoji lidské společnosti“. Díky konvergenci NBIC by „21. století mělo probíhat ve světovém míru, všeobecné prosperitě a vývoji k vyššímu stupni soucitu a úspěchu“. Co k utilitárnímu rámci patří, je rozhodná individualistická angažovanost: „ V centru předpokládaného vývoje je právo každého jednotlivce používat nové znalosti a technologie pro dosažení osobních cílů, stejně jako právo na soukromí a svobodu volby."

Taková socioekonomická analýza prozrazuje rysy nebývalé ubohosti. Nevidíme zde žádnou sociální dynamiku ani síly, jen individuální chování, například rušivé chování, teroristické činy atd, které nicméně lze předvídat a v případně korigovat. Jediným hnacím motorem je dostatečný přísun dolarů. Úlohou vlády je pak nastavit vhodné podmínky pro zdárný rozkvět soukromých iniciativ a zároveň zajistit, aby veřejnost tyto změny akceptovala.

Hlavní překážkou rozvoje je etika, tedy naše současná konzervativní, přehnaně opatrná etika. Zpráva předpokládá možnost radikální změny etiky, podobnou proměně civilizace, díky níž se novým principům přizpůsobí jevy jako "přijetí mozkových implantátů, role robotů v lidské společnosti a nejednoznačnost smrti“.

Jedním z hlavních cílů naší zprávy bylo naproti tomu navrhnout "Evropské pojetí konvergujících technologií“ – tzv. CTKES: Converging Technologies for the European Knowledge Society. Tento výraz jasně ukazuje, že naše práce byla zčásti ovlivněna sociologií technologie. V závěrečné zprávě se objevují další vlivy, spíše filozofické než sociologické, a jako filozof bych je chtěl zdůraznit.

Kladení otázky „zda utváříme technologie nebo ony formují nás?" předpokládá, že existují dvě odlišné entity, které mohou být propojeny kauzálním vztahem: na jedné straně technologie, na straně druhé my, přičemž ono „my“ odkazuje buď na nás, jako individuální lidské bytosti, nebo na nás jako společnost. Ten předpoklad je ale rozhodně třeba zpochybnit. Tvrdím, že technologie na jedné straně a lidský a sociální svět na straně druhé, jsou utvářeny společným souborem faktorů, takže je čím dál nesmyslnější se ptát, jestli je to technologie, nebo my, kdo je zde aktivnější kauzální silou. Nejsilnější faktor je třetí strana. Co je to? Zde se postavím proudu materialismu, ovládající konvergenci technologií. To, co vnímám jako hlavní hnací sílu je soubor myšlenek, světonázorů, odpovídajících tomu, co nazval Karl Popper „metafyzický výzkumný program“. Pozitivistická filozofie, ovládájící velkou část moderní vědy (a velkou část současné filozofie) považuje sice „metafyziku“ za nesmyslné hledání odpovědí na nezodpověditelné otázky, ale Popper, sledující zde myšlenky Emila Meyersona (1), dokázal, že žádný vědecký (resp. v našem smyslu "technologický") výzkumný program, který by nebyl podstaven na souboru všeobecných předpokladů o struktuře světa neexistuje. Takové metafyzické názory nelze samozřejmě empiricky dokázat a nelze je tedy ani označovat jako „falzifikaci“. To ovšem neznamená, že nejsou inspirativní, ani podstatné a že ve vědeckém pokroku nehrají zásadní roli. Kdo popírá metafyziku, činí ji neviditelnou a je velmi pravděpodobné, že jeho skrytá metafyzika může být chybná nebo nekonzistentní. Karl Popper k úžasu všech, kteří jej považovali za pozitivistu tvrdil, že úkolem filozofa nebo historika vědy jdou dvě věci: jednak odhalit a zviditelnit metafyzické myšlenky, spočívající v podloží vědeckých programů, protože pak je můžeme podrobit kritice; za druhé, přistupovat ke kritickému zkoumání těchto metafyzických teorií jinak, než je tomu u kritiky vědeckých teorií, protože zde neplatí empirické posuzování, i když je ta kritika racionální.

Takže otázka, kterou jsem si položil zní takto: co je metafyzický výzkumný program, který takzvané konvergující technologie řídí? Tomuto programu říkám „mechanizace mysli“ (1) a následuje několik myšlenek, která se tohoto tématu týkají.

Metafyzický výzkumný program

Šipky představují příčinné souvislosti. Všimněte si, že diagram do jisté míry odpovídá částečnému sebeurčení technologie (stejně jako částečné uzavřenosti lidského a společenského světa). Také odpovídá Emersonovu výroku "stroje, jednou vyrobené, dělají lidi“, tedy kruhovou kauzalitu mezi technologií a společností. Nejdůležitější odkazy jsou však ty, které vycházejí ze schránky Metafyzika.

Aby zde nedošlo k nedorozumění. To, čemu říkám "mechanizace mysli“, je soubor myšlenek, reprezentací a světonázorů; je to cosi velice rozdílného od toho, co naše zpráva nazývá inženýrství mysli, což je technika. Předpokladem je že ideje předcházejí technice. Možná jste si v naší zprávě všimli zdánlivě nevinného výroku, "mocná heuristika komunikačních technologií se ukáže jako produktivní, i pokud je, nebo by mohla být realizována pouze v malé míře.[viz:Sekce 5.]“ Účinky, které nás zajímaly, jsou nejen účinky technologie jako takové, ale také účinky idejí, pohánějících technologii, ať už technologické realizace nakonec spatří světlo světa či nikoli.

Ve své vlastní práci jsem se pokusil ukázat, jak předcházela a podmínila mechanizace mysli vynález počítače, což samo o sobě vyvolalo otázky týkající antropomorfizace stroje typu „může stroj myslet?“. Na podobnou otázku zastánci mechanizace mysli mohli odpovědět jen kladně, protože již předem definovali činnost myšlení jako jistou vlastnost, typickou pro určitou třídu strojů.

Co je součástí metafyzického programu, který vznikl z komunikačních technologií? Cílem konvergujících technologií je to, aby od přírody a života převzaly iniciativu a staly se inženýrem evoluce. Dosavadní evoluce v podstatě spočívala v pouhém „bastlení“. Může uvíznout ve slepých uličkách nebo se dostat do koncových stavů. Je proto třeba, aby roli evoluce převzal člověk a aby se stal konstruktérem biologických a přírodních procesů. Člověk tak může participovat na vytváření života..

Pokud by taková technologická a filozofická agenda byla vůbec myslitelná, je to samozřejmě proto, že byly Příroda a Život napřed redefinovány pomocí pojmů, patřících do říše artefaktu. Podívejme se, jak Damien Broderick - tedy jeden z nejhalasnějších šampionů NBIC přepisuje dějiny života, nebo, jak sám říká "živých replikátorů“:

"Po miliardy let se genetické algoritmy v planetárním množství hemžily na povrchu Země, v moři, a jak nyní víme, také hluboko uvnitř, replikovaly se, mutovaly a ovlivnil je úspěch jejich výrazů – tedy těl, které vyrobily v soutěži o svoje přežití v makrosvětě. Nakonec se celá živá ekologie planety akumulovala a představuje obrovské množství komprimovaných, schematických informací.4 Jakmile je život jednou takto transformován do artefaktu, je dalším krokem položit otázku, zda by to lidská mysl nemohla provést lépe. Stejný autor se rétoricky ptá: „Je pravděpodobné, že nanosystémy navržené lidskou myslí "se všemu tomu darwinovskému bloudění mohou vyhnout a rovnou přikročí k designu úspěchu?“ 5

"Naturalizace mysli“ jak to kognitivní vědy samy nazvaly, byla od okamžiku jejího vzniku v rámci kybernetiky po současnost, její filozofická agenda. I když se jedná o obrovský paradox, není překvapením, že naturalizace mysli se setkává s artificializací nebo s mechanizací mysli. Podnikání s cílem naturalizovat mysl, je vedeno disciplínou, která si říká umělá inteligence. Je jisté, že kýžený proces naturalizace se uskutečňuje pomocí mechanizace. Není to v rozporu s představou světa, který zachází s přírodou jako s gigantickým komputačním aparátem. Není překvapení, že člověk je v takovém světě jen dalším strojem. Ale ve jménu čeho nebo koho takový "arteficializovaný“ člověk bude uplatňovat moc nad sebou samým? Ve jménu velmi slepého mechanismu, s nimž se identifikuje? Ve jménu významu, o němž tvrdí, že je to pouhé zdání nebo fenomen? Jeho vůle a schopnost volby je na kraji propasti. Snaha mysl navrátit do světa přírody, kde vznikla, končí tím, že mysl je vyhnána jak ze světa tak z přírody. Ten paradox je příznačný pro jen, který sociolog Louis Dumont ve velkolepé knize o genezi moderního individualismu, označil za „obecný model moderního artificialismu, za systematickou aplikací vnější, vnucené hodnoty věcem světa. Nejde o hodnotu, která by vyrůstala z naší propojenosti se světem, z harmonie a z našeho souladu se světem, ale o hodnotu, vyrůstající z naší heterogenitě vůči světu: ze ztotožnění naší vůle s vůlí Boží (Descartes: člověk se stává pánem a vlastníkem přírody). Tak použitá vůle vůči světu, hledaný cíl, motiv a hluboký impuls vůle jsou [všechny] cizí. Jinými slovy, jsou mimo tento svět. Mimo-světnost je koncentrována v individuální vůli."6

v průběhu mechanizace mysli, pokud s myslí zacházíme jako s artefaktem, mysl předpokládá, že nad tímto artefaktem bude uplatňovat moc v takové míře, o jaké se dosud žádné psychologii, která same sebe považuje za vědeckou, ani nesnilo, že by jí mohla dosáhnout. Mysl nyní může doufat, že s touto mechanizovanou verzí sebe sama nejen manipuluje podle libosti, ale dokonce ji reprodukuje a vyrábí v souladu s vlastními přáními a záměry. Podle toho současné i budoucí technologie mysli otevírají obrovský prostor, na který člověk musí chce-li jim dát smysl a účel aplikovat vlastní normy. Lidský subjekt se proto bude muset uchýlit k dodatečnému nadání vůle a svědomí, aby mohl určit, ne co může dělat, ale co by měl dělat – nebo spíš co by dělat neměl. Konvergující technologie budou vyžadovat vznik celé etiky. Ale mluvit o etice, svědomí, vůli – neznamená to také mluvit o triumfujícím subjektu?

Naše situace je tedy zároveň paradoxní i rozporuplná. Je paradoxní, protože artificializace přírody vede k vítězství subjektivity, neboť lidstvo na sebe bere odpovědnost za všechno. Protichůdné, protože naturalizace člověka autonomní subjekt nahrazuje slepým algoritmem.

Součást symetrických procesů naturalizace lidstva a artificializace přírody není jen transformace našeho obrazu světa 7. Věda i filozofie opravdu ještě nedávno člověka popisovaly jako bytost, která není naprosto součást přirozeného řádu. Tak jak byla vnímána lidská mysl, buď z důvodu, že obsahuje božskou jiskru, nebo proto že ve své podstatě je historická, alespoň částečně unikla soudní pravomoci přírodovědy. Také se mělo za to, že to, co je umělé, je jasně oddělení od přirozeného. I když o technologii se uvažovalo tak, že je založena na přírodních zákonech, držících svět pohromadě, všichni se shodli, že se lidské výrobky nevyrovnají vynálezům přírody. Obraz našeho světa se změnil; tak nikdo už neuvažuje. Změnil se nejen způsob, kterým reprezentujeme to, co je. Samotný svět, který reprezentujeme, se proměnil.

Pokud se svět změnil, není to pouze proto, že naše reprezentace světa je součástí světa, a pokud se změnila, musel se změnit i samotný svět. Ještě důležitější je, že moderní věda není ani tak reprezentací světa, jako spíš akcí, aktem stvoření. Vico, Hobbes a Locke, všichni věřili, že politika a matematika poskytují větší jistotu a jsou přísnějšími vědami, než je fyzika nebo dějiny přírody. Důvod, proč to tak je, podle nich spočívá v tom, že se lidé stali světem politiky a matematiky, zatímco přírodu stvořil Bůh. Proto můžeme do hloubky porozumět politice a matematice, naprosto transparentně, tak jak řemeslník rozumí tajemství svých vynálezů. Na druhou stranu příroda pro nás zůstane navždycky neprůhledná. Jsme schopni popsat její chování a navrhnout hypotézy, který by vysvětlily, co vidíme, ale nebudeme nikdy sdílet znalost Velkého Umělce, který stvořil okolní svět.

Toto všechno experimentální věda změnila. Napřed díky experimentu a později díky technologii jsme se stali tvůrci světa, světa který jsme studovali. Příroda do naší vědy vstoupila úzkými vrátky propracovaných příprav a produkcí jevů, které přirozeně nikdy neexistovaly, alespoň pokud by znamenalo přirozeně existovat existovat bez lidského zásahu. Nakonec nemá smysl se ptát, zda naše výtvory jsou přirozené nebo nejsou. Příroda – nyní považovaná za objekt, který popisují vědy, se neliší od věcí, které tvoříme a které vyrábíme. Nejde o cosi, co je někde tam venku, co existuje samo o sobě. Poslední důvod, proč se stala příroda arteficiální není to, co nám naše věda říká o světě, ale to, že přírodním jevům rozumíme tak, že je vytváříme. horizontem této scienza nuova, této nové vědy, tohoto nového způsobu přístupu k přírodě, jehož příchod Giambattista Vico prorokoval začátem 18. století jsou konvergentní technologie.

Podobný argument platí také pro nás. Naturalizace lidstva nespočívá jen v tom, že kulturu nebo dějiny považujeme spíš za přírodní procesy, ale v tom, čím se od přírody odlišujeme. Nejde jen o to, že máme nové vědecké nástorje, jako je kognitivní věda, které slibují, že porozumíme myšlení, lidským činům nebo náboženství v souvislostech přírodních věd. Nové obory se pokoušejí starý obraz o nás, který jsme zdědili od humanitních věd, nahradit obrazem novým, definujícím člověka jako cosi přírodního a pouze přirozeného. Ale proces naturalizace člověka neznamená ani tak proměněný obraz lidstva a jeho postavení ke světu přírody. Naturalizace lidstva znamená zejména mechanizaci, "artificializaci“ nás samých. Tak jak jsou naše životní prostředí, naše těla a naše mysl v rostoucí míře výsledkem lidských vědeckých procesů: od Prozacu po kardiostimulátory, od kožních štěpů po genetické kodování, od průmyslově vyráběného inzulínu po umělé oplodnění, od mozkových implantátů pro stimulaci nepravděpodobného centra štěstí a rozšíření našich kognitivních kapacit, jsme zároveň nečím přírodním tak něčím uměle vytvořeným. Jsme nečím přirozeným jen do té míry, že se můžeme stát umělým předmětem, artefaktem, vědeckým produktem, že podle zákonů přírody můžeme být sami transformováni, vylepšováni, spaseni, exploatováni.

Na závěr bych rád uvedl dávnou moudrost, která je - jak se mi zdá - aktuální vic, než kdy předtím: "Na co by člověku bylo, kdyby získal pro sebe celý svět a přitom ztratil svou duši?“ (Nebo co prospěje člověku, by všecken svět získal, a své duši škodu učinil? Bible, Marek 8:36).

_{Poznámky pod čarou:}

<sub>1. Robin Williams and David Edge: "The social shaping of technology", Research Policy, 25, 1996, 865-99, p. 875.
2. L'homme fait de la métaphysique comme il respire, sans le vouloir et surtout sans s'en douter la plupart du temps." in: E. Meyerson, De l'explication dans les sciences (Paris, 1927).
3. viz: Jean-Pierre Dupuy, The Mechanization of the Mind, Princeton University Press, 2000.
4. Damien Broderick, The Spike, Forge, New York, 2001, p. 116.
5. Ibid., p. 118.
6. Louis Dumont, Essais sur l'individualisme, Seuil, Paris, 1983.
7. Co zde následuje jsem převzal z textu, který vznikl ve spolupráci s Paulem Dumouchelem "Nature and Mimetic Theory" - který byl přednesen na COV&R Symposium, "Nature, Human Nature, and the Mimetic Theory", Ghost Ranch, Abiquiu, New Mexico, USA, 2-5 června 2004.</sub>

Jean Pierre Dupuy

bio:Jean-Pierre Dupuy je filosof a profesor sociální a politické filozofie na École Polytechnique v Paříži. Ředitel výzkumu v C.N.R.S. a ředitel C.R.E.A. (Centre de Recherche en Épistémologie Appliquée), filozofické výzkumné skupiny na École Polytechnique, kterou založil v roce 1982. Na Stanfordské univerzitě působí jako výzkumník na Study of Language and Information (CSLI). Jeho známá kniha Mechanizace mysli vysvětluje historické a společenské okolnosti jak kybernetika vytvořila základy pro kognitivní vědu, ale také pro výzkum umělé inteligence a předznamenala rozvoj teorie chaosu, teorie komplexity a dalších vědeckých a filozofických průlomových proudů druhé poloviny 20. století.

Přeloženo z anglického textu:"DO WE SHAPE TECHNOLOGIES, OR DO THEY SHAPE US". dostupného na Dupuy-Do-we-Shape-Technologies.pdf

odkazy:

| lecture: On the Eternal Silence of These Infinite Spaces

Ross Ashby: Principle of Self Organizing Systems.pdf

BEYOND MEDIA TEXTS 2