Utváříme technologie, nebo utvářejí nás?
Jean-Pierre Dupuy: DO WE SHAPE TECHNOLOGIES, OR DO THEY SHAPE US?
Na otázku, kterou klade název této přednášky by mohla přijít stručná odpověď, kterou v polovině 19. století položil Ralph Waldo Emerson:"Stroje, pokud jsou jednou vyrobené, vyrábějí lidi“. Trochu delší odpověď by mohla znít, že technologie lze utvářet jen do té míry, pokud si také uvědomíme, že stroje utvářejí nás.
To mne přivádí k otázce o oprávněnosti samotné otázky. Dva základní postoje vůči technologii ačkoli se ve všech ostatních ohledech velice liší, zdůrazňují, že jsme schopni utvářet technologii.
Takový technokratický přístup je za prvé racionalistický a rozhodovací. Je jednak typický pro naše technologické elity a jde také o druh filozofie, v jejímž rámci o technologii uvažují často sami vědci a inženýři. Z této perspektivy je - co se týká hodnot - technologie považována za něco neutrálního; je "wert-frei", bez-hodnotová. Je to pouze prostředek k dosažení určitého cíle. V intencích těch, kdo ji vymysleli nebo jí používali může podpořit nebo poškodit to, jak prožíváme radost, pohodu, úspěch a podobně. Jde o utilitární, instrumentální pojetí technologie, o ztělesnění jisté racionality, kterou nazval Max Weber zweckrationalität – tedy racionalitou prostředků a cílů. Jak známo, tento koncept radikálně dekonstruoval Martin Heidegger. "Dokud budeme o technologii uvažovat jako o nástroji", tvrdil ve svém slavném článku o podstatě techniky, zveřejněném v roce 1949, "zůstaneme uvěznění ve vůli k mistrovství." A taková "vůle k mistrovství“ může znamenat jedině naši záhubu.
Druhý přístup, typický pro sociologii technologie a pro jednu z variant, nazývanou "SCOT“, tedy "Společenská konstrukce technologie“ - vychází z přesvědčení, že jsme to naopak my, kdo určuje povahu technologie. Jeden ze základních textů tvrdí, že "společenské prostředí technologie utváří, stejně jako je tomu naopak“.(1) Je zřejmé, že výraz "jsme to my, kdo utváří technologii“ zde má naprosto jiný význam než byl ten, který jsme viděli u postoje technokratického. Teď jde o to pochopit, jak sociální svět a ti, kdo mají moc rozhodovat utváří artefakty. Ať už se takový artefakt skládá z čehokoli, takové společenské utváření nemá moc nic společného s racionálním rozhodováním technokrata nebo byrokrata. Ta druhá linie myšlení, v reakci na kdysi módní tezi, že technologický determinismus převažuje nad jakoukoliv jinou formou kauzality – tézi známou jako "autonomie technologie“ klade důraz na naši schopnost povahu technologií určovat. Názor, že technologie je něco autonomního razily nejrůznější myšlenkové směry a jednotliví myslitelé, bez ohledu na jejich rozdíly. Lze uvést například Heideggera, Jacquese Ellula, Ivana Illiche, Frankfurtskou školu, Herberta Marcuse přes Adorna, Horkheimera po Habermase, "hlubinnou ekologii“, různé ekologické školy, atd. Například Jacques Ellul tvrdí, je technika se stala prostředím, v němž lidé existují, novým prostředím, které přírodu nahradilo. Jde o prostředí umělé, autonomní, sebeurčující, charakterizované růstem, ale není zaměřeno na nějaký cíl. Prostředek má prvenství před cílem. Jeho součásti jsou bytostně propojené a vzájemně je nelze oddělovat. Moderním lidským hodnotám, volbám a nápadům technika dominuje. Naše soudy a rozhodování jsou vždy součástí technologického procesu. Myslíme si, že máme možnost se svobodně rozhodovat, ale ve skutečnosti to co rozhoduje za nás je právěTechnika.
Naše skupina si od počátku uvědomovala, jak důležité je nepřipojovat se k proudům, které věří, že technologii je možné analyzovat pouze, nebo hlavně ve vztahu k ní samé. Naše skupina si většinou všímala toho, jak sociální struktury utvářejí příležitosti a omezení. V tom ohledu pro nás byla zpráva National Science Foundation "Converging Technologies for Human Performance“ odstrašujícím příkladem. Americká zpráva je zajímavá kombinace technologického determinismu a technokratického rozhodování. Technologie je zde prostředek pro dosažení cíle; ten přístup je čistě utilitární a instrumentální. Hlavním motorem pro technologii je její účel. To se pokládá jako nevyhnutelné, je to skoro něco jako osud a je pouze na naší volbě, jestli si ho vybereme, nebo jej odmítneme. Věda a technika se vyvíjejí autonomně a je to pokrok, co naše rozhodnutí a úsilí může zpomalit nebo urychlit. Perspektivy jsou zářné: například "dosáhneme věku inovací a prosperity, který se stane bodem zlomu vývoje lidské společnosti“. Díky konvergenci NBIC by "21. století mělo probíhat ve znamení světového míru, všeobecné prosperity a vývoje k vyšší míře soucitu a úspěchu“. Co do toho utilitárního rámce logicky patří, je rozhodná angažovanost jednotlivce:"V centru předpokládaného vývoje je právo každého jednotlivce používat nové znalosti a technologie pro dosažení osobních cílů, stejně jako jeho práva na soukromí a svobodu volby."
Taková socioekonomická analýza nese rysy nezvyklé ubohosti. Není zde žádná sociální dynamika, ani síla, jen chování jedince, například rušivé chování, teroristické činy atd, které lze nicméně předvídat a případně korigovat. Jediným hnacím motorem je dostatečný přísun dolarů. Úloha vlády spočívá v nastavení vhodných podmínek pro zdárný rozkvět soukromých iniciativ a zároveň musí zařídit, aby veřejnost tyto změny akceptovala.
Hlavní překážkou takového rozvoje je etika, tedy naše současná, konzervativní, přehnaně opatrná etika. Zpráva předvídá možnost radikální změny etiky, proměny civilizace, díky níž se novým principům přizpůsobí jevy jako "přijetí mozkových implantátů, role robotů v lidské společnosti a nejednoznačnost smrti“.
Naproti tomu jedním z hlavních cílů naší zprávy byl návrh "Evropského pojetí konvergujících technologií“ – tzv. CTKES: Converging Technologies for the European Knowledge Society''. Tento název jasně naznačuje, že naše práce byla částečně ovlivněna sociologií technologie. V závěrečné zprávě se projevují další vlivy, které jsou spíš filozofické než sociologické povahy, a jako filozof bych je zde chtěl zdůraznit.
Kladení otázky "zda my utváříme technologie nebo ony formují nás?" vychází z předpokladu, že existuje cosi jako dvě odlišné entity, které mohou být kauzálním vztahem propojeny: na jedné straně je technologie, na straně druhé jsme my, přičemž ono "my“ může odkazovat buď na nás, jako na jednotlivé lidské bytosti, nebo na "nás" jako "společnost". Takovou premisu ale rozhodně meusíme zpochybnit. Tvrdím, že technologie na jedné straně a lidský a sociální svět na straně druhé ovlivňuje společný soubor faktorů, takže je čím dál nesmyslnější klást otázky, jestli je to technologie, nebo my, kdo zde hraje aktivnější kauzální roli. Nejsilnější faktor je třetí strana. Co to je? Zde se stavím na odpor proudu materialismu, ovládajícího konvergenci technologií(4a). To, co zde vnímám jako hlavní hnací sílu je soubor myšlenek, světonázorů, odpovídajících tomu, co nazval Karl Popper "metafyzický výzkumný program“. Pozitivistická filozofie, ovládájící velkou část moderní vědy (a také velkou část současné filozofie) sice považuje "metafyziku“ za nesmyslné hledání odpovědí na nezodpověditelné otázky, ale Popper, navazující zde na myšlenky Emila Meyersona (1), dokázal, že žádný vědecký (resp. v našem smyslu "technologický") výzkumný program, který by nespočíval na systému všeobecných předpokladů o povaze struktury světa, neexistuje. Podobné metafyzické názory samozřejmě nelze empiricky dokázat a nelze je tedy ani označit jako "falzifikaci“. To ovšem neznamená, že by nebyly inspirativní, ani důležité a že nehrají v otázkách vědeckého pokroku zásadní roli. Ten kdo metafyziku popírá, činí ji neviditelnou a je dost pravděpodobné, že jeho vlastní skrytá metafyzika může být chybná nebo nekonzistentní. Karl Popper - k překvapení všech, kteří ho pokládali za pozitivistu - tvrdil, že úkol filozofa nebo historika vědy spočívá ve dvou bodech: zaprve odhalit a zviditelnit skryté metafyzické myšlenky, uložené v podloží vědeckých programů, protože pak je možné je podrobit kritice; za druhé přistupovat ke kritickému zkoumání těchto metafyzických teorií jinak, než je tomu u kritiky vědeckých teorií, protože i když je ta kritika racionální, neplatí zde empirické posuzování.
Takže otázka, kterou jsem si položil zní takto: jaká je "metafyzika" výzkumného programu, který řídí takzvané konvergující technologie? Takovému programu říkám „"mechanizace mysli“ (3) a následuje několik myšlenek, která se tohoto tématu týkají.
Metafyzický výzkumný program
Šipky představují příčinné souvislosti. Všimněte si, že diagram do jisté míry odpovídá částečnému sebeurčení technologie (stejně jako částečné uzavřenosti lidského a společenského světa). Také odpovídá Emersonovu výroku "stroje, jednou vyrobené, dělají lidi“, tedy kruhovou kauzalitu mezi technologií a společností. Nejdůležitější odkazy jsou však ty, které vycházejí ze schránky Metafyzika.
Aby nedošlo k nedorozumění. To, čemu říkám "mechanizace mysli“ je soubor myšlenek, reprezentací a světonázorů; je to cosi jiného než co naše zpráva nazývá "inženýrství mysli, což je technika. Premisa zní, že ideje předcházejí technice. Možná jste si v naší zprávě všimli zdánlivě nevinného výroku "mocná heuristika komunikačních technologií se ukáže jako produktivní, i když je - nebo by mohla být - uskutečněna jen v malé míře.[viz:Sekce 5.]“ Funkce, které nás zajímaly, jsou nejen funkce technologie jako takové, ale také funkce idejí, které pohánějí technologii, ať už nakonec technologické realizace spatří světlo světa či nikoli.
Ve své vlastní práci jsem se pokusil ukázat, jak mechanizace mysli předcházela a podmínila vynález počítače, což samo o sobě klade otázky po antropomorfizaci stroje typu "může stroj myslet?“. Na podobnou otázku zastánci mechanizace mysli museli odpovědět jedině kladně, protože si už předem definovali činnost myšlení, jako jistou vlastnost, která je typická pro určitou třídu strojů.
Jaké jsou součásti metafyzického programu, který se vyvinul z komunikačních technologií? Cílem konvergentních technologií je převzít od přírody a života iniciativu a stát se inženýrem evoluce. Dosavadní evoluce v podstatě spočívala v pouhém „"bastlení“. Může totiž uvíznout ve slepých uličkách a dostat do koncových stavů. Je proto třeba, aby roli evoluce převzal člověk a stal se sám konstruktérem biologických a přírodních procesů. Člověk tak může participovat na vytváření života.
Pokud by taková technologická a filozofická agenda byla vůbec myslitelná, je to samozřejmě proto, že Příroda a Život byly předem redefinovány pojmy, patřícími do říše artefaktu. Podívejme se jak Damien Broderick - tedy jeden z nejhalasnějších šampionů NBIC - dějiny života, nebo, jak sám říká "živých replikátorů“ přepisuje:
"Po miliardy let se genetické algoritmy v planetárním množství hemžily na povrchu Země, v moři, a jak nyní víme, také hluboko uvnitř. Replikovaly se, mutovaly a ovlivnil je úspěch jejich tedy těl, které vznikly jako soupeření o přežití v makrosvětě. Nakonec se celá živá ekologie planety akumulovala a představuje obrovské množství komprimovaných, schematických informací". Jakmile je jednou život transformován do artefaktu, další krok spočívá v tom položit si otázku, zda by to lidská mysl neprovedla lépe. Autor se rétoricky ptá: "Je pravděpodobné, že nanosystémy navržené lidskou myslí by se všemu tomu darwinovskému bloudění mohly vyhnout a rovnou přikročit k tomu, jak navrhnout úspěch?“(5)
"Naturalizace mysli“ jak to kognitivní vědy samy nazvaly, byla od okamžiku jejího vzniku v rámci kybernetiky po současnost, její filozofická agenda. I když je to obrovský paradox, není žádným překvapením, že naturalizace mysli se propojuje s artificializací nebo s mechanizací mysli. Podnikání s cílem naturalizovat mysl, uskutečňuje obor, který si říká AI umělá inteligence. Je jisté, že kýžený proces naturalizace probíhá díky mechanizaci. To je v souladu s představou světa, který s přírodou zachází jako s gigantickým komputačním aparátem. Není také překvapení, že člověk je uvnitř takového světa jen dalším strojem. Ale ve jménu čeho, nebo koho bude takový "arteficializovaný“ člověk uplatňovat moc nad sebou samým? Ve jménu slepého mechanismu, s nimž se identifikuje? Ve jménu smyslu, o němž tvrdí, že je to pouhé zdání nebo fenomén? Jeho vůle a schopnost rozhodování jsou na okraji propasti. Touha navrátit mysl do světa přírody, kde vznikla, končí tím, že mysl je vyhnána ze světa i z přírody. Ten paradox je příznačný pro jev, který ve velkolepé knize o genezi moderního individualismu, sociolog Louis Dumont označil jako obecný model moderního artificialismu, jako systematické aplikování vnější, vnucené hodnoty na věci světa. Není to hodnota, vyrůstající z naší propojenosti se světem, z harmonie a našeho souladu se světem, ale o hodnotu, vyrůstající z naší cizosti, heterogenity vůči světu: ztotožnění naší vůle s vůlí Boží (Descartes: člověk se stává pánem a vlastníkem přírody). Tak je použita vůle vůči světu, hledaný cíl, motiv a hluboký impuls vůle jsou [všechny] cizí. Jinými slovy, jsou mimo tento svět. Mimo-světnost je koncentrována v individuální vůli." (6)
V průběhu mechanizace mysli, jestliže zacházíme s myslí jako s věcí, předpokládá mysl, že nad touto věcí bude uplatňovat moc v takovém rozsahu, v jakém se psychologie, která se považuje za vědeckou, dosud nesnilo, že by jí mohla dosáhnout. Mysl může doufat, že s touto mechanizovanou verzí sebe sama může podle libosti nejen manipulovat, ale dokonce ji může reprodukovat a vyrábět podle vlastních přání a záměrů. Takže současné i budoucí technologie mysli otevírají před sebou obrovský prostor, na který - chce-li jim dát smysl a účel - člověk musí použít vlastní normy. Lidský subjekt se tak musí uchýlit k dodatečnému nadání vůle a svědomí, aby určil, nikoliv co může dělat, ale co by měl dělat – nebo spíš co by dělat neměl. Konvergentní technologie předpokládají vytvoření celé etiky. Ale mluvit zde o etice, o svědomí, nebo vůli – neznamená to také mluvit o triumfujícím subjektu?
Naše situace je tedy zároveň paradoxní i rozporuplná. Je paradoxní, protože artificializace přírody vede k vítězství subjektivity, potože na sebe lidstvo bere zodpovědnost za všechno. Je rozporuplná, protože naturalizace člověka nahrazuje autonomní subjekt slepým algoritmem.
Součástí symetrických procesů naturalizace lidstva a artificializace přírody není jen transformace našeho obrazu světa (7). Věda i filozofie skutečně ještě nedávno popisovaly člověka jako bytost, která není zcela součástí přirozeného řádu. Vnímání lidské mysli, buď protože obsahuje božskou jiskru, nebo proto že je ve své podstatě historická, alespoň částečně uniklo soudní pravomoci přírodovědy. Vládl také názor, že co je umělé, je jasně oddělené od přirozeného. I když se o technologii uvažovalo jako o něčem, co je založeno na přírodních zákonech, které drží svět pohromadě, panovala shoda, že lidské artefakty se vynálezům přírody nemohou rovnat. Tento obraz našeho světa se proměnil; nikdo takto už neuvažuje. Změnil se nejen způsob, jak reprezentujeme co existuje. Také samotný svět, který reprezentujeme se proměnil.
Pokud se svět změnil, není to jen z důvodu, že naše reprezentace světa se staka součástí světa, a pokud se změnila, musel se tím změnit i samotný svět. Ještě důležitější je, že moderní věda není ani tak reprezentace světa, jako spíš akce, akt stvoření. Vico, Hobbes a Locke, ti všichni věřili, že politika a matematika nabízí větší jistotu a je přísnější vědou, než fyzika nebo dějiny přírody. Podle nich je to zapříčiněno tím, že lidé se stali světem politiky a matematiky, zatímco přírodu stvořil Bůh. Proto můžeme naprosto transparentně do hloubky porozumět politice a matematice, tak jak řemeslník rozumí tajemství svých vynálezů. Na druhou stranu zůstane příroda pro nás navždycky neprůhledná. Dokážeme popsat její chování a navrhnout hypotézy, který mohou vysvětlit to, co vidíme, ale nikdy nebudeme schopni sdílet vědomosti Velkého Umělce, který okolní svět stvořil.
Toto všechno experimentální věda změnila. Napřed experimentem a později díky technologii jsme se stali sami tvůrcem světa, světa který jsme studovali. Příroda do naší vědy vstoupila úzkými vrátky propracovaných příprav a produkcí jevů, které by přirozeně nikdy nevznikly, alespoň pokud znamená vnikat přirozeně existovat bez lidského zásahu. Nakonec nedává smysl ptát se, jestli jsou naše výtvory přirozené nebo nejsou. Příroda – nyní považovaná za objekt, který jsou vědy schopny popsat - se neliší od věcí, které tvoříme a které vyrábíme. Nejde o něco, co je kdesi tam venku, co by existovalo samo o sobě. Poslední důvod, proč se příroda stala arteficiální není to, co naše věda říká o světě, ale to, že přírodním jevům rozumíme tím, že je vytváříme. Horizontem této scienza nuova, této nové vědy, tohoto nového způsobu přístupu k přírodě, jehož příchod Giambattista Vico prorokoval již na začátku 18. století jsou konvergentní technologie.
Podobný argument platí také pro nás. Naturalizace lidstva nespočívá jen v tom, že bychom kulturu nebo dějiny považovali spíš za přírodní proces, ale v tom, čím se od přírody odlišujeme. Nezáleží na tom, že máme nové vědecké nástroje, jako je kognitivní věda, které nám slibují, že porozumíme myšlení, lidským činům nebo náboženství v relaci přírodovědy. Nové obory se pokoušejí nahradit starý obraz o nás, zděděný z tradice humanitních věd, nahradit obrazem novým, který definuje člověka jako cosi přírodního a pouze přirozeného. Ale proces naturalizace člověka neznamená ani tak proměnu obrazu lidstva a proměnu jeho postavení vůči světu přírody. Naturalizace lidstva znamená hlavně mechanizaci, "artificializaci“ nás samých. Tak jak naše životní prostředí, naše těla a naše mysl jsou v rostoucí míře výsledkem lidských vědeckých procesů: od Prozacu po kardiostimulátory, od kožních štěpů po genetické kodování, od průmyslově vyráběného inzulínu po umělé oplodnění, od mozkových implantátů pro stimulaci nepravděpodobného centra štěstí a rozšíření našich kognitivních kapacit, jsme zároveň nečím přírodním, tak něčím uměle vytvořeným. Jsme přirozenými jen do té míry, že se můžeme stát umělým předmětem, artefaktem, vědeckým produktem, že podle zákonů přírody můžeme být sami transformováni, vylepšováni, spaseni, exploatováni.
Na závěr bych zde rád uvedl dávnou moudrost, která je dnes - alespoň se mi tak zdá - víc aktuální, než kdy předtím: "Na co by člověku bylo, kdyby získal pro sebe celý svět a přitom ztratil svou duši?“ (Nebo co prospěje člověku, by všecken svět získal, a své duši škodu učinil? Bible, Marek 8:36).
Poznámky pod čarou:
Profesor filosofie, Ecole Polytechnique, Paris, a Stanford University; člen HLEG "The New Technological Wave", European Commission. Email: jpdupuy@stanford.edu
1. Robin Williams and David Edge: "The social shaping of technology", Research Policy, 25, 1996, 865-99, p. 875.
2. L'homme fait de la métaphysique comme il respire, sans le vouloir et surtout sans s'en douter la plupart du temps." in: E. Meyerson, De l'explication dans les sciences (Paris, 1927).
3. viz: Jean-Pierre Dupuy, The Mechanization of the Mind, Princeton University Press, 2000.
4. Damien Broderick, The Spike, Forge, New York, 2001, p. 116.
4a."Converging Technologies for Improving Human Performance" (CTIHP) is a 2002 report commissioned by the U.S. National Science Foundation and Department of Commerce. The report contains descriptions and commentaries on the state of the science and technology of the combined fields of nanotechnology, biotechnology, information technology and cognitive science (NBIC) by major contributors to these fields. Potential uses of these technologies in improving health and overcoming disability are discussed in the report, as well as ongoing work on planned applications of human enhancement technologies in the military and in rationalization of the human-machine interface in industrial settings." viz: www.zdnet.com/article/what-utopia-can-technology-deliver/
5. Ibid., p. 118.
6. Louis Dumont, Essais sur l'individualisme, Seuil, Paris, 1983.
7. Co zde následuje jsem převzal z textu, který vznikl ve spolupráci s Paulem Dumouchelem "Nature and Mimetic Theory" - který byl přednesen na COV&R Symposium, "Nature, Human Nature, and the Mimetic Theory", Ghost Ranch, Abiquiu, New Mexico, USA, 2-5 června 2004.
bio:Jean-Pierre Dupuy je filosof a profesor sociální a politické filozofie na École Polytechnique v Paříži. Ředitel výzkumu v C.N.R.S. a ředitel C.R.E.A. (Centre de Recherche en Épistémologie Appliquée), filozofické výzkumné skupiny na École Polytechnique, kterou založil v roce 1982. Na Stanfordské univerzitě působí jako výzkumník na Study of Language and Information (CSLI). Jeho známá kniha "Mechanizace mysli" vysvětluje historické a společenské okolnosti jak kybernetika vytvořila základy pro kognitivní vědu, ale také pro výzkum umělé inteligence a předznamenala rozvoj teorie chaosu, teorie komplexity a dalších vědeckých a filozofických průlomových proudů druhé poloviny 20. století.
knihy: The Mark of the Sacred The Mechanisation of the Mind
Přeloženo z anglického textu:"DO WE SHAPE TECHNOLOGIES, OR DO THEY SHAPE US". dostupného na Dupuy-Do-we-Shape-Technologies.pdf
odkazy:
https://en.wikipedia.org/wiki/Jean-Pierre_Dupuy
| lecture: On the Eternal Silence of These Infinite Spaces
