26.4. Összefoglalás

Ebben a fejezetben a következő kérdésekkel foglalkoztunk:

  • A filozófusok szóhasználata szerint a gyenge MI kifejezés azt a feltevést jelenti, hogy a gépek valószínűleg képesek intelligensen viselkedni, az erős MI pedig azt a feltevést, hogy az ilyen gépek elmével rendelkezőknek számítanának (és nem elmét szimulálóknak).

  • Alan Turing visszautasította a „Tudnak-e gondolkodni a gépek?” kérdést, és egy viselkedési tesztet állított a helyébe. Sok, a gondolkodó gépek lehetőségével szemben felhozható ellenvetést megelőlegezett. A mesterséges intelligencia kutatói közül kevesen szentelnek figyelmet a Turing-tesztre, előnyben részesítik, ha a rendszerek gyakorlati problémamegoldó képességére összpontosítunk, nem pedig az emberek utánzására való képességükre.

  • A modern korban általánosan egyetértenek abban, hogy a mentális állapotok agyállapotok.

  • Sem az erős MI ellen, sem a mellette felhozható érvek nem meggyőzők. Kevés első vonalbeli MI-kutató gondolja azt, hogy bármi fontos is függ ennek a vitának a kimenetelétől.

  • A tudatosság rejtély maradt.

  • A mesterséges intelligencia és a kapcsolódó technológiák által a társadalomra jelentett veszélyek hat fajtáját azonosítottuk. Arra a következtetésre jutottunk, hogy néhány veszély valószínűtlen, kettő azonban további megfontolást érdemel. Az első az, hogy az ultraintelligens gépek, a maitól nagyon különböző, ámde ránk nézvést korántsem kedvező jövőhöz vezethetnek. A második pedig az, hogy a robottechnológia a pszichopatáknak is a kezébe adhatja a tömegpusztító fegyverek kulcsát. Arra jutottunk azonban, hogy ez a fenyegetés inkább származik a biotechnológiából és a nanotechnológiából, mintsem a robotikából.

26.4.1. Irodalmi és történeti megjegyzések

Az elme természete az ókortól napjainkig a filozófiai elméletalkotás állandó témája. Platón a Phaidón c. dialógusában kifejezetten megvizsgálta, majd elvetette azt a lehetőséget, hogy az elme a test részeinek „egybehangoltsága”, szerveződési mintája lenne (ez az álláspont közelít ahhoz, amit a modern elmefilozófiában funkcionalizmusnak nevezünk). Ehelyett arra az álláspontra helyezkedett, hogy az elme egy halhatatlan, nem anyagi lélek, amely a testtől elválasztható, és szubsztanciájában (lényegi alkotóelemét tekintve) különbözik: ez a dualizmus álláspontja. Arisztotelész az élő lényekre jellemző lélek (görögül ψυχη ) több fajtáját különítette el, és legalábbis néhányukra funkcionalista leírást adott (erről bővebben lásd (Nussbaum, 1978)).

Hírhedt Descartes dualisztikus elmefelfogása, de ironikus módon történelmi hatása inkább a mechanisztikus és materialista elmefelfogás felé mutat. Az állatokat kifejezetten automatának tartotta, és megelőlegezte a Turing-tesztet: „azt nem tudjuk elképzelni, hogy [egy gép] a szavakat különféleképpen elrendezze, s ezáltal értelmesen tudjon felelni arra, amit a jelenlétében mondanak, amint ezt a legtompább eszű emberek is meg tudnak tenni” (Descartes, 1637).[287] Azzal, hogy hevesen kardoskodott az állatok automata mivolta mellett, Descartes valójában könnyebbé tette, hogy az embereket is automatának véljük, noha maga ezt a lépést sohasem tette meg. A L’Homme Machine (La Mettrie, 1748) c. könyv pontosan amellett érvelt, hogy az emberek automaták.

A modern analitikus filozófia általában elfogadja a materializmust (gyakran az agyállapot-azonosság elmélet (identity theory) formájában (Place, 1956; Armstrong, 1968), ami szerint a mentális állapotok azonosak az agyi állapotokkal), de sokkal megosztottabb a funkcionalizmust, az emberi elme gépi analógiáját tekintve, valamint abban a kérdésben, hogy szó szerinti értelemben véve tudnak-e gondolkodni a gépek. Turing (Turing, 1950) Computing Machinery and Intelligence c. cikkére adott korai filozófiai válaszok egy része, például Scriven (Scriven, 1953), megpróbálta cáfolni, hogy értelmes lenne azt mondani, hogy a gépek gondolkodhatnak, arra alapozva, hogy ez sértené a szó jelentését. Ezt a nézetet, legalábbis Scriven, cikkének újranyomásához illesztett függelékének tanúsága szerint 1963-ra visszavonta (Anderson, 1964). A számítástechnika-kutató Edsger Dijkstra szerint „Az a kérdés, hogy tud-e egy gép gondolkodni, nem érdekesebb annál, hogy tud-e úszni egy tengeralattjáró.” Ford és Hayes (Ford és Hayes, 1965) amellett érvelnek, hogy a Turing-teszt semmi segítséget sem nyújt a mesterséges intelligencia számára.

Mivel az elmefilozófiában a mesterséges intelligencia alapján a funkcionalizmus választása tűnik a legtermészetesebbnek, a funkcionalizmus kritikája tehát gyakran a mesterséges intelligencia kritikájának formáját ölti (mint Searle esetében). Block (Block, 1980) osztályozását követve többféle funkcionalizmust különböztethetünk meg. Az agyállapot-azonosság elmélet egyik variánsa, a funkcionális specifikáció elmélete (functional specification theory) (Lewis, 1966; 1980) a mentális állapotokkal identifikálandó agyi állapotokat a funkcionális szerepük választja ki. A gépi analógiához szorosabban kötődik a funkcionális állapotazonosság elmélet (functional state identify theory) (Putnam, 1960; 1967). E szerint a mentális állapotokat nem fizikai agyi állapotokkal, hanem a kifejezett számítóeszközként felfogott agy absztrakt számítási állapotaival kell azonosítani. Ezek az absztrakt állapotok feltételezés szerint függetlenek az agy specifikus felépítésétől, ami azonban néhányakat arra késztet, hogy a funkcionális állapotazonosság elméletet a dualizmus egy formájának tartsák!

Mindkét agyállapot-azonosság elméletet, valamint a különböző formájú funkcionalizmusokat támadják azok a szerzők, akik szerint ezek az elméletek nem megfelelők a mentális állapotok qualia, azaz „milyen érzés is ez” aspektusának megmagyarázására (Nagel, 1974). Searle ehelyett az intencionalitás funkcionalizmusbeli állítólagos megmagyarázhatatlanságára koncentrált (Searle, 1980; 1984; 1992). Churchland és Churchland (Churchland és Churchland, 1982) mindkét fajta kritikát visszautasítják.

Az eliminatív (kiküszöbölő) materializmus (eliminative materialism) (Rorty, 1965; Churchland, 1979) abban különbözik az elmefilozófia többi jelentős elméletétől, hogy meg sem kísérli a „népies pszichológia”, az elméről alkotott hétköznapi elképzeléseink igazolását, hanem mindet elveti, és megpróbálja az elme tisztán tudományos elméletével helyettesíteni. Elméletileg akár a klasszikus mesterséges intelligencia is szolgáltathatná ezt a tudományos elméletet, de valójában az eliminatív materialisták inkább az idegtudománytól és a neurális hálók kutatásától kölcsönöznek (Churchland, 1986), arra alapozva, hogy a klasszikus mesterséges intelligencia, különösen a 10. fejezetben bemutatotthoz hasonló „tudásreprezentációs” kutatási irány, hajlamos a népies pszichológia igazságaira alapozni. Ugyan az „intencionális beállítottság” álláspont (Dennett, 1971) értelmezhető funkcionalistaként, de valószínűleg az eliminatív materializmus egyik formájának kell tekinteni, mivel az intencionális beállítottság nem objektív tulajdonsága az ágensnek, akire vonatkozik. Azt is vegyük figyelembe, hogy lehetünk eliminatív materialisták egyes mentális jelenségekkel kapcsolatban, miközben másokat nem így elemzünk. Dennett (Dennett, 1978) például a qualiákat illetően sokkal inkább eliminativista, mint az intencionalitással kapcsolatban.

A fejezetben szóltunk a gyenge MI-vel szembeni kritika lehetséges forrásairól. Ugyan a posztneurális hálók korszakában divatossá vált idejétmúltnak tartani a szimbolikus megközelítéseket, nem minden filozófus kritikus a „Jófajta, régivágású MI”-vel szemben. Akadnak ennek még elkötelezett, sőt akár gyakorló hívei is. Zenon Pylyshyn (Pylyshyn, 1984) amellett érvelt, hogy a számítási modell nemcsak elviekben a legjobb modell a megismerés megértéséhez, hanem a jelenlegi kutatás útja is lehet, és kifejezetten megcáfolta Dreyfus kritikáját az emberi megismerés számítási modelljéről. Gilbert Harman (Harman, 1983) a hiedelemmódosítás vizsgálatát az igazság-karbantartó mesterséges intelligencia rendszerek kutatásához kapcsolta. Micheal Bratman az emberi pszichológiáról alkotott „hiedelem-vágy-intenció” modelljét (Bratman, 1987) alkalmazta a tervkészítéssel kapcsolatos mesterséges intelligencia kutatásokra (Bratman, 1992). Aaron Sloman (Sloman, 1978, iii. o.), a mesterséges intelligencia erős hipotézisének radikális híve odáig elment, hogy rasszistának nevezte Joseph Weizenbaumot (Weizenbaum, 1976), mert szerinte a feltételezett intelligens gépeket nem kellene személyeknek tekinteni.

Az elméről, az agyról és a kapcsolódó témákról szóló filozófiai irodalom kiterjedt, és a megfelelő szaknyelv és érvelési módozatokra vonatkozó megalapozott képzés hiányában gyakran nehezen olvasható. Ehhez a folyamathoz az Encyclopedia of Philosophy (Edwards, 1967) felettébb hasznos segítséget nyújthat meggyőzően informatív szócikkeivel. A The Cambridge Dictionary of Philosophy (Audi, 1999) rövidebb, de közérthetőbb mű, noha a fő szócikkek (mint például az „elmefilozófia”) még így is akár több mint tíz oldal hosszúak is lehetnek. A MIT Encyclopedia of Cognitive Science (Wilson és Keil, 1999) egyaránt foglalkozik az elme filozófiájával, biológiájával és pszichológiájával. Az elmefilozófiáról (beleértve ebbe a funkcionalizmust és más, a mesterséges intelligenciához kötődő álláspontokat) szóló cikkek általános gyűjteménye található a Materialism and the Mind-Body Problem-ben (Rosenthal, 1971) és a Readings in the Philosophy of Psychology (Block, 1980) első kötetében. Biro és Shanan (Biro és Shanan, 1980) a funkcionalizmus ellen és mellett érvelő cikkekből állított össze antológiát. Más cikkgyűjtemények kifejezetten a filozófia és a mesterséges intelligencia kapcsolatával foglalkoznak: Minds and Machines (Anderson, 1964); Philosophical Perspectives in Artificial Intelligence (Ringle, 1979); Mind Design (Haugeland, 1981) és a The Philosophy of Artificial Intelligence (Boden 1990). Számtalan bevezető létezik a filozófiai „MI-kérdés”-hez (Boden, 1977; 1990; Haugeland, 1985; Copeland, 1993). A The Behavioral and Brain Sciences, rövidítve BBS, fontos folyóirat, amelyet a mesterséges intelligenciával és az idegtudományokkal kapcsolatos vitáknak szentelnek. Több újság foglalkozik a mesterséges intelligencia etikai és felelősségi kérdéseivel: AI and Society, Law, Computers and Artificial Intelligence, valamint az Artificial Intelligence and Law.[288]

26.4.2. Feladatok

26.1.

Haladjon végig Turing állítólagos gépi „fogyatékosságokról” alkotott listáján, keresse meg, melyeket valósítottak már meg, melyeket lehet elvben megvalósítani egy programmal, és melyek problematikusak azért, mert tudatos mentális állapotokat igényelnek.

26.2.

Szükségszerűen bizonyítja-e a kínai szoba érv cáfolata, hogy a megfelelően programozott számítógépek mentális állapotokkal rendelkeznek? Szükségszerűen együtt jár-e az érv elfogadása azzal, hogy a számítógépeknek nem lehetnek mentális állapotaik?

26.3.

Az agyprotézis érv fontos része, hogy képesnek kell lennünk a kísérleti személy agyát visszaállítani a normális állapotába, hogy külső viselkedése ugyanolyan legyen, mintha a műtét nem is történt volna meg. Megalapozott lehet-e egy olyan szkeptikus ellenvetés, miszerint ez azzal járna, hogy módosítani kell a neuronoknak a tudatossághoz kötődő neurofiziológiai tulajdonságait, melyek különböznek a funkcionális viselkedésben résztvevőktől.

26.4.

Keressen ki a populáris médiából egy vagy több, a mesterséges intelligencia lehetetlenségére irányuló érvet, és elemezze azt.

26.5.

Próbáljon meg definíciókat adni az „intelligencia”, a „gondolkodás” és a „tudatosság” fogalmakra. Vessen fel lehetséges ellenvetéseket is a definíciókkal szemben.

26.6.

Elemezze a mesterséges intelligenciának a társadalomra jelentett potenciális veszélyeit. Mely fenyegetések a legsúlyosabbak, és hogy lehetne küzdeni ellenük? Hogyan viszonyulnak ezek a potenciális előnyökhöz?

26.7.

A mesterséges intelligencia jelentette potenciális fenyegetések hogyan viszonyulnak más számítástechnikai, vagy bio-, nano- és nukleáris technológiákból eredő veszélyekhez?

26.8.

Néhány kritikus ellenvetése szerint a mesterséges intelligencia lehetetlen, mások szerint meg túlságosan is lehetséges, és az ultraintelligens gépek veszélyt jelentenek. A két felhozott ellenvetés közül melyiket tartja valószínűnek? Ellentmondásos-e a kettőt együtt állítani?



[287] A szöveget a magyar fordítás alapján idéztük: Értekezés a módszerről (ford. Szemere Samu és Boros Gábor). (A ford.)

[288] A magyar olvasó a mesterséges intelligencia filozófiájáról Darabos Tamás művéből tájékozódhat: A gépesített értelem. Vázlatok a mesterséges intelligencia filozófiájáról. Áron Kiadó, Budapest, 1991. (A ford.)