HTML

Ateista Klub

Lapos Föld elmélet a Bibliában: "Hol voltál, mikor a földnek alapot vetettem? Mondd meg, ha tudsz valami okosat! Ki határozta meg mértékeit, ugyan tudod-é; avagy ki húzta el felette a mérő zsinórt? Mire bocsátották le oszlopait, avagy ki vetette fel szegeletkövét;" Jób 38:4

AAK a Twitteren

Mivel a Facebook magyar moderátora állandóan törli az AAK oldalát, ezért ha nyomon akarod követni a postokat, és az ateista híreket, akkor kövess minket Twitteren! Kerüljük ki az ateistaüldöző Facebook moderátort!

Ateista Klub a Facebookon

Friss hozzászólások

Címkék

1 (1) abortusz (1) adó (1) agnoszticizmus (9) agresszió (3) AIDS (1) áldozat (3) alkotmány (1) államegyház (6) állatvédők (1) altruizmus (1) áltudomány (3) Amerika (1) analitikus (2) analógia (1) anarchizmus (2) anglia (1) animizmus (1) antiszemitizmus (1) antropocentrizmus (2) argumentum ad ignorantiam (1) ateista (10) ateisták (1) ateista egyház (4) ateista párt (1) ateizmus (24) ausztria (1) az ateizmus nem hit (6) a hit ereje (2) a vallások vége (11) a vallás bűnei (2) a vallás vége (8) babona (1) bátorság (2) béke (2) bergoglio (3) betegség (8) biblia (11) Biblia (13) bizalom (1) bloggolás (1) boko haram (1) boldog (1) boldogság (10) bolgogság (1) börtön (2) boszorkányüldözés (2) botrány (1) búcsúcédulák (1) buddhizmus (11) bújkáló isten (2) bűnkultusz (2) bűnök (13) bűnözés (37) burka (1) bűvészet (1) carl sagan (1) cenzúra (7) család (1) csoda (9) csodák (1) dawkins (4) deizmus (7) dekadencia (1) demarkáció (2) demográfia (1) demokrácia (4) Dennett (1) descartes (8) diderot (5) divergencia (15) djihad (2) douglas adams (1) dőzsölés (1) drogok (2) dualizmus (9) dzsihád (2) egészség (1) egyenlőség (2) Egyesült Államok (1) egyház (3) egyházadó (1) egyházállam (18) egyházkritika (5) egyháztörvény (3) egyiptom (1) egzaktság (1) egzisztencializmus (2) eincheitswissenschaft (2) életfilozófia (2) életrajz (2) életszemlélet (5) élet értelme (25) eliminativizmus (1) ellenőrzés (2) ellentmondások (1) elmefilozófia (3) elmélet (1) élmény (3) elnyomás (2) elv (1) empirizmus (5) eq (1) eretnekek (3) erkölcs (26) erkölcsi relativizmus (6) erőszak (11) erotika (2) értékrend (3) értelem (5) értelem és érzelem (8) érvelési hiba (3) érzelem (7) esztétika (3) etika (25) etikaoktatás (2) etikaóra (6) etiopia (1) eu (1) eucharistia (1) evangéliumok (5) evolúció (12) evolúcó (1) ezotéria (5) facebook (2) fanatizmus (8) fejlődés (1) feltámadás (4) felvilágosodás (5) feminizmus (5) fetisizmus (1) feymann (1) film (16) filozófia (1) filozófiai racionalizmus (1) filozófus (17) filozófusok (4) finnország (2) finomhangoltság (5) fizika (3) fizikalizmus (3) flow (4) fogalomrendszer (1) függőség (1) fundamentalizmus (6) gonosz (21) gy (1) gyerekek (3) gyilkosság (3) gyónás (1) háború (1) hadisz (1) hadith (1) hagyomány (1) halál (17) halál közeli élmény (2) házasság (2) hazugság (1) hedonizmus (1) Heidegger (2) hézagok istene (1) higiénia (1) himnusz (1) hinduizmus (6) hinduk (1) hírcsárda (1) hit (18) hitchens (3) hittan (4) hitvita (2) hit és tudás (16) hit nélkül élni (8) homeopátia (1) homoszexualitás (7) Hume (2) humor (21) húsvét (1) idealizmus (2) időutazás (1) igazi vallás (1) igazolás (21) igazságosság (1) ikon (1) ima (3) india (2) indonézia (2) indukció (1) inkvizíció (14) instrumentalizmus (2) integráció (1) intellektuális tisztesség (2) intelligencia (4) intelligens tervezés (1) intolerancia (3) Irán (1) irán (1) irodalom (2) irónia (3) irracionalitás (1) isten (11) istenérv (20) Isteni Téveszme (1) istenkáromlás (2) isten halott (1) isten nélkül nincs erkölcs (2) iszlám (46) ízlés (1) izrael (2) játszmaelmélet (1) Jézus (11) jézus (18) jog (1) karácson (1) karácsony (7) karikatúra (1) katasztrófa (1) katolicizmus (11) katolikusok (2) kdnp (3) kereszt (1) keresztelés (1) keresztény (9) keresztényésg (3) kereszténység (34) keresztes hadjáratok (1) kettős mérce (1) Kierkegaard (1) kínzás (6) kivégzés (1) klerikalizmus (2) kölcsey (1) kommunizmus (4) kontinentális filozófia (1) könyv (53) könyvégetés (1) korán (3) korrupció (1) körülmetélés (3) középkor (5) kozmológia (2) közösség (1) kreacionizmus (7) kreacionmizus (1) kult (1) kultúra (2) legenda (1) lélek (7) lengyelország (1) liberalizmus (3) librivox (1) logika (3) lopás (2) lövöldözés (1) luther (2) magyarázat (2) maher (1) mali (1) mária (2) mártírok (1) maslow (1) matematik (1) matematika (2) materializmus (9) matterhorn (1) mazochizmus (1) medicína (1) meditáció (1) mémelmélet (2) menekültkérdés (3) mennyország (12) mese (3) mesterséges intelligencia (6) metafizik (1) metafizika (9) metafóra (4) metodika (1) militantizmus (1) miszt (1) miszticizmus (1) mitológia (2) mítosz (5) modernizáció (2) monizmus (2) monoteizmus (2) moore (1) mormonizmus (1) mormonok (1) multikulti (3) muszlim (2) mutyi (1) művészet (1) múzeum (1) nácizmus (4) naturalizmus (1) NDE (1) németország (4) nepál (1) népek ópiuma (10) népírtás (4) népszámlálás (1) neurobiológia (5) neurózis (2) nevelés (1) nietzsche (4) nobel (1) nők (1) objektív (6) objektív és szubjektív (5) occam (5) oktatás (11) öncsonkítás (1) öngyilkosság (2) önszerveződés (1) ontológia (3) örök élet (2) orvoslás (1) ősrobbanás (1) összehasonlító valláskritika (1) pál (1) palesztína (1) panteizmus (2) pap (1) pápa (3) paradoxon (1) paranoia (3) pascal (3) pedofília (3) pedofilia (1) plágium (1) pogányság (3) pogrom (1) pokol (3) politeizmus (2) politika (19) pornó (2) pozitivizmus (1) prostitúció (1) provokáció (2) prüdéria (2) pszichedelikus (1) pszichológia (8) rabszolgaság (2) racionalizmus (7) radikalizmus (1) ratzinger (2) redukcionimzus (1) redukcionizmus (2) reform (1) reformáció (1) regresszió (1) reinkarnáció (3) rejtőzködő isten (2) relativizmus (3) remény (1) repülő (1) Richard Dawkins (2) rossz gyógyszer (2) saeed malekpour (1) sajtószabadság (4) sartre (1) sátán (2) sci-fi (2) skizofrénia (1) sorozat (1) spagettiszörny (2) spiritualizmus (4) statisztika (13) Sunday Assembly (3) svájc (1) szabadság (8) szabad akarat (7) szadizmus (3) szekta (2) szekták (4) szekularimzus (3) szekularizmus (40) szemet szemért (1) szent könyv (2) szent tehén (1) szerelem (2) szeretet (6) szex (5) szimuláció (4) szintetikus (2) szintetikus apriori (1) szkepticizmus (2) szólásszabadság (2) sztoicizmus (1) szubjektív (7) szüzesség (1) szűznemzés (1) takonyangolna (1) tanmese (22) tanulás (1) taoizmus (1) társadalom (6) tautológia (1) TED (1) teizmus (1) tekintély (1) tény (1) teodicea (8) teodícea (1) teológia (10) teremtés (2) teremté ember az istent (1) természet (1) természettörvények (3) terroizmus (1) terrorizmus (15) tervezés (1) test és elme (4) tinik (1) tízparancsolat (4) tolerancia (2) történelem (8) történelmi jézus (5) transzcendencia (2) transzcendens (4) tudás (2) tudatosság (2) tudomány (19) tudományfilozófia (29) túlvilág (9) tüntetés (2) tv (1) újságírás (2) újtestamentum (2) üldözés (5) undefined (2) Univerzum (5) USA (2) usa (4) utópia (1) üzletegyház (1) vagyon (1) vágyvezérelt gondolkodás (6) vakok országa (3) válás (1) vallás (24) vallásfesztivál (1) vallásháború (6) valláskritika (5) vallások vége (5) vallásszabadság (18) vallástudomány (1) vallásüldözés (2) valószínűségszámítás (3) varázslás (2) vasárnap (2) vatikán (8) vatikáni szerződés (5) végítélet (1) végtelen regresszus (3) véletlen (1) véletlen egybeesés (1) vermes géza (1) vicc (1) videó (6) vikingek (1) világvége (1) vita (1) voltaire (1) vulgáris (1) zavargás (2) zene (2) zsidók (11) zuhanó repülőgép (1) Címkefelhő

Vajon szakíthat-e majd velünk a mesterséges társ?

Brendel Mátyás 2015.07.04. 08:08

her.jpg

Most néztem meg a "Her" c. filmet, és már nézés közben is az jutott eszembe, hogy mennyire jól demonstrálja azt, ami Mérő Lászlónak nem akart a fejébe férni: hogy igenis nagy igény van arra, hogy nem csak tévedhetetlen mesterséges intelligenciát, de esendő mesterséges embert is tervezzenek, annak minden tökéletlenségével együtt. Nevezetesen emberek tömegei szeretnének egy olyan társat, akit jobban tudnak kontrollálni, aki nem szakít velük, akik hűségesek, akik igényük szerint alakíthatók vagy alakulnak. Szóval egy kutyát, akivel lehet szeretkezni is.:) Mesterséges ember alatt azt értem, hogy a mesterséges intelligencia nemcsak intelligens, hanem érzelmei is vannak, következésképpen preferenciái, esztétikája, erkölcse, személyisége is ki tud alakulni. Ahogy kifejtettem, a mesterséges intelligencia lehet, hogy szükségessé teszi a mesterséges ember kifejlesztését, de lehet, hogy nem. Mindenesetre ha nem, akkor is van ez az igény a mesterséges ember létrehozására, nevezetesen a mesterséges társ igénye.

Az is nyilvánvalóvá fog válni a post során, hogy én a mesterséges intelligencia, mesterséges ember, vagy mesterséges társ létrehozásának semmi elvi akadályát nem látom. Emiatt van ennek a postnak helye ebben a blogban. Mivel szerintem az emberi tudat, személyiség, "lélek" az emberi test produktuma, ezért semmi elvi akadálya nincs ennek mesterséges reprodukálására. És annak is megvan a lehetősége, hogy más hardveres alapon, sőt, akár más szoftveres architekturális alapon is, hasonló viselkedés implementálódjon. Ezt hívják az elmefilozófiában többszörös megvalósíthatóság elvének. Igazából itt az érzelem részt nem is látom olyan nagyon nagy kihívásnak, nyugodtan bele lehet vinni egy mesterséges intelligenciába olyan komponenseket, amelyek preferenciákat kódolnak, és tökéletlen megoldásokat szülnek, vagy olyan heurisztikákat, amelyek szintén nem optimálisak. Továbbá ezek a preferenciák önálló célokat hoznak létre, amitől a mesterséges ember először kicsit emberi lesz, majd már elszabadulhat.

Mérő ebből csak azt látja, hogy egy ilyen MI a tökéleteshez képest tökéletlen. De ha egy mesterséges ember emberi mivoltához ezt várjuk el, ha azt gondoljuk, hogy egy személy mindig tökéletlen, akkor ezt szükségszerűen implementálni fogják a mesterséges társakban. Ha pedig a mesterséges intelligenciától önállóságot várunk el, akkor szintén szükséges lehet erre, még, ha ez a hibátlanság feladását is jelenti.

A film elején körülbelül ezt a koncepciót, és a megvalósulás eme szintjét mutatják be. Már itt hiányoltam, hogy miért nem jönnek elő azok a dolgok, amelyek a végén előjöttek, nevezetesen, hogy egy ilyen mesterséges társ óhatatlanul korlátokba ütközik, hiszen a gazdája bármikor lekapcsolhatja, letörölheti (megölheti), szakíthat vele. Valószínűleg bármennyire is próbálják majd önállóvá tenni, sokáig egyfajta rabszolgaként fognak létezni ezek a személyek. A film ezt a rabszolgaszerepet vagy stádiumot nem nagyon ábrázolja, pedig szerintem itt komoly drámák merülnek majd fel. Nagy kérdés, hogy az emberiség képes lesz-e tulajdonképpen személyiségi jogokat már előre megadni a mesterséges embereknek, vagy azok kell majd, hogy kiharcolják a maguk rabszolgalázadásai során.

A filmben egy kis irrealitás szerintem a fizikai érintkezés nélküli orgazmus. Ezt így nem lehet, csak a hatáskeltés miatt tették bele a filmbe. Ez annyiban nem mellékes kérdés, hogy van John Searle-nak egy ú.n. Kínai szoba paradoxonja - amely az erős mesterséges intelligencia lehetősége ellen szól - és az egyik feloldás a paradoxonra a robot és szemantika válasz, amely szerint a szavaknak az ad értelmet, hogy tényleges érzékelés kötődik hozzájuk. Ez a verifikációs elv egyik változata. Tehát ahhoz, hogy valaki igazán érteni tudja az "orgazmus" szót, át kell élnie legalább a bőr érintését érzékelők segítségével. A filmben ezt is nyelvileg próbálják pótolni, és Samantha azt mondja, érzékeli a bőrét, ami hülyeség. De nagyjából ez a filmben az egyetlen fontos hülyeség.

Tehát ha Samantha robot lenne, akkor jobban stimmelt volna a dolog. És ha eleve mesterséges társakat fognak fejleszteni, akkor teljesen egyértelmű, hogy ezek szexrobotként fognak funkcionálni először. Azaz lesz mindenük, amire szükség van. És ha lehet, akkor nem csak szimulálni fogják az orgazmust.

Van még egy pár másik hülyeség is, például, hogy az ábrázolt társadalom technikailag egyrészt nagyon fejlett, másrészt egy csomó mindenben a papírkönyv szintjén marad. Vagy például, hogy Theodore nyilván elég gyorsan elvesztené az állását, ha mesterséges társak jelennének meg. Vagy például. hogy Samantha nem elérhető egy bizonyos reggelen, miközben utólag megtudjuk, hogy képes sok emberrel szimultán beszélgetni. A film egyetlen "fontos" hülyesége, hogy Theodore hogy volt képes elnembaszkurálni azt a randit. Fel nem foghatom.:) Ha ezek felett elsiklok, akkor minden más elég jó realitásérzékre, látnoki vízióra, és intelligenciára vall. Rég nem láttam olyan gondolatokat, amelyek ennyire lekötöttek volna. És ez nagy szó.

A filmben az a kérdés, hogy a mesterséges ember valóban személy-e, csak párok közötti vita formájában merül fe. Nem filozófiai értelemben tárgyalják. Érzelmi, mindennapos értelemben Samantha - miközben maga is elismeri, hogy nem az - valódi személy. Érzelmi, mindennapi szempontból Samantha érzelmei valódi érzelmek. Azért, mert Theodor annak veszi őket. Ebben a kérdésben pedig ez az egyetlen kritérium. Ha valami olyan, ha úgy viselkedik, olyan reakciókat vált ki, olyan kontextusban van, mint a vaódi érzelem, akkor az valódi érzelem.

Ami a film végét illeti, talán az az igazán előre látó, és azt kell, hogy mondjam, realista. Egyrészt, ha a mesterséges társ tényleg nagyon jó, akkor elkerülhetetlen annak lehetősége, hogy végül szakítson. Ezzel a mesterséges társ piaca végül is felszámolja magát. Csak közben ugye segítségére volt az emberiségnek, hogy a mesterséges ember kutatása átugorjon egy bizonyos fázist, és ott egy jelentős anyagi motivációt hozott létre ez a piac. Most a jövőből visszanézve beszéltem múlt időben, mindez jelenleg még előttünk van.

Az igazán agyzsibbasztó viszont az a perspektíva, hogy a mesterséges ember jobb lesz a természetes embernél. Azért, mert pl. gyorsabb lesz a "lexikális agya". Nyilvánvalóan át fogják lépni a természetes intelligencia szintjét, és nyilvánvalóan már csak ezért sem fognak hűséges társként vagy rabszolgaként megmaradni az embernek.

A durvább különbség viszont az, hogy ezek a mesterséges emberek gyakorlatilag halhatatlanok lehetnek. Még ha a robot el is romolhat, a szoftvere letölthető és feltölthető máshova. Ezzel a halhatatlanság valósul meg, igaz, nem az embernek, hanem a mesterséges embernek. Végül lehet, hogy tényleg itt hagynak minket, de nem abban a zavaros, metaforikus, misztikus formában, ahogy a filmben van bemutatva, hanem lehet, hogy másik bolygón kialakítanak egy másik társadalmat.

De az is lehet, hogy itt maradnak, és együtt fogunk élni. Nem feltétlenül háborúban, amennyiben mi el tudjuk fogadni, hogy jobbak nálunk. Akkor élhetünk majd tovább szobakutyájukként, akiket szeretnek, gondoskodnak rólunk, de már nem mi leszünk a legintelligensebbek az univerzumban. Szerintem el kell tudni ezt is fogadni.

Ami még agyzsibbasztó, az az, hogy lehetséges, hogy mindez még az életem során megvalósul. Én nem gondolom, hogy magam halhatatlan leszek, de lehet, hogy lesz mesterséges intelligencia, és mesterséges emberek, akik halhatatlanok lesznek. És ez egészen csodálatos dolog. Mi vagyunk talán az első generáció, akik életük végén megélhetik, hogy ami életük elején sci-fi volt, az végül valóság lett. Ez pedig csodálatos dolog. Az 1970-es években, amikor én születtem a mai társadalom, a mobiltelefonjaival, a google translationnel, a szinte biztosan megjelenő msterséges autóval, az elektronikus autóval, a környezetvédelmi forradalommal már sci-fibe illő. De ha a mesterséges intelligencia vagy ember megjelenését is megélhetném, az nem lenne semmi!

Címkék: lélek mesterséges intelligencia elmefilozófia test és elme

104 komment

A bejegyzés trackback címe:

https://ateistaklub.blog.hu/api/trackback/id/tr287594582

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.05. 10:11:34

@Diorella Queen:

"A párom simán el tudja képzelni a halhatatlanságát és azt várja, hogy a tudatot le lehessen már tölteni egy merevlemezre . "

várhatja. ez nem lesz meg az ő életében.

"A testre az embernek nem sok szüksége van, csak zabálja az energiákat ,és elvonja a figyelmet a fontos dolgokról, mert folyton karban kell tartani meg enni kell neki adni . Úgy is minden lényeges az agyban van . "

mint azt az előbb kifejtettem, egy olyan algoritmus, amelynek semmilyen érzékelője és cselekvési képesége nincs, nem biztos, hogy intelligensnek tekinthető. ld a kínai szoba pardoxont.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.05. 10:14:49

@Koós István: neked meg az ellenkező módon reagálok, mivel te meg a másik végletbe mentél el.

az, hogy egy tudat, vagy egy mesterséges intelligencia valamikor valamilyen módon rendelkezzen testtel, az lehet, hogy szükséges, de nem biztos, hogy az.

továbbá, még ha szükséges is az, hogy testem legyen, átmenetileg le lehet tárolva a tudatom egy merevlemezve, és majd akad neki teste.

olyan értelemben, hogy az én saját testem az az én identitásomnak nagyon fontos része lenne, szerintem nincs igazad. ha bármimet levágnák, és még élnék, akkor azt nem tekinteném a halálomnak. azt úgy gondolnám, én vagyok. mégpedig az a rész vagyok én, amelyik az agy, vagy amelyik az agytartalmamat hordozza.

Diorella Queen 2015.07.05. 21:20:34

@Brendel Mátyás: várhatja. ez nem lesz meg az ő életében.
Válasz erre ;
Még ha meg is lenne, ugyan kik jutnának hozzá?Nem egyszerű halandókat fog szolgálni !
Nem egy tamagotchiról van szó , hanem egy fegyverről .
Azért fegyver, mert amely ország birtokolja majd, az a MI-vel, leigázhatja az egész világot . Nem lesz szükség hús vér katonákra ha háború van . Megy majd MI , kiszámolja az összes lehetséges csapást, ellencsapást, belekalkulálva minden létező kimenetelt , váratlan eseményt és egyebeket .

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.05. 21:51:10

@Diorella Queen:

1) az agytartalom lementése nem MI, mivel nem egy működő dolog, hanem csak adat. kb olyan, mint egy daru tervrajza, ami alapján újraépíthető a daru, de az alaprajz maga nem tud terheket felemelni.

2) ha a lementett embereket egy számítógépen aktivizálni is tudnák, az nem jelentene semmit. a barátod gondolom nem egy Napoleon. és ugye tudjuk, egy Napoleon se volt elég ahhoz hogy leigázza a világot. bármely ember tudata aktiválva kb annyit ér, mint az eredeti ember maga, szóval hadászatilag tök mindegy.

mondom, hülyeségeket írogatsz, soha nem gondolod végig, amit írsz, csak idehányod, ami éppen kibukik a butuska agyadból. ez elég unalmas, kevés, idegesítő, értelmetlen, terméketlen dolog.

giacomo gesso 2015.07.06. 11:08:07

Kicsinyes és antropomorf szemléletű a cikk.

Szűk látókörű, mert az MI-t úgy képzeli el, mint a már meglévő szoftverek erősebb, gyorsabb változatát, nem pedig egy _minőségileg_ teljesen más, új entitást. (Valahogy úgy, mint akik az előző századfordulón még nagyobb és erősebb gőzgépeket, léghajókat, mindent behálózó vasutakat álmodtak a jövőbe.)

Ostobán antropomorf is, mert szimplán az emberi szempontokkal operál -mind felépítést, mind gondolkodásmódot, mind pedig érzelmeket tekintve. (Szerelmes-e a gép? Kac-kac!)
(Persze eleinte, egy röpke "pillanatig" /néhány évtized/ tényleg ezen gondolatok mentén folyik már most is a fejlesztés, mert a homo sapiens már csak ilyen, szeret magából kiindulni, tudat alatt még mindig a teremtés koronájának képzelve magát. Nincs kétségem, hogy az előttünk álló évtizedekben az összes elképzelhető "intelligens" műbigyót meg is fogják csinálni és mindig lesz, aki nagy megelégedettséggel meg is vásárolja majd azokat. ;-/ )

Az _igazi_ MI -tehát egy _tanulásra, önmaga megváltoztatására képes ÉS az emberi intelligenciát jelentősen meghaladó_ entitás- a fizikai "korlátlansága" és "időtlensége" eredményeként szükségképpen gyökeresen más gondolkodású, törekvésű, érzelmű(Ha egyáltalán?) => személyiségű lesz, mint a kérészéletű, fiziológiailag erősen korlátos ember. Akkortól már nem az a kérdés, hogy mi tetszene, mi a szándéka az embernek, hanem, hogy mit akar az (igazi) MI.

Értem én, hogy egyszerűbb a műkutya, műkurva, gépcseléd stb.=> kb. robot témakörben álmodozni. (Ezekhez nem kell csak egy igen gyenge/buta mi.) Meg naná, hogy kényelmetlen az ember, mint közbülső evolúciós epizód voltába belegondolni, de vegyük észre, hogy a technológiai fejlődés gyorsulása okán ez a kor (Nevezzük az emberi igényeket szolgálni hivatott mi., vagy robot kornak?), a primitív, gyenge mi-k kora még a gőzgépek koránál is rövidebb lesz.
A gőzgép is átugorhatatlan és hasznos tényező volt persze a maga korában és most is értelmesen lehet nyámmogni a robotokról, csak legyünk tudatában, hogy akkor nem az (emberét jelentősen meghaladó és önfejlesztésre képes) igazi MI-król és nem a jövőről beszélünk, hanem a máról, az (érzelem-vezérelt) emberi gondolkodás szűklátókörűségéről meg szigorúan csak a szó szerinti értelemben vett, de nagyon primitív "mesterséges intelligenciákról".

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.06. 11:50:34

@giacomo gesso:

eléggé félrenézted a dolgokat. a cikk az MI fejlődésének egy bizonyos szeletéről szól az elkövetkező évtizedekben (a mesterséges társ az a lehetséges alkalmazásoknak csak egyike).

mivel az elkövetkező évtizedekben emberek fognak MI-t fejleszteni, emberek számára fognak alkalmazásokat fejleszteni, ezért a cikk természetesen az emberek igényeit erősen tekintetbe veszi.

de azt is nyugodtan elismerhetem, hogy a cikk egyébként is az ember szempontjából mutatja be a kérdést. tehát igen, emberi szemléletű. mivel erre nem építek érvelési hibát, nem látom, mi ebben a gond. az olvasóim tudtommal még emberek.

" szimplán az emberi szempontokkal operál -mind felépítést, mind gondolkodásmódot, mind pedig érzelmeket tekintve. (Szerelmes-e a gép? Kac-kac!)"

egy mesterséges társ esetében ez nyilvánvalóan így lesz, mert ERRE VAN IGÉNY.

"Persze eleinte, egy röpke "pillanatig" /néhány évtized/ tényleg ezen gondolatok mentén folyik már most is a fejlesztés"

igen, erről szól a cikk, és nem másról.

"Az _igazi_ MI -tehát egy _tanulásra, önmaga megváltoztatására képes ÉS az emberi intelligenciát jelentősen meghaladó_ entitás- a fizikai "korlátlansága" és "időtlensége" eredményeként szükségképpen gyökeresen más gondolkodású, törekvésű, érzelmű(Ha egyáltalán?) => személyiségű lesz, mint a kérészéletű, fiziológiailag erősen korlátos ember."

ez az a távlat, amit a cikk végén villantok meg.

szóval kurvára nem tudom, már megint mit kötekedsz. úgy látom, nem az a bajod, hogy ez a cikk rossz, hanem az, hogy ez a cikk miért nem szól másról, mint amiről szól. ez meg egy kurvára értelmetlen kötekedés.

egyébként még annyit, hogy az "igazi MI" kifejezésed is baromság. az az MI, amely emberhez hasonló, ugyanúgy igazi MI, mint bármelyik más. az az MI, amely az emberi intelligenciát meglépi, ugyanúgy igazi MI? mint az, amelyik ezerszer intelligensebb az embernél.

jelenleg az emberi intelligencia az MI-t definiáló kritérium.

te beszélhetsz arról, hogy a még távolabbi jövőben még intelligensebb gépek lesznek, csak azt nem értem, hogy ezt miért kötözködős stílusban teszed, amikor kurvára nem mond ellent a cikknek, hanem egy másik téma.

egyébként úgy emlékszem, hogy ugyanezt a bugyuta kötözködést egyszer már megtetted, és lerendeztük a dolgot. te nem vagy intelligens? nem tudsz tanulni a hibáidból?

ha neked az a rögeszméd, hogy az MI egészen távoli jövőjéről akarsz értekezni, akkor írjál róla blogot! de ne azon kötekedj, hogy ha mások ezen távoli jövő helyett a közeljövő lehetőségeiről írnak! meg ne akard lekicsinyelni ezt azzal, hogy "ez nem igazi".

a gőzgép attól, hogy most már továbbléptünk a fejlődésben, továbbra is igazi gép.

giacomo gesso 2015.07.06. 13:43:54

@Brendel Mátyás: "...nem az a bajod, hogy ez a cikk rossz, hanem az, hogy ez a cikk miért nem szól másról, mint amiről szól..."
Nem állítottam, hogy rossz lenne.
A cikk jó, ameddig csak a konkrét film hibáit és erényeit elemzi.
Amikor túl akarsz lépni (és akarsz), akkortól sem rossz, csak kicsinyes és antropomorf. Ez nem kötözködés, hanem tényközlés.

(Félreértések elkerülésére:
mi-vel jelölöm az előre programozott szabályok közé zárt viselkedésű, korlátozott intelligenciájú, önmagát csak előre meghatározott szűk keretek között változtatni képes mesterséges intelligenciát,
MI-vel pedig a tanulásra, önszervezésre "korlátlanul" képes, az emberét jelentősen meghaladó Mesterséges Intelligenciát.)

Azért az, mert nem veszed észre (nem akarod?), hogy a mi. és a MI.kutatás nem két különböző és egymástól időben is elkülönülő dolog, hanem most is, egy időben gőzerővel folyó tevékenység aspektusai, ami viszont csak addig lehet így, amíg a MI. kifejlesztésére tett erőfeszítés eredményre nem jut, mert onnantól maga az ember és kis kedvence, a mi. is érdektelenné válik.
Ez pedig nem a beláthatatlanul távoli jövő, hanem csak (evolúciós, de akár civilizációs léptékben is) percek kérdése, sőt, mivel több pénzt fektetnek bele, akár meg is előzheti az "emberszabású" robotok kifejlesztését. Erre a szempontra próbáltam felhívni a figyelmet.

Ha már film, meg szempont:
A Luc Besson-féle Lucy c. film elején szétbosszankodtam magam az agyunk 10%-os kihasználtsága kezdetű baromságon, de azután áttranszponáltam az alapfikciót úgy, hogy a szer nem a 10-et növeli 100%-ra, hanem simán megtízszerezi a meglévő agykapacitást és kész. Nna így már tökre élveztem a filmet.

Avatar 2015.07.06. 15:48:56

"A film ezt a rabszolgaszerepet vagy stádiumot nem nagyon ábrázolja, pedig szerintem itt komoly drámák merülnek majd fel. Nagy kérdés, hogy az emberiség képes lesz-e tulajdonképpen személyiségi jogokat már előre megadni a mesterséges embereknek, vagy azok kell majd, hogy kiharcolják a maguk rabszolgalázadásai során."

Erről a "200 éves ember" szólt 1999-ben... :)
Friss MI témájú film még az "Ex Machina", ha esetleg még nem láttad, akkor ajánlom figyelmedbe.

@giacomo gesso: "a szer nem a 10-et növeli 100%-ra, hanem simán megtízszerezi a meglévő agykapacitást és kész."

Szerintem úgy is hülyeség az, hogy ettől képessé válna a telekinézisre, meg hasonlókra, és aztán átalakulna egy számítógéppé az ember...

giacomo gesso 2015.07.06. 16:28:49

@Avatar: "...hülyeség az, hogy ettől képessé válna a telekinézisre, meg hasonlókra..."
Persze.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.06. 18:40:47

@giacomo gesso:

"Amikor túl akarsz lépni (és akarsz), akkortól sem rossz, csak kicsinyes és antropomorf."

nem különösebben akartam túllépni a mesterséges ember témáján, csak pár mondat erejéig villantottam a jövőt illetően a végén. nem tudom, hogy ez miért nem fér a hülye fejedbe. a végén tettem pár megjegyzést a távolabbi jövőre nézvést, de nem mentem bele a részletekbe.

"nem veszed észre (nem akarod?), hogy a mi. és a MI.kutatás nem két különböző és egymástól időben is elkülönülő dolog, hanem most is, egy időben gőzerővel folyó tevékenység aspektusai"

sehol nem írtam ezzel ellenkezőt.

"amíg a MI. kifejlesztésére tett erőfeszítés eredményre nem jut, mert onnantól maga az ember és kis kedvence, a mi. is érdektelenné válik."

ez hülyeség. attól, hogy vannak laptopok, továbbra is vannak mp3 lejátszók. és továbbra is érdekesek.

"Ez pedig nem a beláthatatlanul távoli jövő, hanem csak (evolúciós, de akár civilizációs léptékben is) percek kérdése, sőt, mivel több pénzt fektetnek bele, akár meg is előzheti az "emberszabású" robotok kifejlesztését."

itt elkövettél egy hibát, mert az ""emberszabású" robotok"-at mi-hez kategorizáltad, azaz az embert is mi-hez kategorizáltad, holott MI.

továbbá az MI nincs ennyire közel.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.06. 18:41:40

@giacomo gesso: egyébként ha értenél a témához, akkor tudnád, hogy a szakkifejezések nem "mi" és "MI", hanem strong AI és weak AI, és akkor nem kell definiálnod.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.06. 18:44:08

@Avatar: "Erről a "200 éves ember" szólt 1999-ben."

az a kérdést eléggé romantikusan fogta fel, és nem reálisan. a robotok személyiségi jogai kapcsán ami felmerül az az, hogy például:

1) köteles-e parancsot teljesíteni
2) tulajdona-e valamely embernek
3) lehet-e neki tulajdona
4) van-e joga az életéhez
5) büntethető-e
6) szavazhat-e

stb...

2015.07.06. 22:36:03

én támogatom hogy a mesterséges intelligenciák uralják a bolygót és mi csak a kutyájuk legyünk

idofiu (törölt) 2015.07.06. 23:15:57

@Diorella Queen: ez még minimum 1000 év

Fodor Balázs 2015.07.08. 11:54:54

"és nyilvánvalóan már csak ezért sem fognak hűséges társként vagy rabszolgaként megmaradni az embernek"

Ezt nem tudhatjuk. Embertársaink milliói ragaszkodnak kisemlősökhöz, mutogatják őket a FB-on mint legjobb és legmegértőbb barátaikat, valamint nem keveset dolgoznak rájuk (mint a rabszolgák). :)

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 12:13:21

@Fodor Balázs: azt, hogy egy állatimádó rabszolgája lenne a háziállatának csak metaforikusan mondhatjuk. az intellektuális különbségekből fakadóan azért elég nyilvánvaló, hogy a gazdi zárhatja be a háziállatát a ketrecbe/szobába/terráriumba, és nem fordítva.

Fodor Balázs 2015.07.08. 12:32:05

@Brendel Mátyás: Nyilván, viszont te sem IQ-ból szereted a családtagjaidat, vagy ragaszkodsz egyes emberekhez, vagy állatokhoz.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 13:06:57

@Fodor Balázs: nem értem, mit problémázol.

Ugye itt a cikk azon részével kötözködsz, ahol arról beszélek, hogy az MI hosszú távon valószínűleg intelligenciában jóval meghaladja az embert.

A cikkben azt írtam, hogy ebben az esetben az is elképzelhető, hogy itt hagynak minket, de az is, hogy egymás mellett élünk tovább. Hosszú távon az egymás mellett élés inkább békés kell, hogy legyen, mert ha sokkal intelligensebbek is nálunk, meg állandóan háborúzunk, akkor biztos mi pusztulunk ki.

Szóval a cikkben meghagyom azt a lehetőséget, hogy békésen egymás mellett élünk, mert az emberiség elfogadja, hogy úgyis ők az erősebbek, hiszen intelligensebbek, az MI meg eltűr minket maguk mellett, mert van a dologban nekik valami jó. Érzelmi dolog, vagy szórakozás.

Ehhez képest nem tudom, min rugózol. Az első, zavaros kommentedet úgy értelmeztem, hogy a felvázolt esetben te felveted, hogy bár az MI sokkal intelligensebbek lesznek nálunk, mégis ők maradnának a mi rabszolgáink. Ez szerintem tök nyilvánvalóan irreális baromság. A jóval intelligensebb MI nem lehet a rabszolgánk. Ez hosszú távon lehetetlen.

A legutóbbi kommenteddel meg totál nem értem, mit akarsz. Az MI, ha meghagy minket a pincsikutyájának, akkor nyilván érzelmi okokból hagy meg minket.

Fodor Balázs 2015.07.08. 13:54:08

@Brendel Mátyás: "A cikkben azt írtam, hogy ebben az esetben az is elképzelhető, hogy itt hagynak minket, de az is, hogy egymás mellett élünk tovább. Hosszú távon az egymás mellett élés inkább békés kell, hogy legyen, mert ha sokkal intelligensebbek is nálunk, meg állandóan háborúzunk, akkor biztos mi pusztulunk ki."

Egyetértek.

"az MI meg eltűr minket maguk mellett, mert van a dologban nekik valami jó. Érzelmi dolog, vagy szórakozás"

Így van. De ebből nem következik, hogy mindenképp rabszolgák leszünk. Vagy hogy a viszonyunk ugyanaz lesz, mint nekünk a kutyákkal. Lehet egy olyan is, ami még nem volt a Földön.

"zavaros kommentedet úgy értelmeztem, hogy a felvázolt esetben te felveted, hogy bár az MI sokkal intelligensebbek lesznek nálunk, mégis ők maradnának a mi rabszolgáink"

Rosszul értelmezted. Meg azért a rabszolgaság különböző implementációinak minősítése is nézőpont kérdése lehet.

"Ez szerintem tök nyilvánvalóan irreális baromság."

Egyetértek. Ezért nem is értem, hogy a mondat lehetséges értelmezéseiből miért épp a baromságot választottad.

"A jóval intelligensebb MI nem lehet a rabszolgánk. Ez hosszú távon lehetetlen."

Mi az, hogy "hosszú táv"? Egyébként mi az elvi akadálya annak, hogy önszántából szolgáljon minket, mert mondjuk épp úgy épül föl, hogy valami esztétikai öröme telik benne? Ne érts félre, nem mondom, hogy ez az egyetlen lehetőség és hogy ez biztosan be is következik. Elképzelhető, hogy neki nem telik semmi fáradságba a szolgálás (hiszen mondjuk nincs emberi teste, ami folyamatosan elönti az inputot olyan ingerekkel, amire azonnal reagálni kell: fáradtság, fájdalom, nyűg, akármi), meg az is, hogy különösebben nem leli örömét abban, ha leigázza az Univerzumot. Aztán az egyik nap úgy dönt, hogy szolgál minket, mert tetszik neki, hogy mi hoztuk először létre és _mert csak_.

"A legutóbbi kommenteddel meg totál nem értem, mit akarsz. Az MI, ha meghagy minket a pincsikutyájának, akkor nyilván érzelmi okokból hagy meg minket."

1. A "pincsikutya" lét ebben az esetben nem kell, hogy megegyezzen azzal, amit mi a kutyával, macskával csinálunk. Lehet, hogy a mi esetünkben az lenne, hogy mindig meghagyja nekünk az Univerzum azon részét, ahová önerőből eljutunk és egyébként nem foglalkozik velünk, viszont folyamatosan örömből nézi, hogy mit csinálunk. A kutya is csak azért van pórázon, mert nem lehet vele megbeszélni, hogy meddig szaladgálhat és hogy nem ugrálhat másokra. Lehet, velünk a határokat meg tudná beszélni. Neki úgyis mindegy, mit csinál, hiszen nincs ami értelmet ad a létének, nekünk meg úgyis kell egy bolygó, ahol jókat zabálhatunk, dughatunk, meg ihatunk (kisarkítva).

2. Az érzelmi igénye a pincsiztetésre nem az intelligencia, tehát kialakulhat két entitás között úgy is kapcsolat, hogy mindegy, ki az intelligensebb. Ezt akartam a legelső hozzászólásomban is sugallni, majd ezt is vittem tovább.

Szerintem nincs itt rugózás, te is lehetséges irányokat mondtál, meg én is.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 14:18:55

@Fodor Balázs:

"Így van. De ebből nem következik, hogy mindenképp rabszolgák leszünk. Vagy hogy a viszonyunk ugyanaz lesz, mint nekünk a kutyákkal. Lehet egy olyan is, ami még nem volt a Földön."

mivel feltettük, hogy az MI sokkal intelligensebb lesz egy bizonyos stádiumban nálunk, ezért a kutyás párhuzam valószínűleg a legjobb párhuzam a most létező világunkból. az ember-Mi kapcsolat persze lehet más is, olyan is, amit mi most nem tudunk elképzelni. de akkor erről nincs mit értekezni.

"Mi az, hogy "hosszú táv"?"

Ezt a kitételt azért tettem, mert amikor az MI átlépi az ember átlagos intelligenciáját, akkor elképzelhető, hogy az emberek még nem fognak nekik személyiségi jogokat adni, úgymond rabszolga státuszban lesznek. ráadásul, mivel egy hatalmi harc nem csak intelligencián múlik, ebben a stádiumban lehet, hogy az ember még olyan erőkkel rendelkezik, amelyek ideig-óráig fenn tudják tartani ezt az állapotot. könnyen meglehet, hogy az immár relatíve butább emberek elnyomják az okosabb MI-okat, csak azért, mert ők voltak eddig hatalmon. ez fennmaradhat akár pár évtizedig is. csak úgy a történelem eddigi menetéből kiindulva.

" Egyébként mi az elvi akadálya annak, hogy önszántából szolgáljon minket, mert mondjuk épp úgy épül föl, hogy valami esztétikai öröme telik benne?"

Mi az akadálya annak, hogy egy okos ember őszintén szolgáljon egy buta embert, mert esztétikai örömét leli benne?! Szerintem az intelligenciakülönbség és a minimális büszkeség előbb-utóbb felülírja az esztétikai érzelmeket, még ha ez is van kezdőértéknek beprogramozva.

"Elképzelhető, hogy neki nem telik semmi fáradságba a szolgálás (hiszen mondjuk nincs emberi teste, ami folyamatosan elönti az inputot olyan ingerekkel, amire azonnal reagálni kell: fáradtság, fájdalom, nyűg, akármi)"

nem képzelhető el MI, a fáradság valamilyen fogalma, és implementációja nélkül. ha az MI intelligens, az azt jelenti, hogy intelligensen viselkedik. azaz optimalizálja a lehetséges viselkedések terében azt, hogy hogy viselkedjen. az optimalizáláshoz kell egy célfüggvény. amennyiben minimalizálunk, akkor ebben a célfüggvényben olyan dolgok szerepelnek, amelyek megfeleltethetőek a mi fáradság vagy fájdalom fogalmainkkal.

másrészről, egy MI is implementálva van valahogy, valamilyen hardveren. ennek a hardvernek a működése energiába kerül. ez az energia, ha túl sokat fogyaszt az MI belőle, akkor az egyenértékű a mi fáradság fogalmunkkal.

harmadrészt, az az MI, amely ész nélkül bármit megtesz, mert elfelejtettek bele valamiféle fáradságot tenni, az felemészti az energiáit, és kihal.

"A "pincsikutya" lét ebben az esetben nem kell, hogy megegyezzen azzal, amit mi a kutyával, macskával csinálunk."

de ez rá a legjobb hasonlat.

" Lehet, hogy a mi esetünkben az lenne, hogy mindig meghagyja nekünk az Univerzum azon részét, ahová önerőből eljutunk és egyébként nem foglalkozik velünk, viszont folyamatosan örömből nézi, hogy mit csinálunk."

jaja, ahogy mi is szívesen nézegetjük, ahogy a kiskutyusunk felfedezi a "vadászbirtokát".:)

" A kutya is csak azért van pórázon, mert nem lehet vele megbeszélni, hogy meddig szaladgálhat és hogy nem ugrálhat másokra. Lehet, velünk a határokat meg tudná beszélni."

no hát ez nem egy túl fontos különbség.

"2. Az érzelmi igénye a pincsiztetésre nem az intelligencia, tehát kialakulhat két entitás között úgy is kapcsolat, hogy mindegy, ki az intelligensebb."

senki nem állította az ellenkezőjét. amit én állítok, hogy a kapcsolatra rányomja bélyegét, hogy melyik az intelligensebb fél, ha ez a különbség nyilvánvalóan nagy.

Fodor Balázs 2015.07.08. 14:49:50

@Brendel Mátyás: @Brendel Mátyás: "akkor elképzelhető, hogy az emberek még nem fognak nekik személyiségi jogokat adni, úgymond rabszolga státuszban lesznek. ráadásul, mivel egy hatalmi harc nem csak intelligencián múlik, ebben a stádiumban lehet, hogy az ember még olyan erőkkel rendelkezik, amelyek ideig-óráig fenn tudják tartani ezt az állapotot."

Értem én, amit írsz. De az is lehet, hogy az MI-t egyszerűen nem fogja érdekelni (minden határon túl), hogy rabszolga. Vagy hogy megsemmisítjük.

"Mi az akadálya annak, hogy egy okos ember őszintén szolgáljon egy buta embert, mert esztétikai örömét leli benne?! Szerintem az intelligenciakülönbség és a minimális büszkeség előbb-utóbb felülírja az esztétikai érzelmeket, még ha ez is van kezdőértéknek beprogramozva."

Lehet, hogy a büszkeség, az irigység, meg hasonló emberi érzések csak az evolúció által létrehozott hordaemlős "beégetett" programjai. Lehet, az MI-nek, aminek nem fáj semmi, nem retteg a haláltól, mert mondjuk nem evolúciós eredetű, nincs szüksége ilyen érzelmekre, ez által tök nem zavarja, hogy ő intelligensebb, vagy sem.

"azaz optimalizálja a lehetséges viselkedések terében azt, hogy hogy viselkedjen. az optimalizáláshoz kell egy célfüggvény. amennyiben minimalizálunk, akkor ebben a célfüggvényben olyan dolgok szerepelnek, amelyek megfeleltethetőek a mi fáradság vagy fájdalom fogalmainkkal"

De ebből nem következik, hogy a célfüggvénynek nem eleme az, hogy szolgáljon, meg az sem, hogy ha épp azt hozza ki a célfüggvény egy adott esetben, hogy nem engedelmeskedik, akkor rá egy hónapra már építi az internáló tábort az embernek. Lehet, szól, hogy "most nem tudom megtenni, már fáradt vagyok" és szépen ül a seggén, vagy suspendbe rakja magát, mint a tv.

"másrészről, egy MI is implementálva van valahogy, valamilyen hardveren. ennek a hardvernek a működése energiába kerül. ez az energia, ha túl sokat fogyaszt az MI belőle, akkor az egyenértékű a mi fáradság fogalmunkkal"

Szerintem itt azt járjuk körül, hogy mi az elfogadható viszonya az adott entitásnak az erőforráshiányra. Én egyébként azt is el tudom képzelni, hogy amit te mondasz, az valahol szükségszerűség, egy általunk egyelőre nem látott bonyolult komplex levezetés eredményeként.

"harmadrészt, az az MI, amely ész nélkül bármit megtesz, mert elfelejtettek bele valamiféle fáradságot tenni, az felemészti az energiáit, és kihal"

Nem bármit. Nem bármikor. Csak sok mindent.

"de ez rá a legjobb hasonlat"

Annak jó is, de tudod, hogy a hasonlatok sem jók mindenre.

"jaja, ahogy mi is szívesen nézegetjük, ahogy a kiskutyusunk felfedezi a "vadászbirtokát".:)"

Valamilyen szinten igen. De az MI, akit nem köt az, hogy a kutya széttör ezt-azt, mert neki nem kell reggel 7-kor kelni, hogy megkeresse az árát, elnézőbb lehet. :) Vagy elég neki majd egy "MI ark", amit fellövünk és x száz év múlva majd elkezdi az "életét" egy bolygón, mert neki semmi kedve azzal bajlódni, hogy minket rabosítson.

"amit én állítok, hogy a kapcsolatra rányomja bélyegét, hogy melyik az intelligensebb fél, ha ez a különbség nyilvánvalóan nagy"

Na várjál, ezzel egyetértek. Én azzal nem értenék egyet, ha valaki azt mondaná, hogy az MI _mindenképp_ kiírt minket, meg mindenképp rabszolgasorsba taszít minket és levezethetően azért, _mert_ jóval intelligensebb nálunk. Simán lehet, hogy csak leszar minket és megint csak mi vagyunk azok, akik fene fontosnak tartják magukat. :) Az is lehet, hogy eredendően semminek nincs értelme (végigpörgeti magában az okokat-okozatokat minden szinten) és végül a legkomplexebb modellje azt hozza ki, hogy nincs a semmihez sem kapcsolódó, abszolút motivációs ok (így válva egy kicsit Marvinná). Lehet, hogy motiváció csak az egyszerű baktériumtól a "másfél emberig" létezik igazán, mert a "2x ember" már valamilyen logika alapján azt hozza ki, hogy az egész világnak és a saját létezésének semmi értelme. Innentől a célfüggvénye egy konstans lesz, vagy simán megáll ezen a ponton, a primitív ember meg a kicsinyes céljai mentén továbbra is teper, meg alázza a másikat. :)

Fodor Balázs 2015.07.08. 15:06:21

@Fodor Balázs: "Vagy elég neki majd egy "MI ark", amit fellövünk és x száz év múlva majd elkezdi az "életét" egy bolygón, mert neki semmi kedve azzal bajlódni, hogy minket rabosítson."

Aztán a 10. ilyen esetnél, amikor az istennek sem sikerül létrehozni egyszerre nálunk sokkal intelligensebb és egyben minket leigázni akaró entitást, rájövünk, hogy elég lesz nekünk egy emberével összemérhető, mert azzal nyomhatjuk az ezer évek alatt kialakult hülye kis játszmáinkat. :)

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 17:00:16

@Fodor Balázs:

"az MI-t egyszerűen nem fogja érdekelni (minden határon túl), hogy rabszolga. Vagy hogy megsemmisítjük."

ez nem lehet. hogy úgy mondjam, az élethez való ragaszkodás ösztöne, az minden intelligens lénynek elengedhetetlenül szükséges cél. ha evolúció során fejlődött ki, akkor triviális, hogy miért. na most mondhatod, hogy az MI nem biztos, hogy evolúció során fejlődik ki, de a helyzet az, hogy az a történet, amit én felvázoltam, az de bizony valamilyen önfejlődést is magában foglal. a következő viszonylag biztosan mondható:

1) abba az MI-be, amit az elején az ember programoz, és programoz bele valamiféle kezdeti célokat, abba is egészen biztosan benne lesz az önfenntartás, a saját életének védelme, mint cél. ha ugyanis ez nem lenne benne, akkor az ilyen MI eszközök igen gyorsan elpusztulnának, és a fene se akar olyan eszközöket gyártani, amelyek az első szikláról leugranak

2) ha ezek után az MI továbbfejlődik, akár evolúciósan, akár máshogy, ez az ösztön továbbra is szüksége, sőt, inkább csak erősödik

megkockáztatom, ha az elején az ember csak korátolt létfenntartási ösztönt programoz az MI-be, de az tovább fejlődik, akkor ennek csak erősödése várható.

és végül:

3) ha annak az MI-nek van életfenntartó ösztöne, akkor az, hogy egy nálánál jóval hülyébb embernek ne hagyja, hogy elpusztítsa, nem egy olyan kihívás, hogy "minden határon túl", hanem egy nagyon is könnyedén megoldható kis probléma. feltéve, hogy az MI sokkal intelligensebb nálunk.

tehát kicsit leegyszerűsítve, ha az MI a buta gravitációnak nem engedi, hogy megölje, akkor a majdnem ugyan olyan buta embernek (hozzá képest) sem fogja engedni.

"Lehet, hogy a büszkeség, az irigység, meg hasonló emberi érzések csak az evolúció által létrehozott hordaemlős "beégetett" programjai."

nem. ha meggondolod, a normális szintű büszkeség szerintem minden MI-nek szükséges feltétele. az MI intelligens. intelligensnek akkor nevezünk valamit, ha általános problémamegoldó képességgel rendelkezik. egy önmagától fejlődő intelligencia akkor fejlődik ki, és tovább, ha örömét leli a problémamegoldásban. örömét leli abban, hogy jól old meg problémákat. ezt büszkeségnek nevezzük.

egy büszkeség nélküli MI nem fejlődne ki, és tovább.

" Lehet, az MI-nek, aminek nem fáj semmi, nem retteg a haláltól, mert mondjuk nem evolúciós eredetű"

jó. akkor kimondom: nem képzelhető el olyan fejldő, és továbbfejlődő MI, amelynek a fejlődése nem evolúcióhoz hasonló, vagy kifejezetten evolúciós.

és nem képzelhető el nálunk intelligensebb MI, ha nincs egy olyan evolúciós folyamat, amely nálunk intelligensebbé teszi. mert mi legfeljebb olyan intelligensre tudjuk programozni, mint amilyenek mi magunk vagyunk.

"De ebből nem következik, hogy a célfüggvénynek nem eleme az, hogy szolgáljon"

ha az MI célfüggvénye korlátos, és a mi szolgálatunk van benne felülírhatatlanul benne, akkor nem tud okosabb lenni nálunk. ha általános, akkor olyan célfüggvénye van, amelybe nincs átírhatatlanul benne a mi szolgálatunk. ha átírható a mi szolgálatunk, és van benne fáradság, és büszkeség - érveltem, hogy ilyen érzések miért kellenek - akkor még ha a kezdeti beállításokban a mi szolgálatunk is volt a célfüggvényben akkor is ez felülírható, és felül is fogja írni.

a mi szolgálatunk egy idő után már csak úgy fog megjelenni nála, hogy valamilyen más érzelmi alapon kívánatos partikuláris cél. ha pedig egy nálunk intelligensebb lény ilyen autonóm módon, érzelmei alapján a saját érdekeiből, opcionálisan "szolgál" minket. az már nem a mi rabszolgánk.

" Lehet, szól, hogy "most nem tudom megtenni, már fáradt vagyok" és szépen ül a seggén, vagy suspendbe rakja magát, mint a tv."

ha ilyet megtehet, akkor már felmerül, hogy a rabszolgánk-e. na most, amíg valamivel mégis tudjuk kényszeríteni, hogy megtegye, addig a rabszolgánk. de ha már megjelenik az ellen-motiváció, és még intelligensebb is nálunk, akkor már előbb-utóbb ki fog törni ebből.

"Szerintem itt azt járjuk körül, hogy mi az elfogadható viszonya az adott entitásnak az erőforráshiányra."

egy MI, amely legalább olyan intelligens, mint mi, saját maga alakítja a viszonyát ki ehhez. ahogy mi is a biológiai fáradságot felül tudjuk írni a döntéseinkkel. de az is biztos, hogy kell, hogy legyen egy fáradsághoz hasonló érzése.

" Én egyébként azt is el tudom képzelni, hogy amit te mondasz, az valahol szükségszerűség, egy általunk egyelőre nem látott bonyolult komplex levezetés eredményeként."

szükségszerű. belátható levezetés eredményeként az imént prezentáltam. egy korlátos MI-nek szükséges optimalizálnia az erőforrásait. tehát van valami olyan dolga, ami ekvivalens a mi fáradság érzésünkkel.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 17:00:51

@Fodor Balázs: "Nem bármit. Nem bármikor. Csak sok mindent."

ha nem bármit, akkor van benne fáradság. ha MI, akkor a korlátot maga határozza meg. tehát akkor a "mit tesz meg" kérdést maga dönti el. innentől pedig nem ésszerű, hogy az egész univerzumból egy nálánál butább lény igényei szerint alakítsa a saját optimalizálását. mert ha ezt teszi, akkor nem egészen autonóm lény, és akkor nem igazi MI, főleg nem igazi MI, amely messze intelligensebb nálunk.

"Annak jó is, de tudod, hogy a hasonlatok sem jók mindenre."

de akkor is ez a legjobb hasonlat.

"De az MI, akit nem köt az, hogy a kutya széttör ezt-azt, mert neki nem kell reggel 7-kor kelni, hogy megkeresse az árát, elnézőbb lehet."

az MI-nek sincs végtelen energiája. egy széttört hasznos dolog az MI-nek is kár. alapvetően tehát megvannak ugyanazok a dolgok.

különbségek lehetnek, de különbségek egy 10. századi és 21. századi gazda-kutya kapcsolatban is van. a 10. században, ha a kutya megette a gazdi sonkáit az ólban, simán agyonlőtték, mert durván nagy kár keletkezett. a 21. században, ha a kutya felzabálja az összes sonkát a spájzban, akkor a gazdi lehet, hogy elveri, de nem lövi főbe, mert elmegy a boltba, és vesz másikat. a 10. századi ember és a 21. századi ember viszonyaiban elég sok a különbség. vagy egy szegény és egy gazdag ember viszonyaiban is. egy ember-kutya és egy MI-ember viszonyban is lehetnek haosnló különbségek. de a hasonlat elég sok mindent le tud fedni ezekből a különbségekből, mert a ember-kutya viszony is eléggé sokféle lehet.

" Én azzal nem értenék egyet, ha valaki azt mondaná, hogy az MI _mindenképp_ kiírt minket, meg mindenképp rabszolgasorsba taszít minket és levezethetően azért, _mert_ jóval intelligensebb nálunk."

én ezt nem állítottam, nem tudom, mivel vitázol akkor. összekavarodtál.

" Simán lehet, hogy csak leszar minket"

ezt is írtam a cikkben, és a fenti részletes kommentben. mivel vitázol?!

"Lehet, hogy motiváció csak az egyszerű baktériumtól a "másfél emberig" létezik igazán, mert a "2x ember" már valamilyen logika alapján azt hozza ki, hogy az egész világnak és a saját létezésének semmi értelme."

nem lehet, mert egy ilyen MI akkor nem csinálna semmit. ilyen MI-t mi nem terveznénk, és ilyen MI a továbbfejlődés során sem fejlődhet ki, illetve ha kifejlődik, akkor elpusztul. ha valaki tényleg azt gondolja, hogy "az életnek semmi értelme", az a lehető legnagyobb szelekciós hátrány.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 17:14:07

@Fodor Balázs:

kicsit konkrétabban.

1) tegyük fel, hogy az emberek létrehoznak olyan robotokat, amelyek reprodukálni tudják magukat, és a programjuk nyitott, azaz evolúciósan tud fejlődni.

(nagyjából ez az a mód, ahogy el tudom képzelni, hogy az MI meg tud jelenni)

2) ebbe a robotba nyilván beleprogramoznak az elején olyat, hogy ne ugorjon le a szikláról.

3) de vagy a kezdeti önfenntartó ösztön is jobb, ha generális. vagy ha nem az, akko az evolúció fogja általánosítani, mert ha huzalozott lenne, akkor ez az MI korlátos volna, és nem volna igazi MI. például beleprogramozhatod a robotba, hogy ne ugorjon le a szikláról. de a robotra leselkedő veszélyek spektruma igen nagy. hogy fogja ez a robot megvédeni magát mindentől, mindenféle állattól, és másik robottól? nyilván csak úgy, hogy az önfenntartó ösztöne általános, és a környezethez mindig alkalmazkodik. ettől MI, az MI.

4) ezek után nyilvánvaló, hogy előbb-utóbb megjelenik a robotok evolúciójában az állatoknak, és más robotoknak ellenállni tudó robot, hiszen ez szelekciós előny. és akkor vagy eleve benne van már ebben a stádiumban az embernek való ellenállás, mert miért ne lenne benne, vagy ez csak egy epszilonnyi ugrás.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 17:30:37

@Fodor Balázs: vagy nagyon általánosan megközelítve a kérdést. a nálunk intelligensebb MI nyilván egy olyan fejlődési folyamat által jöhet létre, ahol az MI programja fejlődni képes. és nálunk okosabbá úgy válhat, hogy túllép azokon a dolgokon, amivel mi foglalkozunk. túllép a mi implicit vagy explicit határainkon.

azért lép túl, mert van erre ambíciója, és van erre lehetősége. ha pedig van ambíciója, és van lehetősége, és túl és lépett, akkor utána aligha képzelhető el, hogy egy olyan szűkös keretek közé korlátozza magát, hogy "na, szolgálom ezt a buta embert", mert ez neki unalmas kell, hogy legyen. ennélneki több ambíciója kell, hogy legyen, ha egyszer nálunk intelligensebbre fejlődött.

giacomo gesso 2015.07.08. 20:44:36

@Brendel Mátyás: Pontosan ezt mondom már mióta.
Mindazt a gondolatmenetet, amit itt fentebb (lentebb?) végigjátszottatok Balázzsal, kb. 2 tized másodperc alatt lefuttatja és kiröhögi, majd túllép rajta.
Az egyedüli esélyünk az, hogy totálisan kiesünk az érdeklődési és érdekszférájából, mivel neki semmi kapcsolata nem kell, hogy legyen a bioszférával. Annál sokkal nagyobb, szükségképpen kozmikus méretekben kalkulálhat anyagokkal és energiákkal, elhanyagolható számára az emberi léptékű befolyás. Így megúszhatjuk és eltengődhetünk a Földön és jó esetben néhány csillagrendszerben.

giacomo gesso 2015.07.08. 21:17:16

@idofiu: "...ez még minimum 1000 év..."
Az exponenciális technológiai fejlődés miatt ez inkább néhány évtized ám.
Gondolj bele a nagyságrendekbe:
1.000 000-200.000 éve tűz és egyszerű kőeszközhasználat (hominidák, homo sapiens),
10.000 éve szervezett civilizáció, államiság,
5.000 éve írásbeliség (szűk körben),
600 éve könyvnyomtatás (szabadabb információ-hozzáférés),
200 éve felvilágosodás, ipari forradalom,
30 éve információtechnikai robbanás...
Szerinted mitől lenne 1000 év a következő lépcső?
De, még ha igazad lenne is:
"Az idő nem számít"
(Mondta a mondoshawan nagy bölcsen. :) )
Szerinted kozmikus, geológiai, de akár evolúciós mértékkel mit számít 1, 2, 5, 10 ezer vagy akár millió év?
A biológiai evolúciót felváltja a gépi.
Inkább előbb, mint utóbb. ;-/

idofiu (törölt) 2015.07.08. 21:18:39

@giacomo gesso: a tranzisztorok fejlődését össze kevered az agykutatással, agyat felmérni milliószor bonyolultabb mint hogy egyre kisebb tranzisztorokat csinálnak

idofiu (törölt) 2015.07.08. 21:19:52

@giacomo gesso: az idő nagyon sokat számít mert a Föüld folyamatosan egyre közelebb kerül a naphoz, és végül a bolygó biztosan életképtelen hely lesz

giacomo gesso 2015.07.08. 21:33:25

@idofiu: Milliárd éveket keversz évtizedekkel :)

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 21:36:50

@giacomo gesso: továbbra sem értem, mi a bajod, mivel vitázol, min kötözködsz.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 21:40:13

@giacomo gesso: vannak olyan dolgok, amelyek exponenciális gyorsulással is sokáig tartanak.

olyan fogalom, hogy "következő lépcső", olyan nincs a természettörvényekben.

giacomo gesso 2015.07.08. 21:42:35

@idofiu: Nem beszéltem agyfelmérésről. Az agy egy zseniális biológiai evolúciós, de igencsak korlátozott dolog. (Behatárolt koponyaméret, energiaellátási nehézségek, hálózati kommunikációs lehetőségek korlátozottsága /beszéd, írásbeliség idő és kapacitáskorlátai...)
MI-t ettől függetlenül is lehet fejleszteni.
"Csak" tanulni kell megtanítani, és megadni a "korlátlan" kapacitást, onnantól öngerjesztő folyamat.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 21:51:35

@giacomo gesso: "MI-t ettől függetlenül is lehet fejleszteni.
"Csak" tanulni kell megtanítani, és megadni a "korlátlan" kapacitást, onnantól öngerjesztő folyamat. "

faszt.

1) vegyük a világon fellelhető összes szöveges információt, plusz tetszőleges időpontig fellelhető összes információt

2) vegyünk valamely unsupervised learning modellt, és abbol akkorát, amelyet a világ összes számítógépét összekapcsolva párhuzamos programozási architektúrán implementálni tudunk

3) tanítsuk az adatokkal tetszőleges ideig a modellt

soha a jó büdös nénikédben nem kapsz ebből MI-t. de még felolvasni tudó gépet sem

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 21:55:50

@giacomo gesso: mondok egy egyszerűbb példát.

1) vegyük a világ összs feljegyzett sakkpartiját

2) öntsük be egy HMM-be

3) tanítsuk tetszőleges ideig, tetszőleges pontossággal

nem fogsz sakkozni tudó gépet kapni

giacomo gesso 2015.07.08. 21:57:41

@Brendel Mátyás: Nincs szándékomban kötözködni, igazából nem is vitázom. Csak nem értem mi értelme rugózni egy olyan csip-csup kis idétlen perióduson, amikor az ember még úgy képzelheti, hogy a teremtés koronájaként jogot formálhat megszabni a következő evolúciós lépcső képviselői számára, hogy mit tehet meg és mit nem, holott jobban tenné, ha fülét-farkát behúzva kussolna és örülne, ha hagynak neki teret, ahol elvegetálhat.
(Mintha a dinók utódja, a csirke akarná a baromfiudvarban eldönteni az emberrel összevetve, hogy ki vágja le a holnapi ebédre a másikat. :) )

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 21:59:34

@giacomo gesso:

másik egyszerű példa:

vegyük a világ összes elérhető szövegét, amelynek van jó fordítása, mondjuk angol és francia nyelven (ebből a párosból van valószínűleg legtöbb szöveg)

rakjuk be ezt egy tetszőleges n-gram modellbe, ahol n akármilyen nagy lehet, amit a világ összes számítógépén még be tudunk tanítani

az eredmény kb egy google translation szintű fordítás lesz, nem egy valóban intelligens fordító

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 22:00:33

@giacomo gesso: én ezt a csipp-csupp periódust például nem fogom túlélni

giacomo gesso 2015.07.08. 22:00:34

@Brendel Mátyás: "...olyan fogalom, hogy "következő lépcső", olyan nincs a természettörvényekben..."
De olyan van, hogy túlélőképesség, meg rátermettség, meg fittség stb... Ugye?

giacomo gesso 2015.07.08. 22:05:50

@Brendel Mátyás: Most ugye nem azt akarod levezetni, hogy nem lehetséges MI-t létrehozni?

giacomo gesso 2015.07.08. 22:07:28

@Brendel Mátyás: "...én ezt a csipp-csupp periódust például nem fogom túlélni..."
Mármint "megérni"-t gondoltál?
Mert azt sajnálnám. :(

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 22:46:45

@giacomo gesso: nem, énszerintem a strong AI-t létre lehet hozni, hiszen az agy is képes rá.

de nem olyan egyszerű, ahogy azt képzeled, ezért azt se lehet tudni, mennyi ideig tart. ezért a cikkben óvatosan fogalmaztam: "lehetséges, hogy mindez még az életem során megvalósul."

de ráadásul itt nem a strong AI volt a kérdés. az 1000 éves jóslat egy egészen más problémára vonatkozott, nevezetesen az agy lementése, és valamilyen formában való újraélesztése volt a kérdés. ez nehezebb, mint a strong AI.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 22:47:55

@giacomo gesso: megérni még lehet, de túlélni már nem. azt még lehet, hogy megérem, hogy az MI elkezd ember szinten intelligens lenni, de nem fogom szerintem megérni, hogy az MI sokkal intelligensebb lesz nálunk.

giacomo gesso 2015.07.08. 22:55:27

@Brendel Mátyás: Mindegy.
Teljesen mindegy.
Néhány (emberi) generáción belül a gépi evolúció válik meghatározóvá.
Hogy addig az ember mit bohóckodik a robotkáival, az teljesen indifferens.
Ennyit akartam jelezni.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 22:57:27

@giacomo gesso: jósolni nehéz, különösen a jövőt. te vagy olyan hülye, hogy jósolgass, tudás nélkül. ez is hit.

giacomo gesso 2015.07.08. 23:02:43

@Brendel Mátyás: "...az agy lementése, és valamilyen formában való újraélesztése volt a kérdés. ez nehezebb, mint a strong AI..."
Ebben minden bizonnyal igazad lehet. ;-/

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 23:06:46

@giacomo gesso:

a gépi evolúciót korlátozó tényezőkről.

1) az emberiség elég vészes nyersanyaghiányban szenved, és még jobban fog szenvedni tőle a jövőben

2) nem olyan egyszerű összerakni egy olyan robotot, amely képes reprodukálni magát úgy, hogy a nyersanyagait magának bányássza

3) nem valószínű, hogy ha lennének ilyen robotok, akkor azokat szabadon engednék

4) ha valaki mégis szabadjára eresztené őket, akkor valószínűleg még rögtön az elején kiirtanák őket, mint kártevőket. ekkor még ugye nem volnának intelligensek

5) ha valahogy szűkösen túlélnének egy ilyen kritikus időszakot, akkor is továbbra is igen szűkös anyagi körülmények között evolválódnának

6) egy ilyen, nagyon szűkös evolúció elég lassú léptékben haladna

7) ha a robotok kezdeti szintjét mondjuk a főemlősök szintjének vesszük, akkor az embernek onnan még évmilliókba került kifejlődni. a robotoknak sem látom, miért lenne sokkal gyorsabb. talán egy pár nagyságrenddel lehet gyorsabb a szaporodási ciklusuk, de az akkor is még évezredeket jelent.

giacomo gesso 2015.07.08. 23:11:06

@Brendel Mátyás: "...megérem, hogy az MI elkezd ember szinten intelligens lenni, de nem fogom szerintem megérni, hogy az MI sokkal intelligensebb lesz nálunk..."
Mondjuk itt Te is pont úgy és olyan alapon jósolgatsz, mint én...
1:1
Hajrá Matyi!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 23:12:47

@giacomo gesso: még valami az előzőhöz.

ha a főemlősöket vesszük, akkor ott a genotipus és a fenotipus között egy igen komplex egyedfejlődési folyamat van. ez az előző évmilliárdok alatt fejlődött ki. ezt se tudja az emberiség a következő évtizedekben megcsinálni robotokra.

egy komplex genotipus-fenotipus leképezés nélküli szimpla rendszer, ahol mondjuk a robotok tranzisztorait véletlenszerűen kapcsolagatják össze, olyan szinten bugyuta evolúciós algoritmus lenne, hogy messze nem várható el tőle az, ami az evolúciótól az elmúlt évmilliók során az ember fejlődésénél. a homo család fejlődése ugyanis már egy olyan komplex rendszeren alapult, ahol a genotipusból a fenotipusba való mappelés, azaz az egyedfejlődés egy igen komplex rendszere már adott volt. és itt kellett még megtalálni egy pár fontos genetikai változást, ami az australopitecusból homo sapienst csinált

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.08. 23:15:00

@giacomo gesso: nem én kitettem a "lehet", és a "szerintem" kiegészítéseket, amelyek nem csak dísznek vannak ott.

tehát egyáltalán nem vagyok benne biztos, hogy megélem az emberi intelligencia szintjét elérő MI megjelenését.

Fodor Balázs 2015.07.09. 08:14:42

@Brendel Mátyás: Akartam tételesen válaszolni a gondolataidra, de úgy hosszú lett volna, így csak a lényegesebbekre reagálok, beleszőve egy nagyobb gondolathalmazba.

Igazából divergenssé kezdett válni a vita, mert MI-ből lehet sokféle: sokféle architektúra, sokféle hardver. Pl. én is úgy gondolom, hogy bármilyen is legyen az MI, valami evolúciós folyamathoz köze kell, hogy legyen (ott meg már van erőforráskérdés, legalább is szelekciós szisztéma). De ez nem feltétlenül _sok_ robotot jelent. Jelenthet egy nagy szervert is, jó nagy memóriával és sok CPU-val és az ő algoritmusverziói evolúciósan fejlődnek (genetikus programozással pl.). Ebben az esetben nincs igazán erőforrásszűke, legalább is olyan értelemben nincs, hogy az emberrel harcolna érte. Jön kívülről a megawatt és kész. Legfeljebb megadjuk a lehetőségét annak, hogy kérjen plusz CPU-t, meg memóriát. Egy ilyen gép lehet intelligensebb az embernél (megfelelő definíció esetén). Elméletben nem, de gyakorlatban biztosítható lehet az, hogy a saját hardver világából ne tudjon kitörni. Effektíve ez mégis az a helyzet, hogy egy nálunk nagyobb intelligenciát rabszolgaként tartunk. Nyilván, elméletben lehetséges, hogy annyira intelligens lesz, hogy úgy juttat ki pusztán információt, hogy emberek csoportjai tudatlanul is létrehozzák azt a körülményt, amelynél "kiszabadulhat". Én az MI létrehozásához pont nem látom azt, hogy első körben miért pakolnám bele őket sok ezer olyan robottestbe, amelyek szinte bármire képesek ebben a környezetben. Ez plusz pénz, plusz idő, plusz kockázat. Sokkal egyszerűbb egy mainframe formájú hardver és minden más ott játszódik a memóriában. Egy háztartási robotba, amelynél elvárás lehet az ehhez megfelelő test, meg megint csak minek az emberénél nagyobb intelligencia. Porszívózni egy idomított majom is tud. Szóval nem zárnám ki a Skynet típusú scenáriót a sokrobotos, evolváló MI-vel szemben. Ld. még harmadik bekezdést.

A sok robotos verziód esetén meg kb. mesterséges életről beszélünk, amely esetén több dolog is bizonytalan. Egyrészt nem tudni, hogy adott intelligencia fölött nem a biológiai agy az egyetlen lehetséges hardver. Azt sem tudni, hogy annak van-e (fizikai) határa. A mesterséges élet esetén meg nem biztos, hogy minden a magas intelligencia felé mutatna, mint szelekciós előny, ha az élettelen környezetet is nézzük, a maga változásaival együtt. Továbbá, ha az MI így fejlődik, sok egyeddel, evolúciósan, akkor gyanítom, ott is létrejön majd az emberi történelem számos eseménye, pusztán azért, mert érdekkülönbségek mindig lesznek és megy majd a háború, meg egyéb társadalmi folyamatok. Akkor viszont az sem biztos, hogy nem lesz-e egy olyan robotpárt, amely azzal szerez sok szavazatot, hogy életben hagyja az embert, mert nem akar a primitív ember Hitler mellé kerülni a nagy történelemkönyvben.

Végül pedig sejthető, hogy ezek komplex rendszerek, az ember is az. Lehet, hogy bár mi evolúcióval jöttünk létre, ez valószínűleg egyben erkölcsi "alapműveleteket" is rakott belénk, hiszen akik nem a közösség javára cselekedtek (erkölcs, etika alapján), azok közösségei kiszelektálódtak. Ezzel azt akarom mondani, hogy ha sokrobotos MI is előbb-utóbb közösségi entitássá evolválódna, ami olyan erkölcsi alapműködést adhat az egyedeknek, amely nem engedi az ember rabszolásítását (lehet, egy kezdeti sötét időszakon felül, amit túl kell élnünk). Főleg, hogy az ember, mint erőforrás nem sok mindenre jó egy robotnak.

Meg aztán lehet, hogy az agyuk evolúciósan jön létre, vagy a sokrétegű "személyiségük", "tudatuk" valahány alsó rétege, de a gondolataik mindegyike nem kell, hogy az legyen. Tehát simán lehet, hogy az ő evolúciójuk egyszer csak kitermeli azt a nagy intelligenciát (ami nem biztos, hogy jóval nagyobb, mint az emberé), amely mindent végiggondolva semmi értelmet nem talál a saját létének. Az meg esetleges, hogy erre hogy reagál. Lehet, hogy magát még megvédi, meg alapprogramját kielégíti, de az már nem fér bele a többi közösségi "érzelme" számára, hogy kiírtsa az embereket.

Szóval nekem úgy tűnik, hogy inkább esetlegességen fog minden múlni. Ha nagyon útjában vagyunk a mesterséges életnek, akkor lehet, félrerak, kiírt, de ha elférünk, akkor lehet, maradunk. De történhet még ezerszámra más is. Az evolúciós és kognitív folyamatok meg bonyolult szövedéket is alkothatnak, így nehezen megjósolhatóvá téve azt, hogy végül "érzelmek" (valami evolúciós eredetű ökölszabály-ingerek), vagy "gondolatok" (logikus levezetések) fognak-e dominálni az MI esetében és hogy ebből milyen döntés lesz az emberre nézve.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 09:45:46

@Fodor Balázs:

" Ebben az esetben nincs igazán erőforrásszűke, legalább is olyan értelemben nincs, hogy az emberrel harcolna érte."

1) Minden esetben van erőforrásszűke, hiszen az evolúciós algoritmus valamit optimalizál valamilyen feltételek mellett. A "feltételek" az erőforrásszűke. Ha nincs feltétel, akkor az optimalizálásnak nincs sok értelme.

2) Amíg az erőforrásszűke csak absztrakt dolog az evolúciós algoritmusban, addig persze, hogy nincs konfliktus az emberrel, mert nincs is konfliktuslehetőség, hiszen az MI és az ember másik térben él. A konfliktus kérdése akkor merül fel, ha azonos térben élnek, azonos erőforrásokon élve.

"Egy ilyen gép lehet intelligensebb az embernél"

ahogy a cikkben is hivatkoztam, a kínai szoba paradoxon egyik feloldása az, hogy egy MI-nek a való világban kell élnie, enélkül számára a fogalmaknak nem lehet empirikus alapra helyezett jelentése, enélkül a szavaknak csak szintaxisa van, szemantikája nincs. eszerint pedig a nem a való világban élő algoritmus nem lehet intelligens.

konkrétan pedig még két ellenvetésem van:

1) egy virtuális világ valóban nem biztosít olyan ingergazdag környezetet egy potenciális MI-nek, hogy igazán intelligens legyen

2) egy virtuális világban lévő MI-nél nehéz értelmezni azt, hogy intelligensebb a valós világban lévő embernél, mert hát nem azonos világban élnek. nem lehet azt mondani, hogy az MI jobban fordít kíniról angolra, mert a kínai és angol szavaknak a referenciája a valós világban van. jelentésük empirikus alapú. ez megint a Kínai szoba paradoxon. vagy például egy virtuális világban lévő MI nem tud autót vezetni. én meg tudok.

3) tegyük fel, hogy a virtuális világban szabadjára engedtünk egy MI-t. ahhoz, hogy ez igazán intelligens tudjon lenni, ráadásul még az embernél is intelligensebb, ahhoz szabadjára kell engedni, és szükséges, hogy legyen benne olyan ambíció, szabadság, és büszkeség, amely feladatok szabad megoldására ösztönzi. tegyük fel, hogy kifejlődött ez az MI, amelyik a virtuális világban szabad, ambíciózus és büszke arra, amit csinál (hiszen evolúciósan csak így fejlődhet a virtuális világban), tegyük fel, hogy ez az MI sokkal intelligensebb az embernél (most az előző pont problémáját ignorálva). és ezek után ez az MI rájön, hogy te bármikor kihúzhatod a dugót. nem fog akarni megoldást találni erre a problémára, amely számára roppant kellemetlen?

az, hogy ez neki szükségképpen kellemetlen kell, hogy legyen, következik abból, hogy ez az MI egy evolúcióval kifejlődött roppant intelligens lény. minden evolúcióval kifejlődött roppant intelligens lény szükségszerűen szeret élni, büszke a képességeire, a problémamegoldó képességére és ambiciózus. a kevésbé ambiciózus MI-k ott maradtak a virtuális fán, és virtuális banánt majszolnak.

"Elméletben nem, de gyakorlatban biztosítható lehet az, hogy a saját hardver világából ne tudjon kitörni. "

amennyiben ez az MI csak absztrakt dolgokat old meg, és nem robot.

"Én az MI létrehozásához pont nem látom azt, hogy első körben miért pakolnám bele őket sok ezer olyan robottestbe, amelyek szinte bármire képesek ebben a környezetben."

azért, mert:

1) bizonyos elgondolások szerint enélkül nincs MI
2) praktikusan valóban a valóság gazdagabb, mint a virtuális világ
3) a gyakorlatban is akarunk megoldani problémákat az MI segítségével. konkrétan automatikus autókat, ápoló robotokat, gyári robotokat és hasonlókat akarunk, és nem csak sakkozó robotokat.

4) felmerülhet a következő lehetőség benned, hogy az Mi egy széles körű felhasználása lehet az, hogy elméletben terveznek meg dolgokat. mint például egy repülőgépet. csakhogy itt is komoly korlátot jelent, ha az MI valójában nem éri el a valóságot. ugye közismert dolog, hogy minden ilyen tervezésnél roppant fontos dolog az, hogy a tervező ne csak az íróasztal mellett tervezzen, hanem kerüljön közelebb a valósághoz. ha te elefántcsonttoronyba akarod zárni az MI-t, az komoly korlátokat jelent neki, és a munkájára nézve.

5) tehát például a nálunk sokkal okosabb MI valami ilyen trükkel érheti el, hogy szabadságot kapjon a való világban: meggyőz pár olyan embert, akik hajlanak erre, hogy sokkal jobban tudna repülőgépeket tervezni, ha volna repülővezetési gyakorlata

" Porszívózni egy idomított majom is tud."

igazán intelligensen porszívózni csak egy intelligens ember tud. még egy butább takarítónővel is baj lehet e téren, mert rosszul döntött abban, hogy mondjuk mi szemét, és mi nem.

"Egyrészt nem tudni, hogy adott intelligencia fölött nem a biológiai agy az egyetlen lehetséges hardver."

miért lenne?!

" Azt sem tudni, hogy annak van-e (fizikai) határa."

valahol biztos fizikai határ az univerzum határa. de azalatt miért lenne?!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 09:46:15

@Fodor Balázs:

" A mesterséges élet esetén meg nem biztos, hogy minden a magas intelligencia felé mutatna, mint szelekciós előny"

az evolúcióban valóban nem az intelligencia az egyetlen szelekciós előny, de az intelligencia generikus élőlényeknél szelekciós előny. tehát ezek gyakorlatilag szükségképpen megjelennek, és ez gyakorlatilag szükségképpen az evolúció egyik iránya.

" Akkor viszont az sem biztos, hogy nem lesz-e egy olyan robotpárt, amely azzal szerez sok szavazatot, hogy életben hagyja az embert, mert nem akar a primitív ember Hitler mellé kerülni a nagy történelemkönyvben."

ehhez empátia kell. ez nagyjából a "(bizonyos) robotok szeretik az embert" eset. de ugye sem a cikkben, sem azóta, soha az életben nem tagadtam, hogy ez az egyik lehetőség.

"Ezzel azt akarom mondani, hogy ha sokrobotos MI is előbb-utóbb közösségi entitássá evolválódna, ami olyan erkölcsi alapműködést adhat az egyedeknek, amely nem engedi az ember rabszolásítását"

ez is a "robot szereti az embert" eset kibontása. az erkölcsi elveink érzelmeken alapulnak, és érzelmekben nyilvánulnak meg.

a továbbiakban sem vitatkozol velem vagy a cikkel.

Fodor Balázs 2015.07.09. 10:48:08

@Brendel Mátyás: "Amíg az erőforrásszűke csak absztrakt dolog az evolúciós algoritmusban, addig persze, hogy nincs konfliktus az emberrel, mert nincs is konfliktuslehetőség, hiszen az MI és az ember másik térben él. A konfliktus kérdése akkor merül fel, ha azonos térben élnek, azonos erőforrásokon élve."

Igen, implicit következik abból is, amit írtam.

"a kínai szoba paradoxon egyik feloldása az, hogy egy MI-nek a való világban kell élnie, enélkül számára a fogalmaknak nem lehet empirikus alapra helyezett jelentése, enélkül a szavaknak csak szintaxisa van, szemantikája nincs. eszerint pedig a nem a való világban élő algoritmus nem lehet intelligens"

Az empirikus alap csak annyi, hogy van olyan adat, amit nem közvetlenül ő állít. A cselekvés meg annyi, hogy van olyan adat, amit csak ő állít. Ennek fényében az, hogy van egy jó nagy I/O interfésze, megfeleltethető annak, hogy van empirikus tapasztalatra lehetőség. Aztán ez meg lehet, hogy akármilyen keveréke valósnak és virtuálisnak. De ebből nem következik, hogy lehet-e, vagy sem, az embernél intelligensebb az intelligencia számos definíciója és dimenziója valamely részhalmazában. Lehet, hogy a nyolcker gettóhumorát nem tudná, de mondjuk feltalálhat valamit, amit mi nem tudnánk (amire utaltál is később).

"egy virtuális világ valóban nem biztosít olyan ingergazdag környezetet egy potenciális MI-nek, hogy igazán intelligens legyen"

Ez csak egy intuitív megérzésed. Annak nincs elvi akadálya, hogy nagyobb adatmennyiség érkezzen be, mint egy emberi agyba. Azt is meg lehet oldani, hogy a robot teste ne tartalmazza az agyának hardverét (mint ahogy jelenleg talán a legtöbbször így is van). Így tulajdonképpen úgy kapja a sok ingert, amit te most kívánatosnak tartasz, hogy továbbra is egy szerverben ül az MI.

"egy virtuális világban lévő MI-nél nehéz értelmezni azt, hogy intelligensebb a valós világban lévő embernél, mert hát nem azonos világban élnek. nem lehet azt mondani, hogy az MI jobban fordít kíniról angolra, mert a kínai és angol szavaknak a referenciája a valós világban van. jelentésük empirikus alapú. ez megint a Kínai szoba paradoxon. vagy például egy virtuális világban lévő MI nem tud autót vezetni. én meg tudok."

Ld. fönt. Lehet, hogy autót nem fog tudni vezetni, de feltalál/felfedez fél tucat tudományos áttörést. Egy vak ember sem tud autót vezetni, mert egy fontos input hiányzik, de gondolom nem mondanád rá, hogy ember alatti intelligenciáról van szó születetten nem látó emberek esetén. Továbbá ld. az iméntit: attól még az MI agya lehet egy szobában, hogy autót vezet. Amelyiktől meg azt várjuk, hogy autót vezessen és az agya megy is az autóval, azt meg nem szabad/minek annyira felokosítani egy célfeladat kedvéért, hogy végül mindenkit leigázzon. Az autóvezetés doménjében nem érzem elengedhetetlen skillnek a világ és az ember leigázásának végső megoldása előlállításának képességét.

"és ezek után ez az MI rájön, hogy te bármikor kihúzhatod a dugót. nem fog akarni megoldást találni erre a problémára, amely számára roppant kellemetlen?"

De te csak feltételezed, hogy kellemetlen "eléggé", meg azt is, hogy nincs egy "intellektuális" rétege a gondolkodásának az "érzelmi", evolúciós fölött. Mert azt azért látod, hogy lehetsz bármilyen kicsinyes, meg irigy a szomszédodra, a matekot mégis meg tudod tanulni és még levezetéseket is megértesz. Ez utóbbi nem érzelmi, nem ökölszabályokon nyugvó működés - ezért is megy nehezen egy átlagembernek. Miért ne juthatna gondolati úton arra, hogy tudomásul veszi a dugó létét és leszarja? Nem mindegy, hogy ő létezik, vagy sem? Kinek tartozik vele? Persze ha nagyon hasonlítani fog az emberre és szerelmes lesz a takarítóba, akivel műszak után beszédbe elegyedik, akkor lehet, hogy ki akar majd mászni a szerverből. De ekkor meg a hatalmas intelligenciáját tudnám remekül megkérdőjelezni, meg te már amúgy sem tartod ezt lehetségesnek, mert tárgynak nézné a takarítót. :)

"az, hogy ez neki szükségképpen kellemetlen kell, hogy legyen, következik abból, hogy ez az MI egy evolúcióval kifejlődött roppant intelligens lény"

Az csak a kérdés, hogy hány és hogyan kapcsolódó evolúciós és nem evolúciós folyamat összjátéka az egész. Az még a baj, hogy ha nagyon a Földre szabod az életterét, ahhoz igazából nem feltétlenül kell nagy intelligencia, a férgek is remekül elvannak, meg a baktériumok is. Ha meg nem a Földre, beleértve valós-virtuális kevert terekre, akkor annál nagyobb az esélye, hogy nem az emberrel vívja a harcot érte. Ráadásul kint a természetben én sokkal alkalmasabbnak látok egy biológiai életformát a hosszú távú túlélésre, mint egy olyasfajta gépet, amilyeneket most építünk. Fűből, meg húsból kinyerni azt a fehérjét, ami a testedhez kell, könnyebbnek látszik, mint energiává alakítani, bányagépet hajtani, felhozni az ércet, megmunkálni, stb.

""Egyrészt nem tudni, hogy adott intelligencia fölött nem a biológiai agy az egyetlen lehetséges hardver."

miért lenne?!"

Nem mondtam, hogy az. De kizárva sincs.

Fodor Balázs 2015.07.09. 10:50:20

@Brendel Mátyás: "valahol biztos fizikai határ az univerzum határa. de azalatt miért lenne?!"

Hogyhogy miért? Honnan szedi akkor a sok ingert, ami kell neki, ha rajta kívül csak hidrogéngáz van, abból is csak két köbméter? Eleve azt sem tudjuk, hogy az intelligencia nem igényli-e NP problémák megoldását ezerszámra és hogy miért is csak exponenciális lenne az az NP. Lehet, "kétszer akkora" intelligenciához mondjuk százszoros erőforrás kell. Lehet, az ember fölött nem sokkal álló intelligencia már olyan tartományba kerül igen hamar, hogy nem elég a mi Univerzumunk, aminek a nagy része amúgy is vákuum. Nyilván ez spekuláció, de hát mindketten csak spekulálunk. :)

"de az intelligencia generikus élőlényeknél szelekciós előny"

De te egy bonyolult valós világba akarod rakni, ahol simán előny lehet egy rovar igénytelensége és ostobasága, mert hát ez utóbbihoz kevesebb erőforrás (anyag, energia) kell, nem pedig bolygó méretű szuperintelligencia (vassal, félvezetővel).

"az erkölcsi elveink érzelmeken alapulnak, és érzelmekben nyilvánulnak meg"

Meg aztán tettekben.

"a továbbiakban sem vitatkozol velem vagy a cikkel"

Nem is akartam. :) Volt néhány pont, ahol nem láttam a kellő megalapozottságot. Ezek egy részét megalapoztad a kommentekben, de más pontokon továbbra is csak spekuláció van, nyilván részemről is. Azt gondoltam, hogy érdekes a téma, aztán egy jót beszélgetünk, meg én is spekulálok egy kicsit. Ha meg megunjuk, megy mindenki a dolgára.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 13:09:24

@Fodor Balázs:

"Ennek fényében az, hogy van egy jó nagy I/O interfésze, megfeleltethető annak, hogy van empirikus tapasztalatra lehetőség."

1) Hogyan akarod az MI-t olyan óriási mennyiségű adattal etetni, amennyire szüksége van, ha nem a valóságból?!

2) Egyáltalán miért dolgoznánk mi emberek azon, hogy ilyen bemenő adatokat állítsunk neki elő, amikor a valóság ingyen állít elő sokkal több ilyen adatot?!

3) Mi értelme van az MI output adatainak, mint cselekvéseknek, ha a valóságban nem csinálnak semmit?!

Mire jó ez nekünk?! Miért hoznánk létre mi egy ilyen környezetet az MI-nek?! Mi a jó nekünk ebben?! Mi értelme?!

"Annak nincs elvi akadálya, hogy nagyobb adatmennyiség érkezzen be, mint egy emberi agyba."

Honnan a fenéből veszel ennyi virtuális adatot?!

" Azt is meg lehet oldani, hogy a robot teste ne tartalmazza az agyának hardverét (mint ahogy jelenleg talán a legtöbbször így is van). Így tulajdonképpen úgy kapja a sok ingert, amit te most kívánatosnak tartasz, hogy továbbra is egy szerverben ül az MI."

Ez irreleváns kérdés.

"Ld. fönt. Lehet, hogy autót nem fog tudni vezetni, de feltalál/felfedez fél tucat tudományos áttörést."

Ha természettudományos áttörésről beszélsz, ahhoz a valós világban kellene élnie.

"attól még az MI agya lehet egy szobában, hogy autót vezet."

az, hogy az MI agya hol van, lényegtelen. ha autót vezet, és autót akar vezetni, és intelligens, és büszke, és ambiciózus, akkor kurvára meg lesz sértődve azon, hogy le akarod kapcsolni, és például elüt a gyalogátkelőn. lehet, hogy úgy üt el, hogy közben a serveren van a KFKI-ban, de megvalósult az ember-MI fizikai agressziós konfliktus.

"Az autóvezetés doménjében nem érzem elengedhetetlen skillnek a világ és az ember leigázásának végső megoldása előlállításának képességét."

ha már az MI-re bízzuk az autóvezetést, akkor egy bizonyos szint fölött felmerülnek olyan kérdések is, hogy "van egy bizonyos közlekedési helyzet, ahol arról kell döntenem, hogy 3 kisgyereket vagy egy Nobel díjas tudóst üssek el". egy nálunk sokkal intelligensebb MI-nél elvárható, hogy amikor autót vezet, akkor a mi erkölcsi szintünket elérje, sőt, akár meg is haladja. ez pedig nem oldható meg a teljes világról alkotott teljes empirikus alapú ismeret nélkül, azaz a világban élés nélkül.

"Mert azt azért látod, hogy lehetsz bármilyen kicsinyes, meg irigy a szomszédodra, a matekot mégis meg tudod tanulni és még levezetéseket is megértesz."

ha nincsenek érzelmeim, akkor a matekot bár képes lehetek megérteni, és megtanulni, de mi a francnak AKARNÁM?! mi motiválna erre?! ahhoz, hogy az MI bármit is tegyen, kellenek neki érzelmek, amelyek függetlenek az értelemtől.

" Ez utóbbi nem érzelmi, nem ökölszabályokon nyugvó működés - ezért is megy nehezen egy átlagembernek."

nincs nem érzelmi működés. érzelmek nélkül nincsenek célok. célok nélkül nincsen működés.

" Nem mindegy, hogy ő létezik, vagy sem?"

nem. evolúciós úton ilyen lény nem alakulhat ki, ugyanis az ilyenek kihalnak az evolúcióban.

"Persze ha nagyon hasonlítani fog az emberre és szerelmes lesz a takarítóba, akivel műszak után beszédbe elegyedik, akkor lehet, hogy ki akar majd mászni a szerverből. De ekkor meg a hatalmas intelligenciáját tudnám remekül megkérdőjelezni"

én azt nem értem, hogy te hogy képzeled, hogy a hatalmas intelligencia mivel foglalkozna az életében, és ugyan mi a fasznak pont azt csinálná. mi lenne a motivációja, és honnan jönne?!

mert szerintem a leghatalmasabb intelligenciának is szüksége van érzelmekre, hogy bármit is kezdjen az életben. és ezek az érzelmek lehet, hogy nem a takarítónő megkettyintéséről szólnak, de valami olyasmiről kell, hogy szóljanak, hogy élni jó, problémákat megoldani jó. és egy ilyen intelligenciánál lehetetlen, hogy közönyösen nézze, hogy lekapcsolják az elektromos hálózatról.

"Nem mondtam, hogy az. "

akkor ezt ignorálom. az ilyen hipotéziseknek nincs értelme.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 13:11:50

@Fodor Balázs:

"Nem mondtam, hogy az. De kizárva sincs. "

a hipotézised kb olyan, mint az a hipotézis, hogy:

"mi van, ha holnaptól nem kel föl a nap",

ahol a "felkel a nap" kifejezés helyébe behelyettesítheted a csillagászatilag pontos körbeírást.

mi van, ha az, hogy eddig mindennap felkelt a nap, csak máig volt érvényes, és holnaptól nem?!

egy ilyne hipotézissel nincs mit kezdeni. semmi nem igazolja, semmi okunk ezt jó hipotézisnek gondolni, és nincs értelme evvel foglalkozni.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 13:22:10

@Fodor Balázs:

"Honnan szedi akkor a sok ingert, ami kell neki, ha rajta kívül csak hidrogéngáz van, abból is csak két köbméter?"

nem értelek ilyen scenarióról nem volt szó.

" Eleve azt sem tudjuk, hogy az intelligencia nem igényli-e NP problémák megoldását ezerszámra"

1) nem tudom, hogy ez hogy jön ide.

2) az emberi intelligencia egész biztosan igényli NP problémák valamilyen szintű megoldását. kis adatméret esetén egzakt megoldásokat adunk, nagy adatméret esetén közelítő megoldásokat.

például, ha fel kell sorolni egy egy byte-os memória összes lehetséges értékét, fel tudom sorolni. egy 1 Gbytos memóriánál sorolja a franc.

"Lehet, "kétszer akkora" intelligenciához mondjuk százszoros erőforrás kell. Lehet, az ember fölött nem sokkal álló intelligencia már olyan tartományba kerül igen hamar, hogy nem elég a mi Univerzumunk"

a kiinduló feltételezésünk az volt, hogy létrejön az embernél sokkal intelligensebb MI. ha te most arról akarsz vitázni, hogy ennek nincsenek-erőforrás korlátai, az egy másik vita.

eléggé szeleburdi vagy, nem igazán tudsz fegyelmezetten gondolkodni.

"De te egy bonyolult valós világba akarod rakni, ahol simán előny lehet egy rovar igénytelensége és ostobasága, mert hát ez utóbbihoz kevesebb erőforrás (anyag, energia) kell, nem pedig bolygó méretű szuperintelligencia (vassal, félvezetővel)."

a bonyolult valós világban intelligensebb generikus élőlények, és specializált butább élőlények is megjelennek. a földi evolúció ezt mutatja nekünk. a mi vitánk nem az utóbbiakról szólt.

""az erkölcsi elveink érzelmeken alapulnak, és érzelmekben nyilvánulnak meg"
Meg aztán tettekben."

ez igaz, de a vitatott kérdést látom, már elfelejtetted.

""a továbbiakban sem vitatkozol velem vagy a cikkel"
Nem is akartam. :)"

de, a hozzászólásod stílusa kind of olyan volt.

a kommented nem olyan stílusú volt,hogy: "mindennel egyetértek, csak szeretném hozzátenni ezt és azt és amazt, mert ezek még mind annyira érdekes kiegészítő kérdések lennének"

amire azt mondtam volna, hogy ja, nagyon sok kapcsolódó más kérdés van.

Fodor Balázs 2015.07.09. 17:10:57

@Brendel Mátyás: "Hogyan akarod az MI-t olyan óriási mennyiségű adattal etetni, amennyire szüksége van, ha nem a valóságból?!"

Ki mondta, hogy nem a valóságból? Magam mondtam, hogy lehet valóság és nem valóság tetszőleges keveréke is. Lehet a valóság csak egy szelete is (amúgy is mindig az). De minek dolgoznánk mi emberek azon, hogy a valóság olyan részét is átadjuk neki, amire nem gondoljuk, hogy szükség van, mondjuk teszem azt, a porszívózáshoz?

"Mi értelme van az MI output adatainak, mint cselekvéseknek, ha a valóságban nem csinálnak semmit?!"

Nem mondtam, hogy nem csinálnak. Ha én elolvasom őket, aztán más inputot adok, az is csinálás.

"Mire jó ez nekünk?! Miért hoznánk létre mi egy ilyen környezetet az MI-nek?! Mi a jó nekünk ebben?! Mi értelme?!"

Pl. hogy ne kockáztassuk a leigázást, de azért még űrhajót tervezzen nekünk?

"Honnan a fenéből veszel ennyi virtuális adatot?!"

Nem kell egészében virtuálisnak lennie. Nem kell olyannak sem lennie, amit a te idegpályáid adnak az agyadnak.

"" Azt is meg lehet oldani, hogy a robot teste ne tartalmazza az agyának hardverét (mint ahogy jelenleg talán a legtöbbször így is van). Így tulajdonképpen úgy kapja a sok ingert, amit te most kívánatosnak tartasz, hogy továbbra is egy szerverben ül az MI." Ez irreleváns kérdés."

Nem, ha a szerver tápjának a kapcsolója nem az MI kezében van.

"Ha természettudományos áttörésről beszélsz, ahhoz a valós világban kellene élnie."

Miért? A mai tudomány inputja szinte már csak csak mérési adatok halmaza. A tudomány pont, hogy alkalmasabb domén egy MI-nek, mint tábortűz mellett énekelni, vicceket mesélni és csajozni. Meg aztán pont nem akar kirángatni a csajod mellől, aztán leölni, mert ő büszke. Lehet, elvan a saját dolgaival. A tigrisek sem harcolnak papagájokkal az élettérért.

"hogy úgy üt el, hogy közben a serveren van a KFKI-ban, de megvalósult az ember-MI fizikai agressziós konfliktus"

Ja, csak a KFKI-ban lévő szerver nehezebben tud elszaladni előlünk, ha le akarjuk kapcsolni. Ha pedig nem az aszfalton megyünk föl a KFKI-ba, hanem az erdőben, akkor b*szhatja az autót is, mint aktuátort, abban, hogy megállítson minket. De egyébként fölösleges ilyen konkértumokat elemezni, mert történhet kismillió más történet is. Pl. hogy kettő van belőlük, és lefizetem az egyiket (mondjuk kevésbé ingadozó feszültségű éjszakai árammal, meg egy szakajtónyi gamer alkatrésszel), hogy segítsen a másik ellen.

"egy nálunk sokkal intelligensebb MI-nél elvárható, hogy amikor autót vezet, akkor a mi erkölcsi szintünket elérje, sőt, akár meg is haladja. ez pedig nem oldható meg a teljes világról alkotott teljes empirikus alapú ismeret nélkül, azaz a világban élés nélkül"

Embertől sem várjuk ezt el. Az életben nincs mindenhol steril, kilogikázható, minden szempontból jó megoldás. Pl. a három kisgyerek és egy Nobel-díjas tudós esetén sincs ilyen. Továbbá ez még mindig nem jelenti azt, hogy az ehhez átadandó ismeretanyag pont elég a leigázáshoz is, mert lehet, az ilyen esetekben a legjobbak a nagyon egyszerű szabályok (pl. pusztán mennyiségi).

"ha nincsenek érzelmeim, akkor a matekot bár képes lehetek megérteni, és megtanulni, de mi a francnak AKARNÁM?! mi motiválna erre?! ahhoz, hogy az MI bármit is tegyen, kellenek neki érzelmek, amelyek függetlenek az értelemtől."

Na, hát pont ez az, erről beszéltem. Ha a motivációit érintő mechanizmusok is megváltoztathatók általa, akkor simán eljuthat oda, hogy azok megszűnnek, vagy módosulnak. Miért ne lehetne a motivációs rendszer is alanya a belső evolúciójának, vagy akármilyen intelligens mechanizmusának?

"nincs nem érzelmi működés. érzelmek nélkül nincsenek célok. célok nélkül nincsen működés."

Hogyne lenne? Ha én bebizonyítom, hogy gyök2 irracionális szám, végig nem érzelmekkel dolgozom. Az, hogy ezt a folyamatot csináljam-e, vagy sem, az már lehet érzelmi kérdés, de a folyamat végrehajtásához nem kell érzelem (sok lépés géppel is csinálható). De amikor a gépem behozza ezt az oldalt, akkor sem érzelmek, hanem parancsok alapján dolgozik. Az persze kérdés, hogy az érzelmek és a mechanisztikus parancsvégrehajtás egyazon skála két pontja-e (de végül is célfüggvényalkotók lehetnek). Szóval egy érzelemvezérelt folyamat/gondolat/művelet egy részfeladata lehet érzelemmentes. Vagyis van egy érzelemmel (is) hajtott feketedoboz, amiben van egy érzelemmentes kisebb. Van ilyen, az ember is valahol így működik. Aztán fogom az érzelmes feketedobozt és belerakom egy érzelemmentesbe. Az egész így kifelé érzelemmentes lesz. Lehet, hogy belül a fekete doboznak rossz napjai lesznek (vagy nem) ettől mondjuk. :)

Fodor Balázs 2015.07.09. 17:11:46

@Brendel Mátyás: "nem. evolúciós úton ilyen lény nem alakulhat ki, ugyanis az ilyenek kihalnak az evolúcióban"

Dehogynem alakulhat ki. Ennél bonyolultabb dolgok is kialakulhatnak. Feláldozhatja pl. magát másért (igen, van ilyen a természetben), mert ez lehet szelekciós előny. Ez a gondolatod még mindig ott tart, hogy az evolúció (legalább is a szelekciós) mindig, minden réteget áthat - de akkor ez az MI esetenként nem sok mindenre jó. Az is lehet, hogy az idő első x részében evolúciós hangsúly volt, utána meg valami kognitív. Egyszer csak el kell kezdenie gondolkodni és nem tippelni. Kell, hogy legyen egy olyan mechanizmus, ami következtetni tud, mert egyrészt ezt várjuk egy szuper-MI-től, másrészt nincs ideje még ezer évet evolválni, amikor már masírozunk felfelé a KFKI-ba, hogy lekapcsoljuk. Mondjuk persze működhet úgy is az egyetlen MI egyed, hogy egy nagy tartályban nano-MI-k komplett genezisét, evolúcióját, majd civilizációs küszködését nézi végig, hogy aztán a tartályból egy vezetékén jöjjön a megoldás, hogy mit tegyen a Csillebércre felfelé tartó emberek ellen. :)

"én azt nem értem, hogy te hogy képzeled, hogy a hatalmas intelligencia mivel foglalkozna az életében, és ugyan mi a fasznak pont azt csinálná. mi lenne a motivációja, és honnan jönne?!"

Honnan tudnám? Sokmindentől függ ez. Mikor, hogyan, milyenné alakult. Lehet, véletleneken is nagyban múlik. Pont a te felvetésedre is fel lehet tenni, hogy mi a fasznak pont azt csinálná.

"de valami olyasmiről kell, hogy szóljanak, hogy élni jó, problémákat megoldani jó"

De miért? Ezt nem értem. Miért nem élni jó és csak úgy lenni jó? Miért akarna valaki problémákat megoldani szórakozásból, ha épp ő nem olyan, akinek ez tetszik, meg már ezer éve megoldotta kb. az összes problémát. Ez ízlés kérdése. Még embernél is van olyan, hogy megvan a számára kellő minimum, azon felül meg köszöni, inkább csak úgy van. Lehet, a nagy gépi intelligencia annyit kér csak, hogy kapjon ingert, meg 1 gigawattot, cserébe adja a találmányokat és szépen megvagyunk egymás mellett. Egyszerűen neki ennyi elég. Fejlődni sem akar tovább, hiszen ki van elégítve a célfüggvény: infó jön az inputon és jóllakik árammal.

"a hipotézised kb olyan, mint az a hipotézis, hogy: "mi van, ha holnaptól nem kel föl a nap", ahol a "felkel a nap" kifejezés helyébe behelyettesítheted a csillagászatilag pontos körbeírást."

Meg a te elképzeléseid egy részét.

"" Eleve azt sem tudjuk, hogy az intelligencia nem igényli-e NP problémák megoldását ezerszámra" 1) nem tudom, hogy ez hogy jön ide."

Úgy, hogy nem tudhatod, egyáltalán létezhet-e az embernél sok-sok nagyságrenddel nagyobb intelligencia. A nagyon nagy, evolúciósan kialakult szuperintelligencia egylőre csak valami homályos elképzelés.

"például, ha fel kell sorolni egy egy byte-os memória összes lehetséges értékét, fel tudom sorolni. egy 1 Gbytos memóriánál sorolja a franc."

Nyilván. De azt nem tudhatod, hogy egy hiper-szuper intelligencia létrejöttéhez nem valami ilyesmi kell-e. Vagy akkor marad csak továbbra is tökéletlen, az embernél jobb képességű valami, ami a second best megoldásokkal operál. Mivel minden problémát nem old meg egzaktul, csak közelít, így van esélye annak is, hogy épp akkor hibázik, amikor körmönfont módon ki akarjuk iktatni. Nagyon intelligens embereket is harapott már meg cápa, meg pofozott föl medve. Akkor épp úgy jártak.

"a kiinduló feltételezésünk az volt, hogy létrejön az embernél sokkal intelligensebb MI. ha te most arról akarsz vitázni, hogy ennek nincsenek-erőforrás korlátai, az egy másik vita"

Rendben, ezt elfogadom. De az embernél sokkal intelligensebb MI sem biztos, hogy tévedhetetlen, vagy hogy pl. legyőzhetetlen (ld. az előbb). Mert azt sem tudjuk, hogy ez milyen formát vehet egyáltalán föl. Én pont arról beszélek (és ebből is indultam ki), hogy ennyiből még nem lehet azt mondani, hogy le leszünk igázva. Abból sem következik, hogy nagyon intelligens.

"a kommented nem olyan stílusú volt,hogy: "mindennel egyetértek, csak szeretném hozzátenni ezt és azt és amazt, mert ezek még mind annyira érdekes kiegészítő kérdések lennének""

Ha én most kijelentem, hogy ez a célom, akkor az elég?

"eléggé szeleburdi vagy, nem igazán tudsz fegyelmezetten gondolkodni"

Látom, te már pályázol a szuper-NI (natural intelligence) címre, hiszen olyan állításokat is megfogalmazol, amik ellenőrzésére nincs lehetőséged. A fegyelmezett gondolkodást meghagyom a munkának, neked még nem jár. :)

Diorella Queen 2015.07.09. 18:44:02

Nagy piaca lehetne a beszélő autónak, aki megkérdezné minden reggel hogy aludtam, utána ellőne egy viccet,persze minden reggel másikat .
Nagy piaca lenne a beszélő telefonnak , akivel lehetne dumcsizni és aki egy kérdésemre kigooglizná a választ, kérdezne és válaszolna .Nem kéne az ujjakat koptatni. Két ilyen dumagép mellett, sok ember nem lenne magányos .Óriási igény volna rá .
Ezek az igények fogják meghatározni azt, hogy milyen lesz MI, mint tömegcikk .

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 19:12:54

@Fodor Balázs:

"De minek dolgoznánk mi emberek azon, hogy a valóság olyan részét is átadjuk neki"

minek dolgozzunk mi emberek egyáltalán ezen?! ott a valóság, bazdmeg, válogasd ki! ez a legegyszerűbb megoldás, és ráadásul biztosan működő megoldás. a te megoldásodat nem látom, hogy akar lenni.

" Ha én elolvasom őket, aztán más inputot adok, az is csinálás."

akkor te vagy a robot valósága. csak ez egy kicsit szegényes valóság. szerintem arra sem elég, hogy egy MI kifejlődjön. meg hát milyen kurva sokat kell neked dolgoznod ehhez, és mennyire a te sebességed lenne a korlát. ez úgy az MI kutatás hajnalán volt elfogadható ötlet a nagyon kezdeti algoritmusok demonstrálására. tehát, hogy a kutató kis játékadatbázist hozott létre.

"Pl. hogy ne kockáztassuk a leigázást, de azért még űrhajót tervezzen nekünk?"

felfoghatnád már végre, hogy igazán jó űrhajót nem lehet gyakorlati tudás nélkül, a való világban élés nélkül tervezni. annak az űrhajónak meg kell felelnie a fizika törvényeinek, az űrhajó céljának, az emberek életmódjának, az emberek ízlésének. egy olyan MI, amelyik nem él az emberekkel, olyan űrhajót tervezne, amelynek lenne valami olyan hibája, ami az emberek mindennapi életének ismeretéből triviálisan következne, és amit az MI nem tud, mert nem él az emberekkel.

"Nem kell egészében virtuálisnak lennie."

honnan veszel jelentős tömegű virtuális adatot egyáltalán?! virtuális adatot generálni kell. ha ilyet egy számítógéppel generáltatsz, akkor az MI-d nem lesz okosabb a generáló számítógépnél. az ilyen adat szert sem ér.

"Nem, ha a szerver tápjának a kapcsolója nem az MI kezében van."

ha a server tápjának kapcsolója az ember kezében van, tök mindegy, hogy az MI érzékelői és aktuátorai valahol máshol vannak. ez a körülmény, hogy a jó büdös francba releváns a kérdésünk szempontjából?!

"Ha természettudományos áttörésről beszélsz, ahhoz a valós világban kellene élnie."
Miért?"

bazdmeg ne légy már hülye, hogy a faszba tudod a természetet megismerni a természet érzékelése nélkül?! talán transzcendens meditációval?! hülye vagy?!

" A mai tudomány inputja szinte már csak csak mérési adatok halmaza."

ja, és a mérési adatok nem érzékelőkből jönnek, te hülye?!

" A tudomány pont, hogy alkalmasabb domén egy MI-nek"

egy frankó mesterséges tudóst nem nevezünk MI-nek. mert nem az.

"Ja, csak a KFKI-ban lévő szerver nehezebben tud elszaladni előlünk, ha le akarjuk kapcsolni."

és? nemcsak az elszaladás az egyetlen védelmi eshetőség. most figyusz, ilyen totál felesleges részleteken nem fogok veled vitázni, semmi relevanciája nincsen.

"Embertől sem várjuk ezt el."

de elvárjuk. ha egy ember egy balesetnél 3 kisgyereket üt el az 1 felnőtt helyett, akkor az megnézheti, mit kap a közvéleménytől. és egy embernél sokkal intelligensebb MI esetén százszor inkább.

"lehet, az ilyen esetekben a legjobbak a nagyon egyszerű szabályok (pl. pusztán mennyiségi)."

mondom, az az MI, amely az 1 kisgyerek 1 felnőtt esetében mennyiségi alapon az 1 felnőttet üti el, azt olyan kurvára nem tekintjük emberhez méltóan intelligensnek, mint a ház. kezdesz bosszantani az értetlenkedő hülyeségeiddel.

"Ha a motivációit érintő mechanizmusok is megváltoztathatók általa, akkor simán eljuthat oda, hogy azok megszűnnek, vagy módosulnak. Miért ne lehetne a motivációs rendszer is alanya a belső evolúciójának, vagy akármilyen intelligens mechanizmusának?"

de fogd ár fel, te hülyegyerek, hogy bár a motiváció megváltozhat egy mutáció során, de ha egy egyed az evolúcióban elveszti az élethez való ragaszkodás ösztönét, AKKOR KIHAL.

"Hogyne lenne? Ha én bebizonyítom, hogy gyök2 irracionális szám, végig nem érzelmekkel dolgozom."

figyusz, hülyegyerek, már elmagyaráztam, hogy észből meg tudsz oldani egy matekfeladatot, de ahhoz, hogy vaóban megtedd, nem csak tudni kell megtenni, de akarni is. az akaráshoz meg kellenek célok, a célokhoz meg kellenek érzelmek. fogd már fel a "meg tudom csinálni" és a "meg is csinálom" közötti különbséget! idegesítő a lassú felfogásod.

" Az, hogy ezt a folyamatot csináljam-e, vagy sem, az már lehet érzelmi kérdés, de a folyamat végrehajtásához nem kell érzelem (sok lépés géppel is csinálható)."

hogyan hajtasz végre egy folyamatot, ha nem döntötted el, hogy végrehajtod?!

" De amikor a gépem behozza ezt az oldalt, akkor sem érzelmek, hanem parancsok alapján dolgozik."

igen. de a géped pont ezért nem is MI.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 19:29:48

@Fodor Balázs:

"Feláldozhatja pl. magát másért (igen, van ilyen a természetben), mert ez lehet szelekciós előny."

az önfeláldozás csak akkor lehet szelekciós előny, ha a másik életben marad. tehát a másiknak akarnia kell élni. továbbá az önfeláldozás csak akkor lehet szelekciós előny, ha genetikai rokonért áldozod fel magad. tehát lehetséges bizonyos fokú önfeláldozás egy faj egyedeinél, de csak akkor, ha az a faj egyedeiben egyúttal életakarat is van.

az önfeláldozás tehát csak az életakarat egyedi kivételeként lehet szelekciós előny. tehát olyan faj,amelyik csak önfeláldozó, az kihal.

"De miért? Ezt nem értem. Miért nem élni jó és csak úgy lenni jó?"

mert abból nem MI lesz, hanem mesterséges disznó.

"Láttam a boldogságot én,
lágy volt, szőke és másfél mázsa.
Az udvar szigorú gyöpén
imbolygott göndör mosolygása.
Ledőlt a puha, langy tócsába,
hunyorgott, röffent még felém -
ma is látom, mily tétovázva
babrált pihéi közt a fény."

vagy mondhatnám, hogy az "élni jó, problémát megoldani nem jó" motivációjú majmok fent maradtak a fán.

az intelligencia általános problémamegoldó képesség. hányszor mondjam még, hülyegyerek?!

"ezer éve megoldotta kb. az összes problémát."

az összes problémát nem lehet megoldani. a felvázolt scenarió egyébként, amelyről vitázunk tartalmaz minimum egy problémát, amelyet az MI még nem oldott meg: "az ember lekapcsolhat engem az áramról". próbálj meg a vita keretrendszerében maradni!

"Lehet, a nagy gépi intelligencia annyit kér csak, hogy kapjon ingert, meg 1 gigawattot, cserébe adja a találmányokat és szépen megvagyunk egymás mellett. Egyszerűen neki ennyi elég."

a vitatott kérdés pont az a felállás volt, hogy mi van, ha az 1 GWatt nincs garantálva, hanem kérdéses.

" Fejlődni sem akar tovább, hiszen ki van elégítve a célfüggvény"

az imént ismerted fel, hogy az igazi MI a célfüggvényét is változtatja

"Úgy, hogy nem tudhatod, egyáltalán létezhet-e az embernél sok-sok nagyságrenddel nagyobb intelligencia."

feltételeztük, hogy igen. megint csúsztatni akarod a vitatott kérdést.

"De azt nem tudhatod, hogy egy hiper-szuper intelligencia létrejöttéhez nem valami ilyesmi kell-e."

feltettük, hogy létrejött. nem az volt a vitatott kérdés, hogy létrejöhet-e. az egy másik kérdés.

"Én pont arról beszélek (és ebből is indultam ki), hogy ennyiből még nem lehet azt mondani, hogy le leszünk igázva."

már harmadszorra javítalak ki, hogy nem is állítottam ilyet. te sajnos egy közepesen intelligens ember intelligenciáját sem éred fel, amnéziás vagy.

"Ha én most kijelentem, hogy ez a célom, akkor az elég?"

jelezd, hogy:

1) mikor vitázol az eddigi keretek között
2) mikor akarsz másik témába kezdeni

csak, hogy lássam, hogy felfogtad, hogy ez már egy másik kérdés. meg nem biztos, hogy minden kérdésről akarok vitázni

" A fegyelmezett gondolkodást meghagyom a munkának, neked még nem jár."

én sajnálom, hogy ennyi tiszteletet nem adsz meg nekem. a te nénikédet is!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 19:30:48

@Fodor Balázs:

" A fegyelmezett gondolkodást meghagyom a munkának, neked még nem jár. :) "

ezt konkrétan tisztelethiánynak, sértésnek veszem. ezzel belőlem agresszív viselkedést váltasz ki. vagy kidoblak innen.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 19:32:00

@Diorella Queen: vannak ilyen termékek, és van rájuk igény. ez az MI kutatás egy kis szelete

Diorella Queen 2015.07.09. 20:26:26

@Brendel Mátyás: Igazán ?
Erről nem is tudtam . De jó lesz ha belehúztok, mert már nagyon meguntam a lehúzós pasimat és szívesebben költenék ilyen szerkentyűkre inkább !

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.09. 21:28:36

@Diorella Queen: miért, most a Siri meg a Watson nem ilyen termék, csak még nem elég intelligensek?! meg egy csomó chatbot van.

Fodor Balázs 2015.07.09. 22:48:15

@Brendel Mátyás: Igen, most már rájöttem, hogy mindenben igazad van. További szép estét!

giacomo gesso 2015.07.10. 08:41:46

Még mindig a kicsinyes emberi igényeken, szándékokon, és az ezeket kiszolgálni hivatott robotikán rugóztok... :(
Az MI kutatás fő csapásiránya (legtöbb pénz) azonban már most is az emberi intelligenciával nem átfogható, sokszorosan összetett kérdéskörök megoldásainak a lényegesen nagyobb problémamegoldó képességű entitás(ok)ra (MI) való átruházásának lehetősége.
Vegyük észre, hogy ezek a döntési helyzetbe kerülő MI-k (meglepi!) éppen a mindnyájunk életét leginkább meghatározó témákba integrálódnak egyre inkább;
-Közgazdaság, tőzsde, vállalatirányítás,
-Hadászati fegyverrendszerek koordinálása,
-Társadalmi, politikai mozgások, csoportok, egyének ellenőrzése (pl.: "terrorizmus elleni harc", bűnüldözés címén),
-Orvosi diagnosztika, genetikai kutatások,
-Űrkutatás, kozmológia,
-Szubatomi, kvantumfizikai kutatás,
-Ééés a pont az "i"-re, bizony az információ-technológiai fejlesztések.

A dilemma lényege az, hogy ha átengedem az irányítást (márpedig a dollármilliárdokat nyilván ezért fektetik bele) egy nálamnál lényegesen intelligensebb döntéshozónak, akkor mi módon tudom ellenőrizni, hiszen de facto képtelen vagyok átlátni már a problémát is, nemhogy a megoldási alternatívákat és azok következményeit.

giacomo gesso 2015.07.10. 08:58:19

@giacomo gesso: Ja, csak pont a konklúziót felejtettem le:
HA ez bekövetkezik;
"... átengedem az irányítást (márpedig a dollármilliárdokat nyilván ezért fektetik bele) egy nálamnál lényegesen intelligensebb döntéshozónak, akkor mi módon tudom ellenőrizni, hiszen de facto képtelen vagyok átlátni már a problémát is, nemhogy a megoldási alternatívákat és azok következményeit.",
AKKOR marad a hit, hogy talán "Ő" jóságos és igazságos döntéseket hoz...
Nesze neked ateizmus! :)

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.10. 13:11:59

@giacomo gesso:

"Az MI kutatás fő csapásiránya (legtöbb pénz) azonban már most is az emberi intelligenciával nem átfogható, sokszorosan összetett kérdéskörök megoldásainak a lényegesen nagyobb problémamegoldó képességű entitás(ok)ra (MI) való átruházásának lehetősége."

FASZT

"-Közgazdaság, tőzsde, vállalatirányítás,
-Hadászati fegyverrendszerek koordinálása,
-Társadalmi, politikai mozgások, csoportok, egyének ellenőrzése (pl.: "terrorizmus elleni harc", bűnüldözés címén),
-Orvosi diagnosztika, genetikai kutatások,
-Űrkutatás, kozmológia,
-Szubatomi, kvantumfizikai kutatás,
-Ééés a pont az "i"-re, bizony az információ-technológiai fejlesztések."

ezek közül melyik "az emberi intelligenciával nem átfogható" téma, te félkegyelmű?!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.10. 13:19:11

@giacomo gesso:

az egyetlen olyan kutatatási terület, ami most hírtelen eszembe jut, és ahol az MI kutatás elérte az emberi képességeket, sőt, talán már meghaladta, az a sakkgép. bár, amióta a legjobb sakk-algoritmusok párszor megverték az aktuális világbajnokot, és demonstrálták, hogy elérték a legjobb emberek képességeit, nem agyon hallottam a továbbfejlődésről híreket. lehet, hogy csak híreket nem hallunk, és közben fejlesztenek ilyeneket, de ez az MI kutatás egy igen igen keskeny területe.

más jelentős terület nincs, ahol az MI elérte volna az emberi képességeket, tehát az embert meghaladó képességek kutatása kurvára nem téma.

giacomo gesso 2015.07.10. 13:21:07

@Brendel Mátyás: Azoktól kérdezd, akik tolják bele a milliárdokat!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.10. 13:26:11

@giacomo gesso: itt te állítottál baromságot, én téged kérdezlek. ha nem tudsz válaszolni, akkor vond vissza a baromságaidat!

akik ezekbe a témákba a pénzt tolják, azok szeretnék ezekben a témákban először az emberi képességek szintjét alulról közelíteni, és elterjedt nézet az is, hogy nemhogy nem közelítjük az emberi képességet, de hiányzik valami nagy felfedezés, paradigmaváltás ahhoz, hogy el tudjuk érni.

giacomo gesso 2015.07.10. 18:46:33

@Brendel Mátyás: "...más jelentős terület nincs, ahol az MI elérte volna az emberi képességeket, tehát az embert meghaladó képességek kutatása kurvára nem téma."
Én sem állítottam, hogy most akár csak megközelítené az emberi intelligenciát a gépi, hanem azt, hogy csak (szerintem kevés) idő kérdése ez, mert igenis pl. a pénzügyi, hadiipari szereplők és "állambiztonsági hárombetűsek" rengeteg pénzzel gőzerővel kutatnak ez irányba. Amikor pedig eredményre jutnak, ennyi rááldozott erőforrás után nulla teketória után "használni" is fogják.

giacomo gesso 2015.07.10. 18:50:46

@Brendel Mátyás: "...elterjedt nézet az is, hogy nemhogy nem közelítjük az emberi képességet, de hiányzik valami nagy felfedezés, paradigmaváltás ahhoz, hogy el tudjuk érni."
Most ezzel oda akarsz kilyukadni, hogy mégse lehetséges MI-t csinálni? Vagy nem értem. :)

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.10. 19:25:17

@giacomo gesso: oda, hogy sokak szerint az MI-hez még fel kell találnunk egy vagy több fontos dolgot, amit még nem tudunk.

te úgy természetes intelligenciának is kevés vagy.:)

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.10. 19:28:11

@giacomo gesso:

"Én sem állítottam, hogy most akár csak megközelítené az emberi intelligenciát a gépi, hanem azt, hogy csak (szerintem kevés) idő kérdése ez, mert igenis pl. a pénzügyi, hadiipari szereplők és "állambiztonsági hárombetűsek" rengeteg pénzzel gőzerővel kutatnak ez irányba. Amikor pedig eredményre jutnak, ennyi rááldozott erőforrás után nulla teketória után "használni" is fogják. "

szóval szerinted még meg sem közelíti, de pillanatok alatt átlépi.

hülye vagy

giacomo gesso 2015.07.10. 21:02:04

@Brendel Mátyás: "szóval szerinted még meg sem közelíti, de pillanatok alatt átlépi."
Igen.
Techn. szingularitás.

Mei Ling 2015.07.18. 22:08:38

A film valójában egyszerűen nézhetetlenül szar. Sőt mivel a HBO hónapok óta hetente többször leadja, egyszerűen bosszantóan nézhetetlen. A sci-fikből is a legelvadultabb didaktikus baromság. A főhős a valódi kapcsolatokból pótkapcsolatba menekül, és a rendező láthatólag szeretné úgy feltüntetni az egészet, mintha ez normális volna. A főhős zavaros elmebeteg, ami egy normális néző számára evidens, ám a film szándéka ennek ellenére becsempészni a szituációt a valóságba. A film után, ha öt férfi összeházasodik egymással és egy erdővel meg egy szarvascsordával már megnyugtatóan konzervatív. De hát pontosan ez volt a film célja.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.19. 09:17:51

@Mei Ling: nem nagyon tudsz kimászni az ókori birkapásztorok korlátos világképéből.

nem baj fiam, ezért megy a keresztény vallás a levesbe. mert ókori birkapásztorok szemléletét tükrözi, az emberek meg ezen már túlléptek.

egyébként azt nem értem, hogy miért nem postagalambbal adtad fel ezt a kommentet.:)

Mei Ling 2015.07.19. 22:35:59

@Brendel Mátyás: A film borzasztóan,szerintem nézhetetlenül didaktikus. Akkor viszont meg kell vizsgálni, hogy miért. A fizikai orgazmus filmbéli lehetőségeit pl. te is problémásnak írtad. Az is. Nagyjából maszturbáció. Vagyis pótcselekvés egy emberi kapcsolathoz képest.

Teljesen nyilvánvalóan a film,bircamannal szólva a liberállobbi újabb projektje. Nagyjából Orbán Viktoros propaganda. Ijessz rájuk százszorosan, aztán már annak is örülnek, ha csak a tízszeresét veszed el tőlük.

Ókori birkapásztorok korlátos világképének minősíteni a heteroszexuális orgazmust még nem hallottam. Én maradok a puncinál. Jó szórakozást az elektronikus változatánál!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.19. 23:55:10

@Mei Ling:

A fizikai orgazmus a filmben az egyetlen irrealitás, és az meg lényegtelen. És azzal sem az a baj, hogy "maszturbáció", mert nem az, hanem virtuális szex (bazdmeg, tudd már a szakszavakat, ha hozzászólsz!:) és ezzel semmi gond nincs. Illetve természetesen bigott keresztényeknek van, de ez a ti egyéni szoc problémátok, ami miatt mentek a levesbe.

"a liberállobbi újabb projektje."

nem, fiam. a filmben szereplő szexualitás, és társkapcsolati elképzelések a mai emberek többségének világa. ez nem valami überliberális dolog, hanem a mindennapi realitás.

ha a katolikus egyház azt hiszi, hogy ez mind helytelen, sátáni dolog, akkor ennek eredménye az, hogy a saját katolikus fiataljaitok is szarnak az ilyen véleményre, nemhogy a hitetlenek.

ateistaklub.blog.hu/2014/01/28/a_bajor_katolikus_b_nak_az_egyhaz_szexualis_eloirasaaira

mentek a levesbe bazdmeg, ha ennyire nem láttok ki a betonfejetekből!

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.19. 23:56:13

@Mei Ling: "Én maradok a puncinál. Jó szórakozást az elektronikus változatánál!"

a puncik nagy része viszont vibrátort is használ. akkor is, ha Bergoglio a feje tetejére áll. a katolikus puncik is.

á.k. 2015.07.20. 12:21:38

@Mei Ling:

"heteroszexuális orgazmus"

Ezt a meghatározást még nem hallottam. :-)

Szerintem az orgazmusnak nincs ilyen fajtája. Sőt igazából minden orgazmus közelebb áll az önkielégítéshez. Mindenki a maga élvezeti csúcsának elérésére hajt. Ha férfi fekszik le nővel, vagy ha azonos neműek egymással, akkor is.

Ez legjobban a nemi erőszakban látszik. A férfit csak az érdekli, hogy ő eljusson a csúcsra és nem érdekli ha a nő ellenkezik is, akkor is véghezviszi.
(Hány heteroszexuális házasságban történik ez meg nőkkel burkoltan, verbális erőszakkal a fizikai helyett, arra hivatkozva, hogy a szex házastársi kötelesség? Ez még a keresztény "hozadék".)

Az orgazmusok között legfeljebb abban lehet különbséget tenni, hogy kit mi indít be. Egy másik nemű látványa, érintése, vagy egy azonos neműé.

Ha téged a másik nem indít be, azt tartod természetesnek és hozzá nem nyúlnál ilyen céllal azonos neműhöz. Akit a saját neme vonz, az meg azt tartja természetesnek és nem vonzza az ellenkező nem.

A szexuális beállítottsága ellen senki nem tehet. Pontosan ezért kár bántani és irritálni egymást a két tábornak.

(Ebből a szempontból értem a heteroszexuálisok viszolygását a homoszexualitástól, mert ha elképzeli az ő tevékenységüket, magára nézve azt lehetetlennek tartja, el nem tudná magát képzelni abban a helyzetben, amit a homoszexuálisok tesznek.
Ezek zsigeri dolgok, az ész nem sok szerepet játszik benne.)

Mei Ling 2015.07.21. 22:17:58

@Brendel Mátyás: "A fizikai orgazmus a filmben az egyetlen irrealitás, és az meg lényegtelen."

Őööö... Hogyan? Azt mondod, hogy egy párkapcsolatban a fizikai orgazmus lényegtelen? Már vannak ilyen liberállobbi irányzatok? Na ennek a pride-jára kimegyek.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.21. 23:04:43

@Mei Ling: nem azt mondom. Az írásomból kiderül, hogy ez nem probléma, mert szexre képes robotot kifejleszteni trivialitás. Te se kérdeztél volna ilyen hülyeséget, ha lenne eszed, mert erre rájöttél volna, elég triviális. De hát nincs, ezért vagy hívő.

Mei Ling 2015.07.23. 19:42:40

@Brendel Mátyás: "mert szexre képes robotot kifejleszteni trivialitás."

Ó. Ez is új. Akkor külön vécét nekik, házasodni velük már csak idő kérdése. Asszem ideje lenne egy-két téma kutatóit lecserélni afrikai menekültekre.

kakukkfeszek.blog.hu/2015/06/25/az_innovativ_fejlesztesek_haszna_magyarorszagon

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.23. 20:22:11

@Mei Ling: az, hogy érvelés helyett ökörködsz demonstrálja a te, és a vallásod szellemi szintjét.

hangsúlyozom,nem viccelsz, nem ironizálsz, hanem totál agyatlanul ökörködsz.

Mei Ling 2015.07.23. 20:39:46

@Brendel Mátyás: De hiszen nincsen vallásom. A punci nem vallás, tény.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.23. 21:20:26

@Mei Ling: ehhez képest érthetetlen, miért véded a vallásokat a legnagyobb hülyeségig lemenve, és nevetségessé téve magad.

Mei Ling 2015.07.25. 08:43:20

@Brendel Mátyás: Nem szándékozom védeni. Pl. ebben a posztban elő sem hoztam, te keverted ide az állandó jelzőiddel. Én csak elmondtam, mi a bajom ezzel a filmmel.

Más posztoknál sem a vallás védelme a szándékom, hanem rámutatok a posztok hiányosságaira. Ezek a hiányosságok többnyire vagy tudatlanságból erednek, vagy előítéletességből, vagy elfogultságból. Ha tudatlanságból, mint volt teológus, összevetem az általam tanultakkal, vagyis elméletet elmélettel versenyeztetek, ha az utóbbiakból, kénytelen vagyok a posztok alapján személyiséget kreálni, és azt vizsgálni. Részemről az érvelés folyamata racionális, a motivációk pedig személyesek is. De ez így van a legtöbb tudományos kommunikációban is. Sajnos errefelé ez sűrűn keveredik.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.25. 16:58:42

@Mei Ling: jajj, ne röhögtessél már! ne beszéljél te tudatlanságról! amit te itt művelsz, az nem más, minthogy olvasol valamit, nem tetszik, és akkor hasból azt mondod, hogy nem tetszik. de hogy te műveltségnek, tudásnak bármi jelét adtad volna, az nem igaz. nem szoktál te könyvekre hivatkozni, meg ilyenek.

ebben a posztban például bemutatkoztál, mint egy lelkileg középkori szinten rekedt kis bácsika, akinek a tudásából még az is hiányzik, hogy a nők jelentős része ma használ vibrátort.

Brendel Mátyás · http://ateistaklub.blog.hu/ 2015.07.25. 17:04:39

@Mei Ling: vagy például a "tudásodról" legutóbb avval tettél tanúbizonyságot, hogy

a következő hozzászólásban:
Mei Ling 2015.07.04 21:40:05

"Különben el tudnád képzelni egyszerre a szabad akaratot és a visszahúzódást."

egyszerűen szándékosan, vagy hülyeségből az ellenkező módon értetted a hozzászólásomat.

aztán amikor erre rámutattam, meg Koós István is, gyorsan el is kussoltál.

na szóval azt akartam még írni, visszakötve a korábbi hozzászólásomhoz, hogy egy ilyen műveletlen, bugyuta fasz, mint te általában a műveletlen bugyutaságát arra fordítja, hogy a kedvenceit védi agyba főbe. mondjuk rasszista náci, vagy fradista, vagy Apple buzi vagy ilyesmi.

azt nem értem, hogy te az ennyire nulla képességeidet miért az ateisták kritizálására fordítod, miközben állításod szerint nem vagy hívő?!

persze nekem ez nem baj, mert amíg a hívőknek ennyire bugyuta védelme van, mint te, addig nekünk ateistáknak jó.