Szuperintelligencia 8 csillagozás

Nick Bostrom: Szuperintelligencia

Az ​emberi agynak vannak olyan tulajdonságai, amelyek az állatokból hiányoznak. Ezeknek köszönhetjük, hogy domináns helyzetben vagyunk. Az állatok erősebb izmokkal vagy hegyesebb karmokkal rendelkeznek, de az agyunk nekünk fejlettebb.
Ha egyszer majd a gépi agyak megelőzik az embert általános intelligencia terén, a létrejövő új szuperintelligencia nagy hatalomra tehet szert. A fajunk sorsa attól fogva már a gépi szuperintelligencia akaratán múlik, ahogy a gorillák sorsa is inkább tőlünk, emberektől függ.
Azonban a gorillákhoz képest előnnyel indulunk: mi tehetjük meg az első lépést. Viszont a kérdés az, hogy képesek leszünk-e létrehozni egy jóindulatú MI-magot, vagy más eszközökkel olyan kezdeti körülményeket, hogy túléljük az intelligenciarobbanást? Hogyan tudnánk irányítani ezt az ugrásszerű fejlődést?

A kedves olvasó rendkívül ambiciózus és eredeti művet tart a kezében, amely kézen fogva vezeti végig egy hatalmas, és rendkívül kacskaringós szellemi ösvényen.… (tovább)

>!
Ad Astra, 2016
466 oldal · Fordította: Hidy Mátyás
>!
Ad Astra, Budapest, 2015
466 oldal · puhatáblás · ISBN: 9786155229619 · Fordította: Hidy Mátyás

Enciklopédia 2


Kedvencelte 2

Most olvassa 6

Várólistára tette 51

Kívánságlistára tette 66

Kölcsönkérné 1


Kiemelt értékelések

>!
ppayter
Nick Bostrom: Szuperintelligencia

"A Szuperintelligencia nem himnusz a mesterséges intelligenciához, nem a technológiai fejlődés bibliája, mint A szingularitás küszöbén. Nick Bostrom szinte teljesen elveti Ray Kurzweil optimizmusát, a technológiai hatásokkal is viszonylag keveset foglalkozik, ellenben nagyon alaposan körbejárja egy fejlett, minimum emberi szintű MI létrehozásával és társadalmi hatásaival kapcsolatos problémákat.

Nagy szükség van az ehhez hasonló könyvekre. Nem tudom, hogy tényleg húsz éven belül várható-e a valódi/erős/univerzális mesterséges intelligencia létrehozása és az ezzel járó elképzelhetetlen változások, mint azt Kurzweil írja, de az biztos, hogy – értelemszerűen – minden eddiginél közelebb állunk hozzá. Éppen ezért Bostrom könyve rendkívül aktuális: ha tényleg elkezdünk ezen dolgozni, azt rendkívüli körültekintéssel kell tennünk (a többesszám úgy általában az emberiségre értendő). Felépítés, motivációkiválasztás, jutalmazási rendszer, biztosítékok, eszközök, hozzáférés – iszonyú sok mindenen bukhat a dolog.

[…] Mindennek ellenére szó nincs arról, hogy Bostrom szándékosan borúlátó képet festene a mesterséges intelligenciákról és nem is öncélúan vészmadárkodik. Látja és leírja egy jól összerakott, erős MI hasznát, értékét és előnyeit, de tökéletesen tisztában van a lehetséges buktatókkal, egzisztenciális kockázatokkal is. Rendes tudóshoz illően abszolút realistán közelíti meg a témát és pontosan ezért kell nagyon komolyan venni, amikor óvatosságra int. Tekintve, hogy az MI potenciálisan veszélyesebb lehet, mint az atombomba volt a negyvenes években, és csak egyszer ronthatjuk el vagy járhatunk sikerrel, minden óvatosságunkra és tudásunkra szükség lesz. […]"


Bővebben: http://kultnaplo.blogspot.com/2016/02/nick-bostrom-szup…

>!
Gazsó_Fodor_István
Nick Bostrom: Szuperintelligencia

Korábban Kurzweil felcsillantotta előttem a reményt, hogy mi már talán megszabadulunk a haláltól. Bostrom könyvét olvasva azonban egyre valószínűbbnek láttam azokat a forgatókönyveket, amelyekben óriási szerencsénk lenne, ha meghalhatnánk. A szuperintelligenciát irányítani nem más, mint megzabolázni egy egyeduralkodó istent – ami lehetetlennek látszik. (Egyeduralkodó, mert a döntő stratégiai fölényét az elsőként megjelenő szuperintelligencia valószínűleg ki fogja használni.) Hiába próbálunk nagyszerű, vagy épp teljesen hétköznapi célokat állítani elé mag-MI korában, amikor még programozható: a perverz megvalósítás, az infrastruktúraelárasztás és az elmebűn veszélyét ezzel nem küszöbölhetjük ki. A könyv vége felé azonban Bostrom bemutat néhány potenciális módszert (pl.: koherens extrapolált akarat, vagy a 'tedd azt, amire a legtöbb okunk lenne megkérni' típusú közvetett megoldások), melyek segítségével talán elérhetjük, hogy a leendő szuperintelligencia ne öljön meg minket, csak mert útban lehetünk, amikor a pí újabb és újabb számjegyeit határozza meg, vagy hogy ne gyártson gemkapcsokat az univerzum minden anyagából, vagy ne csináljon belőlünk boldog, vigyorgó idiótákat.


Népszerű idézetek

>!
ppayter

Ha az intelligenciának és a tudásnak ára van, mert időt és energiát kell befektetni a megszerzésébe, vagy tárolni és feldolgozni azt, a szereplő talán kevesebb tudásra és intelligenciára fog törekedni.*


* Ezt a stratégiát követik a tengeri zsákállatok lárvái, amelyek addig úszkálnak, amíg nem találnak egy megfelelő sziklát, amihez aztán rögzítik magukat. Mivel már egy helyben van, a lárvának nincs szüksége komplex információfeldolgozásra, ezért elfogyasztja saját agyának (azaz csőidegrendszerének) egy részét. Ez a folyamat néhány akadémikusnál is megfigyelhető, amikor véglegesítik őket egy egyetemen.

165. oldal, 7. fejezet - A szuperintelligencia akarata - Intelligenciafejlesztés (és a kapcsolódó végjegyzet a 391. oldalon)

1 hozzászólás
>!
ppayter

Egy biológiai agy sebességének ezerszeresén működő emuláció néhány másodperc alatt el tudna olvasni egy könyvet, egy nagydoktori disszertáció megírásához pedig elég lenne neki egy délután. Ha egymilliószoros sebességgel futna, egyetlen munkanap alatt képes lenne elvégezni egy évezred szellemi munkáját.*


* Az emulációknál az is kérdés, mennyi ideig tud egy emberszerű tudat dolgozni valamin, mielőtt megőrül, vagy önmagát kezdi ismételni. Még változatos feladatok és rendszeres szabadságolás esetén sem biztos, hogy egy emberszerű elme kibírna több ezer évet pszichológiai problémák nélkül.

90. oldal, 3. fejezet - A szuperintelligencia formái - Gyors szuperintelligencia (és a kapcsolódó végjegyzet a 375. oldalról)

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI) · őrület
>!
ppayter

Bár az emberi elme csak egy apró szeletét alkotja a lehetséges elmék halmazának, az emberek hajlamosak saját tulajdonságaikat idegen vagy mesterséges elmékre is kivetíteni. […]

A mesterséges intelligenciának akár még egy zöld, nyálkás idegennél is kevésbé emberi motivációi lennének. Tegyük fel, hogy gülüszemű földönkívülink evolúciósan kifejlődött biológiai lény, ezért az evolúciósan kifejlődött lények motivációival rendelkezik. Nem lenne túl meglepő, ha egy véletlenszerűen választott intelligens idegennek szintén szüksége lenne ételre, valamilyen gázra és egy bizonyos hőmérsékletre az életben maradáshoz, energiát fogyasztana és ki lenne téve a sérüléseknek, betegségeknek, a ragadozók támadásának, és lennének a szexualitással vagy a szaporodással kapcsolatos vágyai is. Egy intelligens biológiai lény motivációi között talán megtalálhatjuk az együttműködést és a versenyt is: lehet, hogy hozzánk hasonlóan lojális lenne egy csoporthoz, és akár a hírnevére és a megjelenésére is odafigyelhetne. […]

Egy MI ezzel szemben talán nem törődne a fentiek egyikével sem. Nem lenne semmi paradox egy olyan MI-ben, amelynek végcélja csak annyi, hogy megszámolja a homokszemeket a tengerparton, minél több tizedesjegyre kiszámolja a pi értékét, vagy az lenne a küldetése, hogy maximalizálja a gemkapcsok számát a jövő fénykúpjában. Valójában könnyebb lenne a fenti egyszerű célok valamelyikével rendelkező MI-t alkotni, mint egy emberi értékrendet alkotó rendszert.

158-159. oldal, 7. fejezet - A szuperintelligencia akarata - Az intelligencia és a motiváció összefüggése

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
>!
ppayter

Az ötvenes évek végén több szakértő is kijelentette: „Ha valaki meg tudna tervezni egy sikeres sakkjátékos gépet, akkor az azt is jelentené, hogy megfejtette az emberi intellektus legbelsőbb lényegét.” Ma már úgy tűnik, ez a megállapítás téves. Együtt érezhetünk John McCarthyval, aki némileg letörten így fogalmazott: „Ahogy bebizonyosodik egy programról, hogy működik, már senki nem hívja MI-nek.”

35. oldal, 1. fejezet - Múltbeli fejlődés és jelenlegi képességek - Csúcstechnika

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
>!
ppayter

Az általános emberi intelligenciával rendelkező gépeket már az 1940-es évek, a számítógép kifejlesztése óta jövendölik; olyan gépek lennének ezek, melyek értelemmel, hatékony tanulási és tervezési képességekkel bírnak, és képesek komplex információfeldolgozási feladatokat megoldani, a legváltozatosabb konkrét és elvont témákban. Abban az időben, a számítógépek beköszöntekor még általában úgy húsz évvel későbbre várták őket. Azóta a becsült dátum évente egyéves sebességgel tolódott ki; ma az általános mesterséges intelligenciával foglalkozó futurológusok szintén gyakran mondják, hogy az intelligens gépek két évtizeden belül megjelennek.

24. oldal, 1. fejezet- Múltbeli fejlődés és jelenlegi képességek - Szép remények

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
>!
fedaksari 

A kocsikat és az ekéket húzó lovak mellett kezdetben csak kiegészítésként használtak motorizált járműveket, amelyek növelték a lovak termelékenységét. Később azonban a lovakat teljesen felváltották az automobilok és traktorok. Ezek a találmányok csökkentették a lovak munkája iránti igényt, és a populációjuk összeomlott. Lehet, hogy hasonló sors vár az emberiségre is?

230. oldal

>!
fedaksari

Azonban a korai demonstrációs rendszerekben sikeres módszereket gyakran nehéz volt kiterjeszteni más, magasabb fokú problémákra. Ennek egyik oka a „kombinatorikus robbanás” volt: a gyakran minden lehetőséget számba vevő programok nem tudtak mit kezdeni a lehetőségek ugrásszerű növekedésével. Az ilyen módszerek jól működnek egyszerű problémák esetén, de amikor a dolgok kissé összetettebbé válnak, elbuknak.

28. oldal

>!
fedaksari

A kombinatorikai robbanás leküzdéséhez olyan algoritmusok kellenek, amelyek a célprobléma struktúráját használják ki a helyzet megoldásához, és heurisztikus kereséssel, tervezéssel és flexibilis absztrakt reprezentációkkal előnyt kovácsolnak az előzetes tudásukból – ezek a képességek szinte teljesen hiányoztak a korai MI-kből.

28. oldal

>!
ppayter

Stratégiai megfontolások komplikálják a konvergens fontos célokat az olyan szuperintelligenciák számára, amelyek nem biztosak abban, hogy nem léteznek más erős szuperintelligenciák, amelyeket még nem teljesen látunk át, de amelyek nagy hatással lehetnek a fentebb tárgyalt hasznos célokra.*


* A szimulációs elmélet e tekintetben különösen fontos lehet. Egy szuperintelligencia jelentős valószínűséget tulajdoníthat olyan hipotéziseknek, amelyek szerint egy számítógépes szimulációban él, és tapasztalatait egy másik szuperintelligencia generálja. Ez konverges fontos célokat generálhat attól függően, hogy a szereplő mit gondol, milyen szimulációban van.

169. oldal, 7. fejezet - A szuperintelligencia akarata - Erőforrások megszerzése (és a kapcsolódó végjegyzet a 392. oldalon)

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
>!
fedaksari

Az első tudós, aki felvázolta ezt a forgatókönyvet, a matematikus I.J. Good lehetett, aki vezető statisztikusként szolgált Alan Turing kódfejtő csapatában a II. világháborúban. Egy 1965-ös, gyakran idézett bekezdésben így ír:
„Az ultraintelligens gépet definiáljuk olyan gépként, amely messze képes túlszárnyalni akár a világ legokosabb emberének szellemi képességeit is. Mivel a gépek tervezése szellemi tevékenység, egy ultraintelligens gép még jobb gépeket tervezhetne, és kétségtelenül létrejönne az "intelligenciarobbanás”. Az emberi intelligenciát messze túlhaladnánk. Így az első ultraintelligens gép az utolsó találmány lenne, amit az embernek valaha is meg kell alkotnia, feltéve, hogy a gép elég szelíd, hogy megmondja nekünk, hogyan tartsuk kordában." (Good, Irving John. 1965)
Nyilvánvalónak tűnik, hogy egy ilyen intelligenciarobbanás közvetlenül veszélyeztetné a létünket, és ezért a legkomolyabban kell megvizsgálnunk a kockázatot, még akkor is, ha tudnánk (nem tudjuk), hogy van valamekkora esély a fenti forgatókönyv bekövetkezésére.

25. oldal


Hasonló könyvek címkék alapján

William Gibson: A periféria
Peter F. Hamilton: Pandóra csillaga I-II.
Dan Simmons: Hyperion bukása
David Brin: Dettó
Kim Stanley Robinson: 2312
Hannu Rajaniemi: A kauzalitás angyala
Joan Slonczewski: Agypestis
Alastair Reynolds: Jelenések tere
Greg Egan: Diaszpóra
Neal Stephenson: Seveneves – A hét Éva