Szuperintelligencia 17 csillagozás

Nick Bostrom: Szuperintelligencia

Az ​emberi agynak vannak olyan tulajdonságai, amelyek az állatokból hiányoznak. Ezeknek köszönhetjük, hogy domináns helyzetben vagyunk. Az állatok erősebb izmokkal vagy hegyesebb karmokkal rendelkeznek, de az agyunk nekünk fejlettebb.
Ha egyszer majd a gépi agyak megelőzik az embert általános intelligencia terén, a létrejövő új szuperintelligencia nagy hatalomra tehet szert. A fajunk sorsa attól fogva már a gépi szuperintelligencia akaratán múlik, ahogy a gorillák sorsa is inkább tőlünk, emberektől függ.
Azonban a gorillákhoz képest előnnyel indulunk: mi tehetjük meg az első lépést. Viszont a kérdés az, hogy képesek leszünk-e létrehozni egy jóindulatú MI-magot, vagy más eszközökkel olyan kezdeti körülményeket, hogy túléljük az intelligenciarobbanást? Hogyan tudnánk irányítani ezt az ugrásszerű fejlődést?

A kedves olvasó rendkívül ambiciózus és eredeti művet tart a kezében, amely kézen fogva vezeti végig egy hatalmas, és rendkívül kacskaringós szellemi ösvényen.… (tovább)

>!
Ad Astra, 2016
466 oldal · Fordította: Hidy Mátyás
>!
Ad Astra, Budapest, 2015
466 oldal · puhatáblás · ISBN: 9786155229619 · Fordította: Hidy Mátyás

Enciklopédia 5


Kedvencelte 3

Most olvassa 7

Várólistára tette 72

Kívánságlistára tette 78

Kölcsönkérné 1


Kiemelt értékelések

Nikolett0907 P>!
Nick Bostrom: Szuperintelligencia

„Az általános emberi intelligenciával rendelkező gépeket már az 1940-es évek, a számítógép kifejlesztése óta jövendölik; olyan gépek lennének ezek, melyek értelemmel, hatékony tanulási és tervezési képességekkel bírnak, és képesek komplex információfeldolgozási feladatokat megoldani, a legváltozatosabb konkrét és elvont témákban. Abban az időben, a számítógépek beköszöntekor még általában úgy húsz évvel későbbre várták őket. Azóta a becsült dátum évente egyéves sebességgel tolódott ki; ma az általános mesterséges intelligenciával foglalkozó futurológusok szintén gyakran mondják, hogy az intelligens gépek két évtizeden belül megjelennek.”

Nehéz egy ilyen témájú könyvet értékelni a számomra.
Még talán hagynom kell, hogy megérjen igazán a véleményem, így később egy letisztultabb fogalmazásban fogom folytatni….

2 hozzászólás
ppayter>!
Nick Bostrom: Szuperintelligencia

„A Szuperintelligencia nem himnusz a mesterséges intelligenciához, nem a technológiai fejlődés bibliája, mint A szingularitás küszöbén. Nick Bostrom szinte teljesen elveti Ray Kurzweil optimizmusát, a technológiai hatásokkal is viszonylag keveset foglalkozik, ellenben nagyon alaposan körbejárja egy fejlett, minimum emberi szintű MI létrehozásával és társadalmi hatásaival kapcsolatos problémákat.

Nagy szükség van az ehhez hasonló könyvekre. Nem tudom, hogy tényleg húsz éven belül várható-e a valódi/erős/univerzális mesterséges intelligencia létrehozása és az ezzel járó elképzelhetetlen változások, mint azt Kurzweil írja, de az biztos, hogy – értelemszerűen – minden eddiginél közelebb állunk hozzá. Éppen ezért Bostrom könyve rendkívül aktuális: ha tényleg elkezdünk ezen dolgozni, azt rendkívüli körültekintéssel kell tennünk (a többesszám úgy általában az emberiségre értendő). Felépítés, motivációkiválasztás, jutalmazási rendszer, biztosítékok, eszközök, hozzáférés – iszonyú sok mindenen bukhat a dolog.

[…] Mindennek ellenére szó nincs arról, hogy Bostrom szándékosan borúlátó képet festene a mesterséges intelligenciákról és nem is öncélúan vészmadárkodik. Látja és leírja egy jól összerakott, erős MI hasznát, értékét és előnyeit, de tökéletesen tisztában van a lehetséges buktatókkal, egzisztenciális kockázatokkal is. Rendes tudóshoz illően abszolút realistán közelíti meg a témát és pontosan ezért kell nagyon komolyan venni, amikor óvatosságra int. Tekintve, hogy az MI potenciálisan veszélyesebb lehet, mint az atombomba volt a negyvenes években, és csak egyszer ronthatjuk el vagy járhatunk sikerrel, minden óvatosságunkra és tudásunkra szükség lesz. […]”


Bővebben: http://kultnaplo.blogspot.com/2016/02/nick-bostrom-szup…

Gazsó_István I>!
Nick Bostrom: Szuperintelligencia

Korábban Kurzweil felcsillantotta előttem a reményt, hogy mi már talán megszabadulunk a haláltól. Bostrom könyvét olvasva azonban egyre valószínűbbnek láttam azokat a forgatókönyveket, amelyekben óriási szerencsénk lenne, ha meghalhatnánk. A szuperintelligenciát irányítani nem más, mint megzabolázni egy egyeduralkodó istent – ami lehetetlennek látszik. (Egyeduralkodó, mert a döntő stratégiai fölényét az elsőként megjelenő szuperintelligencia valószínűleg ki fogja használni.) Hiába próbálunk nagyszerű, vagy épp teljesen hétköznapi célokat állítani elé mag-MI korában, amikor még programozható: a perverz megvalósítás, az infrastruktúraelárasztás és az elmebűn veszélyét ezzel nem küszöbölhetjük ki. A könyv vége felé azonban Bostrom bemutat néhány potenciális módszert (pl.: koherens extrapolált akarat, vagy a 'tedd azt, amire a legtöbb okunk lenne megkérni' típusú közvetett megoldások), melyek segítségével talán elérhetjük, hogy a leendő szuperintelligencia ne öljön meg minket, csak mert útban lehetünk, amikor a pí újabb és újabb számjegyeit határozza meg, vagy hogy ne gyártson gemkapcsokat az univerzum minden anyagából, vagy ne csináljon belőlünk boldog, vigyorgó idiótákat.

spinakker>!
Nick Bostrom: Szuperintelligencia

Én személy szerint alig várom, hogy kifejlődjön egy szuperintelligencia, ami elpusztítja az emberiséget, mert úgy tűnik, hogy az emberiség nem eléggé intelligens ahhoz, hogy ne pusztítsa el saját magát.

2 hozzászólás
Dávid_G>!
Nick Bostrom: Szuperintelligencia

Egy mesterséges intelligenciával foglalkozó szakembernek ez a könyv alap, egy laikusnak túl részletes. Jelentős erőfeszítés kellett ahhoz, hogy folyamatosan koncentrálva tudjam olvasni. Ezzel együtt megtudtam milyen kérdések merülnek fel a MI-val kapcsolatban és hogy komolyan foglalkoznak a megszeliditesenek, iranyitasanak lehetseges modjaival. Ez igy együtt inkább megnyugtató, mint félelmetes, bár nem kizárt, hogy az én életemben csak elméleti jelentősége lesz. Nem tudom ennek örüljek-e vagy sem.


Népszerű idézetek

ppayter>!

Ha az intelligenciának és a tudásnak ára van, mert időt és energiát kell befektetni a megszerzésébe, vagy tárolni és feldolgozni azt, a szereplő talán kevesebb tudásra és intelligenciára fog törekedni.*


* Ezt a stratégiát követik a tengeri zsákállatok lárvái, amelyek addig úszkálnak, amíg nem találnak egy megfelelő sziklát, amihez aztán rögzítik magukat. Mivel már egy helyben van, a lárvának nincs szüksége komplex információfeldolgozásra, ezért elfogyasztja saját agyának (azaz csőidegrendszerének) egy részét. Ez a folyamat néhány akadémikusnál is megfigyelhető, amikor véglegesítik őket egy egyetemen.

165. oldal, 7. fejezet - A szuperintelligencia akarata - Intelligenciafejlesztés (és a kapcsolódó végjegyzet a 391. oldalon)

1 hozzászólás
ppayter>!

Egy biológiai agy sebességének ezerszeresén működő emuláció néhány másodperc alatt el tudna olvasni egy könyvet, egy nagydoktori disszertáció megírásához pedig elég lenne neki egy délután. Ha egymilliószoros sebességgel futna, egyetlen munkanap alatt képes lenne elvégezni egy évezred szellemi munkáját.*


* Az emulációknál az is kérdés, mennyi ideig tud egy emberszerű tudat dolgozni valamin, mielőtt megőrül, vagy önmagát kezdi ismételni. Még változatos feladatok és rendszeres szabadságolás esetén sem biztos, hogy egy emberszerű elme kibírna több ezer évet pszichológiai problémák nélkül.

90. oldal, 3. fejezet - A szuperintelligencia formái - Gyors szuperintelligencia (és a kapcsolódó végjegyzet a 375. oldalról)

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI) · őrület
ppayter>!

Bár az emberi elme csak egy apró szeletét alkotja a lehetséges elmék halmazának, az emberek hajlamosak saját tulajdonságaikat idegen vagy mesterséges elmékre is kivetíteni. […]

A mesterséges intelligenciának akár még egy zöld, nyálkás idegennél is kevésbé emberi motivációi lennének. Tegyük fel, hogy gülüszemű földönkívülink evolúciósan kifejlődött biológiai lény, ezért az evolúciósan kifejlődött lények motivációival rendelkezik. Nem lenne túl meglepő, ha egy véletlenszerűen választott intelligens idegennek szintén szüksége lenne ételre, valamilyen gázra és egy bizonyos hőmérsékletre az életben maradáshoz, energiát fogyasztana és ki lenne téve a sérüléseknek, betegségeknek, a ragadozók támadásának, és lennének a szexualitással vagy a szaporodással kapcsolatos vágyai is. Egy intelligens biológiai lény motivációi között talán megtalálhatjuk az együttműködést és a versenyt is: lehet, hogy hozzánk hasonlóan lojális lenne egy csoporthoz, és akár a hírnevére és a megjelenésére is odafigyelhetne. […]

Egy MI ezzel szemben talán nem törődne a fentiek egyikével sem. Nem lenne semmi paradox egy olyan MI-ben, amelynek végcélja csak annyi, hogy megszámolja a homokszemeket a tengerparton, minél több tizedesjegyre kiszámolja a pi értékét, vagy az lenne a küldetése, hogy maximalizálja a gemkapcsok számát a jövő fénykúpjában. Valójában könnyebb lenne a fenti egyszerű célok valamelyikével rendelkező MI-t alkotni, mint egy emberi értékrendet alkotó rendszert.

158-159. oldal, 7. fejezet - A szuperintelligencia akarata - Az intelligencia és a motiváció összefüggése

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
ppayter>!

Az ötvenes évek végén több szakértő is kijelentette: „Ha valaki meg tudna tervezni egy sikeres sakkjátékos gépet, akkor az azt is jelentené, hogy megfejtette az emberi intellektus legbelsőbb lényegét.” Ma már úgy tűnik, ez a megállapítás téves. Együtt érezhetünk John McCarthyval, aki némileg letörten így fogalmazott: „Ahogy bebizonyosodik egy programról, hogy működik, már senki nem hívja MI-nek.”

35. oldal, 1. fejezet - Múltbeli fejlődés és jelenlegi képességek - Csúcstechnika

fedaksari>!

Azonban a korai demonstrációs rendszerekben sikeres módszereket gyakran nehéz volt kiterjeszteni más, magasabb fokú problémákra. Ennek egyik oka a „kombinatorikus robbanás” volt: a gyakran minden lehetőséget számba vevő programok nem tudtak mit kezdeni a lehetőségek ugrásszerű növekedésével. Az ilyen módszerek jól működnek egyszerű problémák esetén, de amikor a dolgok kissé összetettebbé válnak, elbuknak.

28. oldal

ppayter>!

Az általános emberi intelligenciával rendelkező gépeket már az 1940-es évek, a számítógép kifejlesztése óta jövendölik; olyan gépek lennének ezek, melyek értelemmel, hatékony tanulási és tervezési képességekkel bírnak, és képesek komplex információfeldolgozási feladatokat megoldani, a legváltozatosabb konkrét és elvont témákban. Abban az időben, a számítógépek beköszöntekor még általában úgy húsz évvel későbbre várták őket. Azóta a becsült dátum évente egyéves sebességgel tolódott ki; ma az általános mesterséges intelligenciával foglalkozó futurológusok szintén gyakran mondják, hogy az intelligens gépek két évtizeden belül megjelennek.

24. oldal, 1. fejezet- Múltbeli fejlődés és jelenlegi képességek - Szép remények

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
fedaksari>!

A kocsikat és az ekéket húzó lovak mellett kezdetben csak kiegészítésként használtak motorizált járműveket, amelyek növelték a lovak termelékenységét. Később azonban a lovakat teljesen felváltották az automobilok és traktorok. Ezek a találmányok csökkentették a lovak munkája iránti igényt, és a populációjuk összeomlott. Lehet, hogy hasonló sors vár az emberiségre is?

230. oldal

ppayter>!

Stratégiai megfontolások komplikálják a konvergens fontos célokat az olyan szuperintelligenciák számára, amelyek nem biztosak abban, hogy nem léteznek más erős szuperintelligenciák, amelyeket még nem teljesen látunk át, de amelyek nagy hatással lehetnek a fentebb tárgyalt hasznos célokra.*


* A szimulációs elmélet e tekintetben különösen fontos lehet. Egy szuperintelligencia jelentős valószínűséget tulajdoníthat olyan hipotéziseknek, amelyek szerint egy számítógépes szimulációban él, és tapasztalatait egy másik szuperintelligencia generálja. Ez konverges fontos célokat generálhat attól függően, hogy a szereplő mit gondol, milyen szimulációban van.

169. oldal, 7. fejezet - A szuperintelligencia akarata - Erőforrások megszerzése (és a kapcsolódó végjegyzet a 392. oldalon)

Kapcsolódó szócikkek: mesterséges intelligencia (MI-AI)
fedaksari>!

A kombinatorikai robbanás leküzdéséhez olyan algoritmusok kellenek, amelyek a célprobléma struktúráját használják ki a helyzet megoldásához, és heurisztikus kereséssel, tervezéssel és flexibilis absztrakt reprezentációkkal előnyt kovácsolnak az előzetes tudásukból – ezek a képességek szinte teljesen hiányoztak a korai MI-kből.

28. oldal

Rozsomak69>!

Oroszország botok révén terjeszt hamis információkat és dönti káoszba a nyugati demokráciákat. Kína techno-disztópikus megfigyelőállamot épít, és arcfelismerés és társadalmi kreditrendszer révén kontrollálja állampolgárait. A pentagon mesterséges intelligencia segítségével dolgozza fel drónok felvételeit, és a Google több ezer MI-kutatójatiltakozott a cég szerepvállalása ellen. Eközben magáncégek olyan platformokat építenek, amelyek gyakran átláthatatlan algoritmusok révén szűrik és osztályozzák az állampolgárok által elérhető információkat, miközben a közjó helyett a haszon lebeg a szemük előtt.

407. oldal

8 hozzászólás

Hasonló könyvek címkék alapján

Ray Kurzweil: A szingularitás küszöbén
Meskó Bertalan: Az orvoslás jövője
Kánai András: Holnap történt
Alan Weisman: A világ nélkülünk
Yuval Noah Harari: Homo Deus
Tim Higgins: Tesla – Elon Musk és az évszázad fogadása
Csepeli György: Ember 2.0
Susan Schneider: A mesterséges ember
Christopher Hrynkow (szerk.): Gondolatok a transzhumanizmusról
Yuval Noah Harari: 21 lecke a 21. századra