Mesterséges intelligencia - Áldás ,vagy átok?
Sziasztok!
Tudom, hogy a média szereti felfújni a dolgokat, de ez már nem az első vélemény arról, hogy a mesterséges intelligencia nagyon rizikós:
Index - Tudomány - Az ördögöt idézzük meg a mesterséges intelligenciával
"Elon Musk, a Tesla elektromos autók, illetve a polgári űrrepülés úttörőjeként ismert SpaceX alapítója egy előadáson elhangzott kérdésre válaszolva elmondta, hogy szerinte a mesterséges intelligencia az emberiségre leselkedő legnagyobb veszély."
Index - Tudomány - Stephen Hawking óva int a mesterséges intelligenciától
"A mesterséges intelligencia megalkotása a legfontosabb esemény lesz az emberiség történetében - állítja egy tudóscsoport, aminek Stephen Hawking, valamint a Nobel-díjas Frank Wilczek is tagjai. A kutatók ugyanakkor leszögezik: a nagy esélyünkből az utolsó is lehet."
Ez most indexes kivágat, de ha elolvassátok, látható, hogy ez nem akárkik véleménye.
Számomra ez a terület nagyon idegen, de köztetek van programozó, vagy más aki tech témában jártas. Nagyon kíváncsi lennék a véleményetekre. Szerintetek ez valós (mégha viszonylag távol) veszély, vagy nincs reális alapja?
re: Mesterséges intelligencia - Áldás ,vagy átok?
Én ezt tanulom egyetemen. Az egész még elég gyerekcipőben jár, a jelenlegi mesterséges intelligencia leegyszerűsítve függvényaproximáció, és hatalmas adathalmazokban való keresgélés, szabályok alapján az adatok klaszterezése. Semmi beátásos tanulás nincs a dologban, csak elbonyolított matematika, ami nem tud magától tanulni, csak fixen kódolt részek/szabályok alkotják, és általában csak egy-egy speciális területen tud sikereket elérni azért, mert egy ember számára brutális mennyiségű adatban tud keresni, mert gép. De nincsenek önálló gondolatai, előre kiszámítható pontosan, hogy mit fog csinálni, mert olyan matematikai modellekre épül.
Mondjuk van olyan elmélet is, hogy az emberi agy is így működik, csak egy nagyon bonyolult számítógép, és valójában nincs is szabad akarat, ugyan olyan mint egy gép, tökéletesen azonos bemenetre (ugyan abban az időben, ugyan olyan környezetben, ugyan olyan dolgokra) tökéletesen ugyan azt a kimenetet (reakciót, választ) adja. Ilyen értelemben ugyan az mint a "mesterséges intelligencia", csak bonyolultabb.
Amit még nem tudtak megcsinálni tehát az egy olyan mesterséges intelligencia, ami úgy működik, hogy nem lehetne a bemeneő adatok alapján előre megmondani, hogy mit fog csinálni (elméletileg sem, mert itt ugye a gond a sok adattal van ált., amit a gép feldolgoz másodpercek alatt, egy ember meg évekig ülhetne és számolGathatna, de ettől még kiszámítható). Szerintem az lesz az áttörés, ha valaki ilyet fog tudni csinálni, bár itt megint felvetődik a kérdés, hogy a mi gondolkodásunk kiszámíthatatlan-e. Ha ismered az agyban az összes neuron meg mindenféle kapcsolódását, a korábbi tapasztalatokat, az összes adatot, ami ott van tárolva, akkor pontosan kiszámítható-e az, hogy mire mit reagál az ember? Mert van elmélet, ami azt mondja, hogy igen, valójában meg ötletünk sincs. :)
re: Mesterséges intelligencia - Áldás ,vagy átok?
Köszi. Hát igen, ez alapján úgy tűnik a klasszikus kérdéshez térünk vissza. Laplace démon, stb.
Viszont ha igaz, hogy megfelelő komplexitás mellett megjelenik a tudat, akkor attól azért nem vagyunk nagyon távol. A Knowledge Graphról azt mondják az emberi agy komplexitásának 1-3%-ánál tart. Akkor már nem vagyunk olyan messze.
re: Mesterséges intelligencia - Áldás ,vagy átok?
Minden csak azon múlik, ki fogja megteremteni az első MI-t és mik lesznek a direktívái, mi alapján fog elindulni a működés.
Tudom hogy semmi köze nincs a valósághoz, de Asimov mester könyvei jó példák lennének erre. De az emberi agyat nem tudjuk még lemodellezni, vagy bármilyen agyat.
A jelen kor fejlettségi szintjén szerintem ebből még nem lesz semmi, és bízom benne hogy addig amíg az egymás öldökléséből át nem térünk a békés élet mellé addig nem is lesz MI. Mert akinek MI-je van annak még több hatalma van, a hatalom pedig látjuk mit tesz.
re: Mesterséges intelligencia - Áldás ,vagy átok?
Én nekem van egy saját elméletem is: egy X komplexitású dolgot csak egy olyan valami (lény, ember, gép, bármi) láthatja át és modellezheti le, ami X-nél magasabb komplexitású. És mivel a jelenlegi MI az agy modellezésére fókuszál, az elméletem alapján sosem tudjuk elérni az agy komplexitását. Persze az csak elmélet. És az enyém. :D
Idézet:
esotanc eredeti hozzászólása
Köszi. Hát igen, ez alapján úgy tűnik a klasszikus kérdéshez térünk vissza. Laplace démon, stb.
Viszont ha igaz, hogy megfelelő komplexitás mellett megjelenik a tudat, akkor attól azért nem vagyunk nagyon távol. A Knowledge Graphról azt mondják az emberi agy komplexitásának 1-3%-ánál tart. Akkor már nem vagyunk olyan messze.
Ez az 1-3% csalóka. Példának okáért én írok két délután alatt olyan MI-t, ami olyan döntéseket hoz másodpercek alatt, amihez Neked több napnyi/hétnyi/hónapnyi számítás kell. Akkor most az túlszárnyalja az agy komplexitását? Szerintem nem. Pedg az adott területen gyorsabb, jobb, az adott területen egységnyi időalatt komplexebb összefüggéseket képes "átlátni" és komplexebb feladatokat képes megoldani => az adott területen komplexebb.
Szerintem mindenhol a felhasználási célt kell nézni. A matematikai, számítási problémákban a számítógépek sokkal jobbak az embernél, de már sok-sok vée sokkal jobbak. Viszont rengeteg más területen, ami saját gondolatokhoz és cselekvésekhez, döntésekhez vezet, belátáshoz, tényleges intelligenciához, már nem.
Jó példa: voltam IQ teszten, az volt a lényeg, hogy volt 8 ábra, és oda kellett passzintani a 9-et néhány lehetőség közül. Tehát mintafelismerés volt gyakorlatilag a dolog. Erre pompásan lehetne írni programot, az egész IQ tesztet, ami nekem másfél óra volt, a gép másodpercek alatt oldaná meg tökéletesre. Ettől még nem lesz 180 az IQ-ja. Adott problémára tud adott megoldást adni. Minden máson viszont elvérezne. (Most ne keverjük ide, hogy az IQ teszt valójában mennyire méri az IQ-t stb.).
Van robot, ami megtanult főzni az internetről, és tényleg jó kajákat készít. De nem tudna megkülönböztetni egy bokrot egy fától. Mégis olyan kajaötleteket talál ki, amikre komplett éttermet építettek már, és elég jól is megy a dolog (IBM gépe egyébként, ha érdekel valakit, itt van bővebb infó: Cognitive Cooking | Home). De ettől még ez közel sincs olyan komplexitású mint az emberi agy, csupán egy területre fókszálva tud baromi gyorsan adatokat gyűjteni és elemezni. Ennyiben kimerül.
re: Mesterséges intelligencia - Áldás ,vagy átok?
Szerintem nagyon messze járunk még attól, hogy a mesterséges intelligencia veszélyt jelentsen bárkire is. Reális alapja lehet, de jelenleg nem valós veszély.
re: Mesterséges intelligencia - Áldás ,vagy átok?
Idézet:
sdt01 eredeti hozzászólása
Szerintem nagyon messze járunk még attól, hogy a mesterséges intelligencia veszélyt jelentsen bárkire is. Reális alapja lehet, de jelenleg nem valós veszély.
Ez nagyon attól függ mit tekintesz mesterséges intelligenciának. Igazából már az atomerőművet vezérlő és szabályozó rendszerek is tekinthetőek annak, hisz adaptívan viselkednek. Abból nem írnám, hogy nem lehet baj, ha rosszul működik, és azt sem, hogy nem jelent veszélyt.
Amúgy érv/indok?
re: Mesterséges intelligencia - Áldás ,vagy átok?
Idézet:
Emphus eredeti hozzászólása
Amúgy érv/indok?
Persze. Egy rosszul beprogramozott jelzőlámpa is okozhat halálos balesetet. Az én olvasatomban a mesterséges intelligencia, akárcsak Musk szerint, egy "önállóan tanuló, gondolkodó és döntő gép", melynek nem lehet felülírni a viselkedését.
re: Mesterséges intelligencia - Áldás ,vagy átok?
Idézet:
sdt01 eredeti hozzászólása
Persze. Egy rosszul beprogramozott jelzőlámpa is okozhat halálos balesetet. Az én olvasatomban a mesterséges intelligencia, akárcsak Musk szerint, egy "önállóan tanuló, gondolkodó és döntő gép", melynek nem lehet felülírni a viselkedését.
Akkor viszont - bár szó szerint ilyen olvasattal igaz a fent írt mondatod - nem attól állunk messze, hogy az MI veszélyt jelentsen bárkire vagy bármire is, hanem az MI létezésétől állunk messze. Ugyanis a Te kritériumaidnak megfelelő dolog még nem létezik. (Mondjuk hozzátenném, a Te olvasatod még az emberre sem igaz, mivel felülírható a viselkedése, az emlékei, becsaphatóak az érzékszervei, ezzel befolyásolható, módosítható a reakciója stb.)
re: Mesterséges intelligencia - Áldás ,vagy átok?
Valaki mondta, vagy írta (nem tudom, hogy ki és mikor):
"Ha az agyunk annyira egyszerű lenne, hogy megérthetnénk működését, mi magunk lennénk annyira egyszerűek, hogy nem lennénk erre képesek."
Szerintem van benne valami... :)