Forumet - Hawking: AI kan vara slutet för oss

Hawking: AI kan vara slutet för oss

1965 0 57
Steven Hawking tror att Artificiell intelligens (AI) en dag kommer att utrota mänskligheten av ren nödvändighet precis som den art som anpassar sig bäst till naturens villkor utrotar en konkurrerande art som sämre anpassar sig, under förutsättning att båda konkurrerar om utrymmet och resurserna.

Hawking: AI kan vara slutet för oss

Vad tror och tycker ni? Kommer det att bli så, är det bra eller dåligt?
Det är konstigt hur människor kastar bort alla sorters förbehåll vad deras okunskap i hur datorer och programmering fungerar när det kommer till det lösa konceptet AI.

Tror inte att det är så pass nära i tiden eller oundvikligt som de flesta får det att låta som. Folk underskattar de skåror som ett programs instruktioner utgör och förstår inte att säkerhetsåtgärder är lätta att skriva in, jag tror även att den heuristik som krävs för att göra kompetenta beslut i verkligheten också underskattas.

Jag kan lätt tänka mig att olika former av självständiga skript och maskiner uppstår, men i olika generationer med människan och hennes civilisation som mellanhand snarare än att det efter ett gryn av autonomi förekommer någon sorts explosion.

frukt: Folk underskattar de skåror som ett programs instruktioner utgör och förstår inte att säkerhetsåtgärder är lätta att skriva in, jag tror även att den heuristik som krävs för att göra kompetenta beslut i verkligheten också underskattas.
Instruktioner och säkerhetsåtgärder skrivs in redan idag i program...och förbikopplas också redan idag av t ex hackers. Varför skulle en AI inte kunna göra samma sak, och det på ett mer effektivt sätt?

frukt: Jag kan lätt tänka mig att olika former av självständiga skript och maskiner uppstår, men i olika generationer med människan och hennes civilisation som mellanhand snarare än att det efter ett gryn av autonomi förekommer någon sorts explosion.
Programs intelligens kan öka mycket snabbare än en människas då datorernas evolution inte är bunden av biologiska hinder. Det är därför sannolikt att de utvecklas bortom människans förståelseförmåga, och det kan ske med exponentiell hastighet vilket redan idag sker. Det enda sättet på vilket utvecklingen kan ske parallellt med människans förståelse av den är om människan aktivt lyckas bromsa maskinernas utveckling. Det räcker dock att mänskligheten en gång tappar kontrollen för att maskinerna ska få och behålla övertaget.

Spana också in:


Kudhos: AI kommer alltid ha en killswitch så nä
Du tror det? Varför skulle den inte kunna hitta sätt att kringgå sin off-knapp? För övrigt, en AI är ett program och ett program kan hitta sätt att sprida sig över hela nätverk. Det är tillräckligt svårt att sätta stopp för datorvirus idag, tror det blir ännu svårare när de blir allt smartare.

Razor:
Du tror det? Varför skulle den inte kunna hitta sätt att kringgå sin off-knapp? För övrigt, en AI är ett program och ett program kan hitta sätt att sprida sig över hela nätverk. Det är tillräckligt svårt att sätta stopp för datorvirus idag, tror det blir ännu svårare när de blir allt smartare.
Med smartare teknik sätter man högre krav på felhantering. Ett av de hetaste yrkena just nu är säkerhet inom IT. 

Razor:
Vad händer när ett program når en komplexitet som är bortom mänsklig förståelseförmåga? Hur hanterar och kontrollerar man något man inte fullt förstår?
Någon har utvecklat det. Det måste fylla logiska operationer. De dynamiska AI som finns t ex i spel är baserat på algoritmer. Givet att de lär sig från sin omgivning men de kan inte utvecklas utan att någon skriver det. 

T ex an AI med bara sök sinne kommer inte få fler sinnen om inte någon lägger in det. 

T ex i spel har man AI som lär sig efter dig hur den ska bete sig. Till exempel vart du gömmer dig, eller vad för vapen  du använder. Men för att utöka dess kunskap måste den få det av någon utvecklare. 

Påstår inte att herr Hawkings har helt fel då jag tror att AI kommer bli problem, men inte människans undergång. 

Kudhos: Någon har utvecklat det. Det måste fylla logiska operationer. De dynamiska AI som finns t ex i spel är baserat på algoritmer. Givet att de lär sig från sin omgivning men de kan inte utvecklas utan att någon skriver det.
Okej, men jag tror att den sortens AI Hawking varnar för är en sådan som utvecklar sig själv, och en sådan kan bli komplex bortom dess skapares förståelse. Att någon utvecklar en plattform betyder inte att samma grundare förstår sig på vad som byggs vidare på den plattformen.

mynona: så länge de inte har en självstämndig vilja och reflektionsförmåga, vilket de enligt min oinformerade åsikt omöjligt kan få.
Ens självständiga vilja baserar sig på ens unika behov. Om ett program har ett grundläggande behov kommer den också att ha en vilja, precis som allt levande. Reflektionsförmågan är förmågan till självmedvetande och i övrigt rekursiva (återkopplande) processer vilka redan finns inom matematik och programmering så jag tror inte att det är omöjligt. Självmedvetande tror jag nås vid tillräckligt hög komplexitet i samarbetet mellan olika centra för införsel av information och bearbetning av denna. För att hantera en stor mängd information från olika bearbetningscentra och samordna allt detta behövs ett övervakande organ som ser till helheten, och där kommer medvetandet in i rollen.

Morgonstjärna: och även om vi skulle konstruera en intelligens med vilja att mörda oss så skulle den helt sakna medel att göra det
Vi blir allt mer beroende av Internet och datorer vilket gör oss allt mer sårbara för störningar i elnät och Internet. Ett program som tar kontrollen över Internet och allt som är kopplat till Internet kommer att ha en stor makt och kontroll över infrastrukturen i samhället vilket också betyder kontroll över människan.

Razor: Ens självständiga vilja baserar sig på ens unika behov. Om ett program har ett grundläggande behov kommer den också att ha en vilja, precis som allt levande. Reflektionsförmågan är förmågan till självmedvetande och i övrigt rekursiva (återkopplande) processer vilka redan finns inom matematik och programmering så jag tror inte att det är omöjligt. Självmedvetande tror jag nås vid tillräckligt hög komplexitet i samarbetet mellan olika centra för införsel av information och bearbetning av denna. För att hantera en stor mängd information från olika bearbetningscentra och samordna allt detta behövs ett övervakande organ som ser till helheten, och där kommer medvetandet in i rollen.
Man kan vinna en argumentering för att datorer och dylikt har en egen vilja och självmedvetande rent språkligt sett och motivera det intellektuellt logiskt, men nej: det blir knappast samma sak i mina ögon. De kommer till exempel heller inte att ha känslor och personlighet. Men så behöver jag ju heller inte övertygas. 

mynona: Man kan vinna en argumentering för att datorer och dylikt har en egen vilja och självmedvetande rent språkligt sett och motivera det intellektuellt logiskt, men nej: det blir knappast samma sak i mina ögon. De kommer till exempel heller inte att ha känslor och personlighet. Men så behöver jag ju heller inte övertygas.
Hur man ser på det hela beror mycket på ens förutfattade världsbild. Jag tycker att mycket talar för att våra känslor och personlighet kan härledas från gener, omgivning och i nuet i form av minnen, hormonnivåer o.s.v. som är biologiskt lagrat och inprogrammerat i oss. Ser man det på det sättet är det inte omöjligt att skapa en artificiell livsform som även den drivs av omvandling av energi, minnen, olika vätskor som motsvarar hormoner o.s.v.

Razor:
Hur man ser på det hela beror mycket på ens förutfattade världsbild. Jag tycker att mycket talar för att våra känslor och personlighet kan härledas från gener, omgivning och i nuet i form av minnen, hormonnivåer o.s.v. som är biologiskt lagrat och inprogrammerat i oss. Ser man det på det sättet skiljer det inte omöjligt att skapa en artificiell livsform som även den drivs av omvandling av energi, minnen, olika vätskor som motsvarar hormoner o.s.v.
Det är sant: har man en renodlat biologistisk-deterministisk syn på människan blir det fullt logiskt att se saken på det sättet, och en dator får ett till fullo jämförbart "psyke" som en människa. Jag håller med. Vilket för mig personligen dock bara är ännu ett exempel på varför jag själv inte är determinist ;)

Razor:
Okej, men jag tror att den sortens AI Hawking varnar för är en sådan som utvecklar sig själv, och en sådan kan bli komplex bortom dess skapares förståelse. Att någon utvecklar en plattform betyder inte att samma grundare förstår sig på vad som byggs vidare på den plattformen.


Det förstår jag. Det är lite vad google gör och har gjort länge. Google samlar miljarder med info. Med tillräckligt hög databas kommer man kunna göra mycket weirda saker. Smarta AIs är en av dem. Däremot tvivlar jag att det kommer komma sån tid. Jag tror att det riktiga hotet är inte direkt illartat, utan att ett problem likt filmen "her" kommer. AIs och teknologi som kan ersätta människors behov. Att folk kommer hellre umgås med sin tekniska vän än fysiska.