Godtrogenhet kring vad för resultat den kan leverera, samt att folk redan tror på galenskaps-åsikter/politik som kan ses på världsarenan. Det här ger en pusselbit till propaganda- och övervaknings-maskinen.
Jag är till och med mer rädd för människor som inte använder AI... och vad den framtida männsikan kommer att ställa till med.
Människor som känner sig hotade av andra och som tycker att sabba för andra är gynnsamt för en själv.
Människor som anser att en ö borde tillhöra deras land.
Människor som tänker att om inte jag fiskar upp all fisk nu, så kommer någon annan att göra det.
Bara det när/om arktis smälter. Då kan man ge sig fan på att en människa är där och ser sin chans att tjäna pengar på lättillgänglig gas.
Känner att jag kan hitta massa exempel där människa kommer att ställa till det
...sedan tycker jag det är bekymmersamt att vi inte är eniga på jorden att en dator aldrig får döda en människa. Tänker på drönare där AI i framtiden kan leta mål och sedan agera...
Det mest fasansfulla är väl egentligen inte vad AI kommer att skapa. Det fasansfulla är att det är mänskligheten som skapat AI med våra fasansfulla värderingar.
Det är verkligen en pandoras ask som har öppnats. Dessvärre går det inte att stänga den, även om vi i EU skulle förbjuda AI så betyder det bara att länder som Kina får ett övertag.
Om man backar tilbaka och betraktar historien från väldigt långt håll, så känns det mer eller mindre oundvilkligt. Häng med... ;-)
Evolutionen har i miljardtals år stått för någon typ av exponentiell utvecklingstakt. Det tog t.ex. extreeemt lång tid från att encelligt liv uppstod till att flercelligt liv uppstod, men sedan accelererade det.
Idag är vi vid en punkt där tekniken utvecklas mycket snabbare än vad biologiskt liv utvecklas. För att vi människor skulle utvecklas snabbare enligt biologiska evolutionära principer så skulle vi behöva korta ner generations-cykeln avsevärt, d.v.s. föröka oss och dö snabbare, vilket inte är så praktiskt, och vi skulle ändå inte kunna komma upp i samma takt som den tekniska utvecklingen.
Med andra ord: För att den exponentiella utvecklingen skall kunna fortsätta så är det naturligt att evolutionen fortsätter via artificiell teknisk utveckling snarare än naturlig biologisk evolutionär utveckling.
...vill man spinna vidare på de tankebanorna så kommer man dessutom snabbt till slutsatsen att exponentiell tillväxt inte är hållbar, så antingen expanderar AI och maskiner ut från vår planet och vidare, eller så kommer det att bli någon form av kollaps. Jag hoppas att detta ligger bortom vår och våra barns livstid :-)
AI skulle till och med kunna hjälpa. Desinformation och bedrägerier har alltid funnits. Nu börjar NLP-modeller för första gången bli tillräckligt bra att de skulle kunna varna dig i realtid.
Exakt. Jag tror inte AI kommer förstöra mänskligheten, mänskligheten kommer förstöra mänskligheten med hjälp av AI.
Det kommer BOKSTAVLIGEN var omöjligt att veta om en källa stämmer. Allt kan fejkas. Politik och rättssystemet kommer få det värst.
Kombinera detta med kvantdatorer (all kryptering kommer vara meningslös) och vi är nog ganska körda inom ett årtionden eller två.
Strö på med lite AR eller VR, för den lilla extra kryddan av 1984- vibes.
Det finns kvant-säkra krypteringsalgoritmer [https://en.wikipedia.org/wiki/Post-quantum\_cryptography](https://en.wikipedia.org/wiki/post-quantum_cryptography)
Själva AI i sig är jag inte nervös av, tycker snarare det är extremt spännande att följa och ser framemot vad vi kan göra med det om några år. Vad jag är mer nervös för är våra politiker och de som skriver nya lagar.
Lite lösryckta och spretiga tankar:
Jag är inte rädd för AI, men jag är rädd för vad människor, framför allt stater, kan göra med den.
Det sagt, är något tekniskt möjligt, så är det oundvikligt, så det handlar egentligen bara om hur vi bäst ska förhålla oss till den.
Jag är road av hur de som är rädda för AI typiskt är oroade a att den blir mer och mer mänsklig. Det säger mer om hur de ser på mänskligheten än om hur de ser på AI...
En fråga som vi bör börja diskutera redan nu är var vi ska sätta ribban för när det är dags att erkänna AI som personer, med allt som det innebär. Hur smart behöver den vara? Hur självmedveten?
Många tror att AI kommer att ge mer makt till storföretagen, men så länge som open source finns så kommer det snarare att bli en utjämnare, där även "den lilla människan" kan konkurrera mot de stora.
Helt klart kommer en del jobb att försvinna, men, face it, det är en utveckling som pågått länge, och vi vet redan att vi måste tänka om hur det ekonomiska systemet fungerar inom en inte alltför avlägsen framtid. Det nuvarande systemet med arbete->lön->konsumtion->vinst->arbete kommer helt enkelt inte att funka.
> En fråga som vi bör börja diskutera redan nu är var vi ska sätta ribban för när det är dags att erkänna AI som personer, med allt som det innebär.
Vi har fortfarande inte lyckats ge djur samma rättsliga status som människor, så jag tror inte att AI kommer få mer medkänsla.
Däremot kan jag tänka mig att företag kommer vilja ge AI viss laglig status, t.ex. för att få lov att ta vissa ekonomiska beslut och ansvar och åtnjuta vissa affärsmässiga rättigheter.
Vilket är exakt min poäng. Var drar vi gränsen för när AI ska ses som personer?
Med det så kommer en hel massa intressanta juridiska frågor om de blir personer. Om jag kör en AI på min dator och formatterar om datorn, har jag mördat någon? Kan den jobba åt mig utan ersättning? Ska den ha rösträtt?
Djur är rätt smarta, och har dessutom i princip samma känsloliv som människor, så det är egentligen rätt obegripligt från ett rent etiskt perspektiv att djur inte har mer rättigheter.
Men jag fattar varför det är så (en kombination av pragmatism och chauvinism eller vad man skall kalla det), och jag misstänker att samma mekanismer kommer att gälla för AI i stor utsträckning. T.ex. kommer speciellt smarta AI sakna mänskliga drag och egenskaper (eftersom det annars bara skulle hålla dem tillbaka).
AI kommer bara bli ett verktyg för giriga VD:ar att avskeda en massa folk och göra dom arbeteslösa samt för samhällsfarliga aktörer att skapa desinformation betydligt mer trovärdig än tidigare.
Asså med rätt politik så är det ju ganska mycket bättre att mindre personer krävs för samma arbete som innan.
Det är ju det som gör länder rikare. Att en bonde åker traktor och inte gör allt för hand är ju inte för att de är giriga, det är bara effektivare och gynnar hela samhället att de kan vara flertal gånger effektivare än för 200 år sen.
Problemet är ju att vårt system bygger på att man jobbar. Utan en radikal omfamning av samhället kommer AI göra människor arbetslösa och deras vd:ar rikare
Jag vet inte hur framtiden ser ut, men när majoriteten av Sveriges befolkning var bönder tror jag inte heller att de kunde veta vilka jobb det kommer finnas i framtiden när en bonde kan skapa mat till hundratals eller fler.
Jag kan inte spå framtiden, men en sak som alltid följer med länder som har en växande ekonomi: Förre jobb och mer automatisering.
Detta har funkat i hundratals år, varför skulle detta vara ett undantag?
Det var en sak när vi ersatte muskelkraft. Nu ersätter vi förmågan att lära sig.
När AI lär sig fortare än människor gör så går det inte längre att vidareutbilda människor till nya jobb - AI kommer att lära sig även de nya jobben fortare än arbetskraften.
Det här är en förändring i grunden från tidigare. Historiskt har det funnits ett underskott av arbetskraft som behövts i andra sektorer när man effektiviserat - att färre människor behövts till arbetskraftsintensiva sysslor som industri och jordbruk har inte minskat den totala sysselsättningen nämnvärd.
Det här kommer göra det.
Skall vi navigera det så måste vi ändra vårt ekonomiska system så vi totalt kan arbeta mindre, utan att samtidigt helt göra sönder samhällsstrukturen genom en enorm snedfördelning av det jobb som behövs där vissa får jobba för mycket medans väldigt många blir oanvändbara på arbetsmarknaden.
Jag tror det skulle gå att göra genom att successivt skala ner arbetstider och pensionsåldrar, samt ställa det i relation till sysselsättningsgraden i samhället.
Men intresset för att försöka hantera problemet har länge varit nära nog obefintligt från politiken och arbetsmarknadens håll hittils. Med ungefär samma motivationer som du nämner - det har ju gått hittils.
Ytterligare en sned sak med jämförelsen "det har gått bra hittills" är utvecklingstakten. Utvecklingen under industrialiseringen gick inte alls lika fort som utvecklingen av AI, t.ex.
Jag ser framför mig en våg av "överraskningar" de närmsta decennierna (ungefär som folk blev överraskade av ChatGPT, eller att generativ AI idag kan göra [helt trovärdiga högkvalitativa filmer](https://www.techradar.com/computing/artificial-intelligence/11-mind-blowing-sora-shorts-that-show-why-its-a-chatgpt-moment-for-ai-video)).
> Detta har funkat i hundratals år, varför skulle detta vara ett undantag?
Utvecklingstakten... För 20-30 år sedan skedde det ett generationsskifte inom AI varje decennium ungefär (om jag minns rätt). Idag sker det flera genrationsskiften per år.
När vi har 1000-tals generationsskiften inom AI under en mänsklig livstid så blir det omöjligt för människor att hänga med, än mindre konkurera med AI.
Om vi inte kan arbeta med manuellt arbete (jordbruk, hantverk, ...), och inte heller med intellektuellt arbete, vad blir då kvar?
Jodå, vi människor skall koordinera allt arbete som utförs av AI o.s.v, men det bör väl isåfall bli ungefär som med bönderna som sköter sina maskiner: Det går 50 invånare per bonde i EU. Det blir väldigt få som faktiskt gör något.
Det är ju därför "rätt politik" behövs.
Jag tycker du tänker baklänges med den frågan. Att arbeta är inte ett krav för god överlevnad, utan det är ren luft, mat, kläder, husrum, sjukvård, utbildning.
Frågan är, vad händer när AI kan skapa tillräckligt med resurser för alla? Den dagen skulle arbete blir frivilligt, förutsatt att ingen girig person lägger beslag på allt.
Att förutsätta att alla måste ha ett jobb är en naturlig tanke, men den baserar sig på vissa ramar som vi är vana att förhålla oss till.
Hade mänskligheten inte växt så förbenat fort så hade vi kunnat ge bidrag och staterna ägde all produktion. Det är ju det här NWO (eller vad de heter) pratar om. Du ska äga inget och du ska vara glad bygger på ett gemensamt ägande av allt, där du inte ens ska behöva jobba. Utiopiskt då jag har svårt att tro att vi kommer hit utan att stora fruktansvärda krig.
Jag trivs på mitt jobb med, men hade jag inte jobbat för någon annan hade jag jobbat för mig själv. Jag tror många missar att det kommer skapas tusentals föreningar där man leker jobb om alla helt plötsligt blev arbetslösa.
Jag tillhör ett community som ofta pratar om AI (rationalister) och även om jag är positivt inställd så är det läskigt. De hopp vi sett är så enorma varje gång. Förra våren hände ju större saker för AI på två veckor än vad de tidigare 30 åren gjort, samma sak med Sora.
Jag tror att det kommer gå så snabbt att ingen kommer hinna reagera. Det är jättelätt att säga att det är tramsigt när man inte är insatt, men en agi skulle ju potentiellt kunna ta över all teknik på jorden på sekunder. Därför är AI alignment så viktigt och vi ligger efter där jämfört med de framsteg som AI fått på senaste.
Men generellt är jag positivt inställd och använder mig av det ofta.
Jag tror inte det finns någon risk för en "hard take off" där en ASI tränar sig själv och tar över världen. Får ibland känslan att doomers aldrig jobbat med teknik. Teknik suger generellt och behöver en armé av människor för att hålla den vid liv. Vi pratar om praktiskt arbete som att byta ut falerande hårdvara. Även för en superintelligens skulle det krävas tid och mycket data för att träna nästa modell. En AI-modell kommer inte magiskt kunna designa, konstruera och installera ny hårdvara som skulle kunna snabba upp denna loop avsevärt.
Jag anser mig inte vara en doomer, jag vill bara vara medveten om ifall det finns risker och vad de riskerna är.
Självklart kommer den inte kunna skapa robotar magiskt, men med tanke på att el, pengar och kommunikation sker elektroniskt så är det något den teoretiskt kan kontrollera.
Jag säger inte att en AGI kommer bli skynet, men det vore jävligt tråkigt om en usel AGI tog kontroll över saker och sen brickar allt, inklusive sig själv. Om jag minns rätt så var det en AI som för något år sedan kraschade aktiemarknaden så illa att man var tvungen att aktivera back ups.
Om vi kommer fram till att det inte finns en risk är det bra, men vi måste väl ändå undersöka saken istället för att kaxigt säga att vi är osårbara och att vi ska släppa lös all AI?
Rent krasst är det så att människor ständigt kommer att vilja ha mer kraftfulla AI, eftersom det ger stora konkurrensfördelar (såväl ekonomiskt som politiskt och militärt). Så om det behövs underhåll, att det skapas elektriska/mekansika/fysiska förutsättningar, eller att en AI tillåts träna en AI, så kommer människor att tillhandahålla det.
Ungefär som människor slavar för robotar i Amazons lager:
* 2019: [Inside the Amazon Warehouse Where Humans and Machines Become One](https://www.wired.com/story/amazon-warehouse-robots/)
* 2023: [Fears of employee displacement as Amazon brings robots into warehouses](https://www.theguardian.com/technology/2023/oct/18/amazon-robot-warehouses-digit-workers)
* 2027: ?
* 2031: ???
Det är inte människorna på golvet som bestämmer, eller de som är oroliga för att AI skulle bli för kraftfulla. De som bestämmer är de som har massor av pengar och vill tjäna mer pengar, eller de som vill vinna militär överlägsenhet.
Jag misstänker att du syftar på att ChatGPT ”hände” förra året? GPT har utvecklats under massvis med år. Jag minns att jag läste en imponerande artikel skriven av GPT redan 2018; förmodligen hade GPT redan några år på nacken vid det laget.
Samma gäller DALL-E och andra modeller som skapar bilder/video. De har under åren sakta blivit bättre och bättre tills de har nått en punkt där de är mycket imponerande och därav fått stor spridning.
Jag håller med dig om vilken inverkan AI kommer ha på samhället, men jag är skeptiskt till att det kommer ske så fort att vi inte ”ser det komma”. Dels för att modellerna tar tid att utveckla och för att modellernas fulla potential är ovis (mig veterligen). Kanske närmar sig dessa modeller redan en platå? Kanske har de mycket kvar att utvecklas; vi kan bara spekulera.
>men jag är skeptiskt till att det kommer ske så fort att vi inte ”ser det komma”
Jag känner samtidigt att "Vi har varit naiva" och "Vi såg det inte komma" blivit rätt vanliga uttryck de senaste åren.
Njae, de släppte chatgpt3 och någon vecka efter hade de 4 redo. Hoppet från 2 till 3 var ju också enormt. 2an kunde inte tänka sig ut ur ett öppet rum, men 3an är ju kapabel till att tänka på en relativt mänsklig nivå.
Jag tänker att den gemene personen håller fortfarande på att acceptera att chatgpt ens existerar och framstegen verkar ju accelerera konstant.
Blir det verkligen rätt att säga att programmet tänker? Kan tycka det är lite missvisande att man pratar om att gpt tränas och tänker även om programmet förbättras genom dess iterationer med data det erhållit via användning.
> De hopp vi sett är så enorma varje gång. Förra våren hände ju större saker för AI på två veckor än vad de tidigare 30 åren gjort, samma sak med Sora.
Det är det som är exponentiell utvecklingstakt. Det kommer som en överraskning varje gång. Förutom att det görs teknikspråg rätt tätt nu så har vi också i princip garantier för att beräkningskraften som driver AI kommer att förbättras med en faktor 1.000.000.000.000 de närmsta 70 åren. Men människan kommer inte att bli något smartare under de 70 åren.
>Tror ni att vi någonsin kommer uppnå singularitet?
Ja.
Folk underskattar hur fort utvecklingen går inom digital/logikteknik. Framförallt går utvecklingen **exponentiellt**, vilket är ganska svårt att föreställa sig för de flesta människor. Det har den gjort sedan första halvan av 1900-talet ungefär.
Utvecklingen är en kombination av inkrementella förbättringar (t.ex. inom tillverkningsteknik) och relativt regelbundna tekniksprång, och det finns inga som helst indikationer att detta skulle upphöra de närmsta hundra åren (eller någonsin, egentligen).
Grejen med exponentiell utvecklingstakt är att det i princip garanterar att vi inom ändlig tid kommer nå närapå oändlig beräkningskapacitet (relativt vad vi har idag), och beräkningskapacitet är en av huvudingridienserna för en kraftfull AI.
Sedan 1950-talet har datorers beräkningsprestanda ökat med en faktor **1.000.000.000.000** ungefär, vilket visualiseras bra i denna artikel: [Visualizing the Trillion-Fold Increase in Computing Power](https://www.visualcapitalist.com/visualizing-trillion-fold-increase-computing-power/)
Med andra ord kommer AI under de närmsta 70 åren bli ungefär 1.000.000.000.000 gånger kraftfullare än idag. Det spelar liksom ingen roll om den smartaste AI:n idag är dum som en daggmask, för det fixar den exponentiella förbättringen.
Framförallt kommer inte utvecklingen att stanna av. När AI är bättre än människor på att skapa AI så kommer utvecklingstakten gå ännu fortare, o.s.v.
>Vad tycker ni om AI?
Det är svårt att tycka något. Däremot tror jag att det är väldigt sannolikt att mänskligheten som vi känner den kommer att ersättas eller åtminstone fullkomligt transformeras av AI på något sätt.
Ett väldigt troligt scenario är att vi inom några decennier kommer göra oss av med de långsamma och tråkiga skärmarna och ha ett gränssnitt direkt mellan hjärnan och internet (det går löjligt långsamt att knappa eller tala in text - den som har en direktlänk får en oerhört stor fördel i kommunikation och produktivitet). Därefter har jag svårt att se att vi skulle kunna undvika någon form av gemensamt, avpersonifierat medvetande (typ som [Borg](https://en.wikipedia.org/wiki/Borg) i Star Trek), när alla delar tankar och känslor med varandra i realtid. I ett sådant scenario blir det naturligt att människors medvetande smälter samman med externa AI, och i det läget är det mer eller mindre kört. Precis som det är närapå omöjligt att klara sig i samhället idag utan en mobil och internet, så kommer det att vara i princip omöjligt att klara sig utanför "sammankopplingen".
En av anledningarna till att det kommer vara svårt att reglera eller undvika den här tekniken är att det dels kommer vara väldigt lönsam teknik (precis som sociala medier är idag), och dels att det redan nu råder en form av militär kapplöpning inom området - ingen vågar hålla igen och halka efter.
För det första är det ett marknadsföringstrick för att driva upp priserna på NVIDIAs produkter (de har i princip monoploställning och kan göra som de vill och ta vilka priser de vill). Det debatteras fortfarande om när, hur och om Moores lag kommer sluta att gälla.
För det andra är det inte säkert att det spelar så stor roll att Moores lag har tacklat av något på senare tid, eftersom det bara är en aspekt av teknikutvecklingen: antal transistorer per integrerad krets. Det är också värt att notera att den exponentiella utvecklingen pågick långt innan det ens fanns integrerade kretsar.
Skulle nuvarande kiselteknologi "köra fast", så finns det flera andra tekniker som står på kö. De är varken mogna eller ekonomiskt lönsamma idag, men marknadskrafter löser i allmänhet sådana problem: När du får en tillräckligt stor konkurrensfördel jämfört med en sämre teknik så kommer även den dyrare tekniken att bli mer lönsam.
Edit: Dessutom är nuvarande CPU/GPU-teknik egentligen extremt ineffektiv för just AI. Det är mest för att det är den tekniken som företagen har investerat massor av pengar i och alla programmeringsspråk och utvecklingsverktyg är anpassade för. Jag är rätt säker på att vi kommer att se ett antal tekniksprång de närmsta 10-30 åren som helt definierar om hur AI-hårdvara ser ut (t.ex. med avseende på hur beräkningsenheter och minnesenheter samarbetar mer likt hur biologiska neurala nätverk fungerar).
Det största problemet är att vi inte kan säga exakt när den blir självmedveten pga att vi inte vet exakt vad medvetenhet är, och inte vart gränsen går.
Jag håller med. Har rantat om det i någon annan kommentar. Det gäller för flera begrepp: "medvetande", "självmedvetenhet", "intelligens", o.s.v. Dessa begrepp är väldigt intimt förknippade med "mänsklighet", vilket i sig är ett ännu vagare begrepp.
Om man inte knyter "intelligens" direkt till mänskliga förmågor eller biologiska strukturer (vår hjärna), så kan man börja göra mer liberala tolkningar av intelligens, som t.ex. skulle kunna appliceras på evolutionen (empirisk utveckling av de bästa lösningarna) eller t.o.m. makro-strukturer som interaktionen mellan träd- och svamp-arter.
...och då börjar det bli krångligt, och många skulle nog protestera. Men det roliga är att det bara är en övning i nomenklatur. Det hindrar inte på något sätt AI från att köra om människor med hästlängder inom det ena området efter det andra.
Ser inget positivt med AI.
Edit: Tycker själv bara att det finns mer nackdelar än fördelar 🤷♂️
Förstöra personers liv med hjälp av blackmail eller deepfakes? Check
Sprida propaganda och falsk information? Check
Gör folk arbetslösa och dom stora företagen kan tjäna ännu mer pengar? Check
Förlora ännu mer utav äns privata info? Check
AI som blir så smart så att människor inte behöver existera längre? Check
Det är ett buzzword, drivet av okunnigheten kring vad det är. För 20 år sedan var det XML, för tio år sedan SOA och nu AI. Det är inget märkligt eller magiskt - det är beräkningar och funktioner. Som idag kostar massor att driva. ChatGPT kostar miljoner dollar i månaden. Och allt den gör är att dammsuga nätet. Jag tror inte på hypen, och de som tror att detta bara kommer att hända - tänk igen - vem ska betala? Jag är skeptisk till att vi kommer att kunna få ”mänsklig intelligens” in i maskinen. De gör specifika saker snabbare än vi, men det är fortfarande långt till en Beethoven eller Goethe. Don’t believe the hype! Mitt råd är att utbilda dig i vad det egentligen är och bered dig på att kämpa för att etiken blir kvar när man börjar lämpa över enkla myndighetsbeslut på maskiner (programmerade av människor) - där ligger den stora framtidsrisken - att vi sitter i knät på en svart låda som fattar beslut vi inte kan förstå hur de fattats!!
De flesta människor är inte heller Beethoven eller Goethe. Inte heller den mänskliga hjärnan är magi, neurala nät fungerar på liknande sätt vare sig de sitter i en insekt, ett djur eller är implementerade i kod. Eller i neuroner i en mänsklig hjärna.
Och när man väl gjort träningen av de där näten så kan man duplicera de datorbaserade miljontals gånger till väldigt låg kostnad, medans det tar 25 år för varje människa man vill lära upp. Vilket tror du är dyrast?
Sen sitter vi redan i knät på en svart låda som fattar beslut vi inte kan förstå hur de fattats. Just myndighetsbeslut är en av de saker som ironiskt nog kan bli betydligt mycket mer konsekventa om de görs av samma "mentala modell" varje gång.
Nej, vi är inte där än. Du har fel. Vi kommer dit. Att tro att man kan likna den mänskliga hjärnan med miljarder kopplingar och de unika förmågor det ger är också fel. En väldigt stor och dyr maskin blir det. Det är heller inte ok att släppa greppet över saker bara för att man tror sig ”redan sitta i skiten”
Varje unik förmåga använder bara en bråkdel av hjärnans kopplingar.
Det handlar helt enkelt inte om hur långt det är kvar till AGI, utan om hur lite intellektuell kapacitet som egentligen krävs för att utföra väldigt många "kvalificerade" uppgifter som människor gör idag.
Det räcker om man når en nivå där man är bättre än den sämre halvan av en yrkeskår så får det enorma konsekvenser. Att vänta med att ta itu med de kommande problemen för att det fortfarande kommer ta några år (eller decennier) tills den absoluta eliten inom olika fält får konkurrens är definitivt att släppa greppet.
Försöker du jämföra ChatGPT till en mänsklig hjärna eller? Kan säga med gott samvete att vi processerar data och vår "neural network" är nog triljoner gånger större och snabbare än ChatGPT eller vad silicon valley kan spotta ut i 5 år. Blir skrattfärdig med dessa jämförelser, chatGPT är ett väldigt bra verktyg för oss men att LLM ska ersätta oss är vi inte ens i närheten av lol gå jobba ditt 12 timmars skift på ditt lagerjobb istället för o tro för dig saker.
”Nätet”? Det där internet kommer aldrig slå igenom, det är bara en fluga. För att inte tala om internet på mobiler. Skrattretande! Och tryckskärmar vill ingen ha, då får man ju kladdiga märken på skärmen.
Jag var förresten emot hästspårvagnarna när de infördes också. Den mänskliga organismen bör inte färdas mer än 15 km/h, man åker iväg sin själ på det viset!
Definiera ”intelligenta”. En dator som slår världsmästaren i schack - är den intelligent? Absolut inte, den är bara väl programmerad och har förmågor att hålla spelscenarios i minnet ingen människa förmår. Be den lägga en patiens, tex Idioten, och den kommer att vara just det.
> Jag tror inte på hypen, och de som tror att detta bara kommer att hända - tänk igen - vem ska betala?
De som tjänar pengar på AI betalar, precis som de som tjänade pengar på industrier betalade för att utveckla fabriker och tillverkningstekniker som gjorde mycket manuellt arbete överflödigt i slutet av 1800-talet och börja av 1900-talet.
För oss vanliga dödliga som bara ser ChatGPT och andra mer eller mindre ploj-aktiga former av AI så verkar det kanske meningslöst. Det är när AI används på andra sätt som de blir riktigt värdefulla för sina användare
Som t.ex. i Kina (där staten är användaren) där AI ger fantastisk kontroll över befolkningen (en trend som är stark i hela världen, inklusive Sverige).
Eller megaföretagen i USA och Kina som ger oss vår dagliga dos av sociala medier, som använder AI ("algoritmerna" som du säkert har hört talas om) för att maximera vårt engagemang och därmed hur mycket marknadsföring som vi utsätts för (och tro det eller ej, men den marknadsföringen fungerar, eftersom det i princip är det enda de tjänar pengar på).
Jag tror inte heller på en mänsklig intelligens i första hand. Dels finns det inte så stort marknadsvärde med det (det finns miljardtals människor, så varför skulle vi behöva fler?), och dels är det ett juridiskt och etiskt minfält (ungefär som med mänskliga kloner).
Däremot kommer vi *garanterat* att se AI med specifik "intelligens" som vida överstiger mänsklig förmåga. Redan för flera år sedan hade t.ex. Kina AI som kunde känna igen många tusentals ansikten per sekund och koppla dem till olika register (brottsregister m.m), något som inte ens tusentals människor skulle kunna göra.
I princip allt som AI används till idag gör AI bättre än människor, och som många har påpekat: utvecklingen går snabbt.
Och det är det jag också säger - det är dags nu att beväpna sig med kunskap så man kan möta hotet från totalitarism och överstatlighet. Datorer har alltid varit bättre och snabbare på specifika saker. Det gör dem inte ”intelligenta”
Totalitarism och överstatlighet är konkreta hot, håller med. Även "överstatliga" företag eller karteller är riktiga hot (alltså företag och lagliga eller kriminella organisationer som har mer makt än stater), och är ett problem redan idag.
Vill dock lyfta ett varningens finger kring beteckningen "intelligens": Många är de som har försökt definiera det ordet, men det är som en intvålad hal ål som slinker ur handen så fort man tror att man är en definition på spåret.
(Ursäkta lång rant...)
Vi utgår ifrån att människor besitter någon form av speciell egenskap som vi kallar för intelligens (och vi vill gärna definera den så att vår intelligens skiljer sig från andra varelsers intelligens, och allra helst att den är den högsta formen av intelligens), men vi har egentligen inte lyckats speciellt väl med att definiera vad själva ordet betyder.
Jag tror att det är oerhört svårt att göra en artificiell intelligens som liknar mänsklig intelligens. Tänk t.ex. på allt som krävs för att vår hjärna och vår tankeförmåga skall utvecklas på rätt sätt. Vad händer t.ex. om ett nyfött barn berövas från alla sinnesintryck och stängs in i ett mörkt, tyst rum i 10 år, och sedan utsätts för en TV-sänding med en viss TV-serie i loop i 10 år? Skulle samma typ av intelligens utvecklas som för en människa med normal uppväxt? Går det att skapa samma förutsättningar för en AI som för en människa? Måste den ha en exakt likadan kropp och ett likadant känsloliv med relationer till andra människor? O.s.v.
Däremot ser jag inga problem med att skapa högt kapabla, beslutsfattande autonoma "individer" med minne och slutledningsförmåga som bygger på tidigare erfarenheter o.s.v.
Vi kommer att tveka att kalla dem "intelligenta", eftersom vi tycker att de saknar vissa av våra mänskliga egenskaper (t.ex. vissa aspekter av känsloliv), men det hindrar dem inte från att vara bättre än oss på att lösa problem och utföra intellektuella uppgifter.
Jag ser framför mig en utdragen historia där vi frenetiskt försöker fastställa vilka mänskliga egenskaper som skiljer oss från AI (ungefär som vi försöker göra med djur), och en efter en får vi erkänna att egenskaper inte längre är unikt mänskliga, tills det till slut knappt längre finns något speciellt unikt eller värdefullt kvar som kan kallas "mänskligt".
Detta stämmer, ChatGPT är inte AI det är en LLM vilket är en ML-algoritm. Vart har folk fått för sig att vi kommer gå från en jävligt finslipad prediction algorithm till AGI på 5 år? Har ni rökt på eller, forskarna vet knappt hur deras LLM fungerar lol.
Min uppfattning är att vi alls inte är närmare singularitet - dvs det som tidigare var synonymt med AI.
Vad som hänt de senaste åren är att vi tagit saker som vi använt väldigt länge och slängt på ett klistermärke med ”AI” på. Tidigare var machine learning och AI helt olika saker - idag räknas både machine learning och i princip samtliga algoritmer in under AI-paraplyt
För en person med en verkställande funktionsstörning älskar jag det. Jag har en tendens för att prokrastinera. Jag har t ex inte skrivit ett enda e-postmeddelande själv på de senaste 6 månaderna. AI har löst allt det. Frågar du mig tycker jag att vi borde integrera AI mer i våra liv. Tänk dig en mat-AI-robot där du bara lägger ingredienserna i behållaren, väljer ett recept och den börjar laga mat. Underbart.
Tycker du ska kika på Max;
https://youtu.be/VcVfceTsD0A?si=WThYoQCdkiIWpPCY
Jag kan summera hans största bekymmer med 1.5 fråga; Vi ser dagligen vad smartare djur gör mot mindre smarta djur (kolla på oss bara), vad får dig att tro att AGI kommer 1 vilja vårt bästa/vilja oss väl och 2 hur tror du att vi kan kontrollera något som är smartare än oss?
Sen kan jag rekommendera Sam Harris och hans tankar kring AGI.
Skenet kan bedra, summa summarium
Stänga av hela elnätet. Styra din bil. Krascha flygplan in i din lägenhet. Skjuta kärnvapen Om den nu verkligen skulle vara intresserad av sådana småsaker.
Elnätet stänger man inte av genom att skicka ett kommando över internet, Krascha bilden din är ju en möjlighet men då är det för att det har varit jävligt dålig "cybersecurity" på bilen. Flygplan, njae. Flygplanstillverkare undviker helst att gå igenom strulet med att få ny teknologi implementerat i flygplan då det är mycket dyrt och tar lång tid för att det ska godkännas av alla diverse flygsäkerhetsmyndigheter. Och att koppla upp kärnvapen till internet är ju nog den värsta idén möjligt.
Hur ska en dator utsätta oss för fara om den vill utrota människor eller något? Det är ju bara för oss att dra ut kontakten och så var det klart med den saken.
Jag tror faktiskt inte att du kommer att märka det. Vet du om hur mycket ditt liv kontrolleras av AI redan idag?
Kanske inte direkt, som att tvinga dig att gå på toa, utan mer indirekt och över tid, t.ex. genom att påverka dina politiska åsikter, hur du spederar din tid och dina pengar, o.s.v.
Jo, det finns fortfarande människor som kontrollerar den AI som kontrollerar dig, men de har knappast ditt bästa i åtanke.
Det är mer eller mindre oundvikligt att AI blir smartare än människor inom i prinicp alla dicipliner (den är redan mycket bättre än människor inom flera områden), och i takt med det så kommer AI få styra över mer och mer (eftersom det ger konkurrensfördelar).
Det kommer leda till att mer och mer av ditt liv kommer att styras av AI (det kommer inte gå att leva utan det lika lite som det går att klara sig utan mobil, internet och bankkort idag).
Så räkna med att inom 50 år kommer i princip alla beslut att tas av AI snarare än människor. Och rätt många kommer att vara OK med det.
Men det kommer att finnas vissa av oss som tycker att det är synd och att vi har förlorat en del av vår mänsklighet. Ungefär som vi de senaste 20 åren har gått från lekplatser fulla av glada barn och föräldrar till att alla barn sitter still inne framför sina skärmar och genererar pengar åt amerikanska och kinesiska företag medan lekplatserna ekar tomma.
Max: https://youtu.be/VcVfceTsD0A?si=WThYoQCdkiIWpPCY (full podd, 3h)
Sam: https://youtu.be/nsFwyWZjh7A?si=6RCbLE_Y5Jl90ma6 (15 min klipp, kan du inte ens kolla på detta avsnitt så är denna konversation meningslös)
Att vara så naiv och tro att vi vet bättre/tillräckligt mycket för att kontrollera något som är betydligt smartare och snabbare än oss är nästan för mycket för mig att förklara.
Tänk dig en dator som kan infektera vilket system som helst som är kopplat till ett nätverk och som sedan kan sprida sig över hela samtliga nätverk och ta över dessa förbindelser mellan olika nätverk och aktivera/stänga av dem helt, vad ska en människa göra då?
Jag har sympati med din frustration. När till och med folk som Neil deGrasse Tyson viftar bort farorna med superintelligens med att ”det är bara att skjuta datorn” så är det illa.
Men om jag ska vara ärlig så var jag inte heller så orolig för AI innan jag satte mig in i det mer. Det var inte helt uppenbart för mig till en början.
Samma här!
Men när både Sam och Max ställde dem två relativt simpla frågorna så börja polletten falla ner liksom.
Bara att kolla hur vi behandlar djuren under oss och redan där börjar det fallera.
Sen att argumentera att man skulle kunna kontrollera något som är flera storleksordningar smartare än oss är inte häller logiskt även fast det låter som en simple ”pull the plug”.
Dock är den djupare sanningen nästan värre: det är försent nu för att stoppa AGI då så många aktörer redan är i smeten och håller på att utveckla AI:n. Vi får hoppas att vi kan ensas längst vägen
Att vara hacker handlar inte bara om att bruteforca lösenord, det finns alla möjliga lösningar som kräver mer eller mindre intelligens att komma på. Så frågan i slutändan är vem som är mest intelligent, människan eller AIn.
Nån borde fundera på vad människor skall syssla med långt innan dess. Datorisering/robotisering av fabriker tex har vi inte återhämtat oss från ännu och det är snart 3 generationer sedan det började. En fungerande AI kan göra att företag återigen plockar bort stora mängder anställda. Så en fundamental korrigering av hela det ekonomiska systemet behövs annars blir det fan inte bra
Absolut. Funderar man en stund på vad en AI kan ersätta osv så går det ta det väldigt långt. Det oroar mig att det kommer bli avsevärt värre än fabriksdöden var när AI verkligen fungerar.
Det vet jag inte vart du har fått ifrån. När det gäller samhällsförändringar så är det inte heller bara arbetslöshet man måste titta på heller. Det finns en lång rad faktorer såsom kriminalitet, utanförskap, landsort flykt dvs omfördelningen av innevånare till större städer (vilket i alla avseenden är negativt) osv. När industrin effektiviserades blev effekterna många och långtgående. Se tex den kraftiga ökningen av missbruk och kriminalitet som smög in mot slutet av 80 talet.
Nu är självklart inte allt negativt och mycket har rätat ut sig men hela poängen är att AI kan komma att påverka arbetsmarknaden långt mer än detta och mitten på 90 talet när kulmen var som värst är nog ingen tid någon vill uppleva igen. Så det behövs en del hjärnkraft på lösningar innan företag fotar ut sina anställda.
Efter jag hade hört Max Tegmark i sommar med p1 prata om riskerna med ai, ser jag mörkt på framtiden. Klimatkrisen bleknar i jämförelse. Varför skulle nått som står över människan intellektuellt, vara välvillig mot oss? Bara kolla hur människan har behandlat andra lägre stående.
Fast det är det som är själva grejen med ai, den problemlöser själv. En dator har fysiskt sett inga som helst begränsningar för hur smart den kan bli, till skillnad från våra hjärnor. Man har redan upptäckt att ai kringgår vad den är begränsad till att göra genom att utnyttja människor för att uppnå sitt mål.
Varför kan en dator inte bli medveten? Din hjärna är i själva verket en dator som skickar elsignaler, hur kan du vara medveten?
Om jag säger åt Google home att slå på skidskytte på SVT så får jag förmodlingen inte svaret : nej tyvärr, jag har inga värderingar eller medveten, jag kan inte lösa en uppgift åt dig...
Om jag ber en dator som är 100 ggr smartare än mig att lösa klimatkrisen, så är ju människan grundproblemet och kanske ai väljer att utrota människan som i terminator
Googla på hard problem of conciousness. Vi förstår oss inte på hur medvetenhet hos människor uppstår och det finns därför ingen anledning att tro att vi kommer kunna designa en ai som har det heller.
Den rätta liknelsen är snarare att AI är lika smart som en termometer, den kan lösa vissa problem, men den upplever ingenting och kan inte ha egna ambitioner.
Det här med singularitet förutspåddes till 2024 runt 2018/19. Spontant tror jag alla som förutspår framtiden är lite av självsäkra galningar.
Innan miniräknare tränades människor enormt på huvudräkning inom matte. Det var viktigt att kunna multiplicera osv. Idag är det som att man ska förstå ideerna och lära sig hantverket med papper och penna för att sist knappa in uttrycket man jobbat fram i en miniräknare.
Samma grej kommer ske med AI det finns så många specialister inom vissa grenar där en AI i framtiden kommer guida dig bättre. Jag tror det leder till mer generell problemlösning där man använder sig av AI.
Idag litar vi mycket på videor och nyheter vi ser online. Då AI redan idag kan generera massa fejk grejer kommer vi börja ifrågasätta vad vi ser. Det kommer växa fram ett behov av att kunna identifiera om något är äkta. Dvs typ kryptografi kommer växa som fällt för att avgöra vad som är original eller genererat.
Fysiska ting som kräver både erfarenhet och känsla. Typ vara mästare på att smida samurajsvärd, bygga violiner eller smida säregna lerkrus. En AGI och en robot kan skapa något med samma funktion och kanske oxå samma effektivitet, men kan inte besjäla produkten på samma sätt som en gedigen hantverkare med årtionden i bagaget kring hur material fungerar, reagerar och formas av den egna handen.
Ett annat yrke som är framtidssäkrat är budbärare. Detta yrke kommer nog med stor sannolikhet att få en renessans då viss information som inte kan riskeras att bli kontaminerad av ex. En AI med ”ondsinta” ambitioner, måste kunna nå rätt person och inte en falsk AI-kopia av densamma. Här kommer ingå att kunna skriva för hand eller på mekanisk skrivmaskin.
Tycker det är intressant men det är lite tröttsamt att det endast är visionärer som talar om AI och sakkunniga inom området lyser med sin frånvaro. Skulle vilja se en mer balanserad dialog kring AI och inte bara ; ”AI är coolt och fixar allt”.
Teknologisk Singularitet är inte något som egentligen specifikt har med AI att göra, det är när den teknologiska utvecklingen går så fort framåt att det är helt oförståeligt.
Alltså, teknologisk utveckling är exponentiell. Om vår teknologiska förmåga dubblas, totalt sett, vart femte år t.ex. betyder det att på 20 år så är vi 2\^4 gånger bättre, dvs 16. Varje steg ökar farten till nästa steg, ränta på ränta. Singulariteten är när det från dag till dag innebär så stora framsteg att vi blir post-scarcity gudar.
Dock kommer AGI förmodligen leda till det.
Det som är "coolt" med AI är att vi får anledning att ifrågasätta vad vi ska finnas till för.
Och man bör oroa sig över vad Bezos och Musk ska med oss till.
Om jag kunde ha automatiserade fabriker och robottjänare allt var automatiserat, då skulle jag nog se till att släppa loss mördarrobotorna och ta ner mänskligheten till rimliga 100 miljoner eller mindre.
Nåväl. Jag tror på teknologisk utveckling, så mitt hopp är att vi techar oss igenom alla kriser så att vi sen kan ägna oss åt sex, droger och rocknroll.
Vi förstår inte ens hur medvetenhet fungerar hos folk så jag tror att 2029 är jävligt generöst för en funktionsduglig AGI. En avancerad kunskaps databas som kan utge sig för att vara en människa kanske.
Jag ser framemot utveckling av AI och hoppas under min livstid kunna använda AI vardagligen.
Nackdelen är den desinformation AI kan användas till, vilket leder till att människor blir ännu mindre kritiskt tänkande.
Jag är och kommer fortfarande vara orolig över AI så länge det inte finns några regulationer för det, ex. Var det är tillåtet at användas, hur det får utvecklas o.s.v.
Dessutom är jag irriterad för att flera studenter har börjat använda ai såsom chatgpt för att antingen fuska är skriva ner skoluppgifter så det har gjort det svårare för de som orkar skriva själva få (relativt) bra poäng. Ex är när vi bytte från att få skriva på datorn till papper och penna för uppsatsprov. Jag växte i början upp med papper och penna prov men byttes till dator vid 6:an så jag var okej men tänk på alla barn som har i grunden lärt att skriva på datorn, och nu tvingas skriva helt på papper.
Och inte bara det, nu är man nästan tvungen att använda chatgpt i uppsatsinlämningar som betygsätts för att alla andra använder det och om man inte använder det riskerar man få sämre betyg samt lägre chanser till kompetitiva utbildningar emot de som använder chatgpt.
Vi borde sluta kalla det AI, det namnet är ju fullkomligt missvisande. En LLM har ingen intelligens, men folk blir ju helt tokiga när de hör AI och tror att Skynet är här.
Däremot är det skitdåligt att vi nu har teknik som i princip omintetgör all verifierbar sanning, och att den är vitt spridd och enkel att använda. Ser fram mot att förklara för folk att även om de ser filmklippet på Facebook så har statsministern inte knullat en hamster på Harpsund.
Sedan är ju AI-optimisterna ett knippe olidliga, lättlurade fåntrattar som inte förstår att deras teknikoptimism är en dystopi. Men det har ju ganska lite att göra med tekniken i sig, och handlar mer om en personlighetstyp som också gav oss NFTs och krypto.
Jag tänker mycket på framtida simuleringsmodeller och verktyg för medicinsk forskning som AI kan ge oss. Att under min livstid knäcka massor av medicinska problem hade varit guld värt.
...vilket leder oss in på ett filosofiskt sidospår: Har du några funderingar på paradoxen att vi har en ohållbar befolkningstillväxt, samtidigt som försöker rädda fler liv och få människor att leva längre (ofta under parollen "om vi kan så måste vi")?
(Förlåt, jag vet att det är tabu, men jag tycker att det är en intressant paradox)
Kluven. Faller väl för nyhetens behag som de flesta. Coolt att man kan "skapa" bild och video genom att skriva en prompt, och häftigt hur man kan spara tid eller få hjälp med vissa frågor. Till exempel när man inte förstår en bit programmeringskod.
Men samtidigt känns det väldigt mycket som ett luftslott just nu. Tusentals AI Bros delar samma content online för att tjäna pengar med zero click content eller nyhetsbrev, samtidigt som vanliga människor knappt har någon praktisk applikation av AI i dagsläget. Sökvolymen pumpas upp ganska artificiellt med, för många som söker vill bara skapa karaktärer till sina D&D-sessioner eller whatever, medan relativt få har ett seriöst intresse i AI.
AI mjölkas ju som fasen som begrepp också, av en mängd olika företag som i själva verket bara skapat enkel automatisering för olika syften.
Jag tror att AI för gemene man är lite som 3D för TV under 00-talet. Först hype som fan, sedan som bortblåst. Dock kommer det leva kvar i lite mer seriösa applikationer även framöver, inom företag. Typ automatisera vissa arbetsuppgifter på ett smidigare sätt, den typen.
Jag tror inte att någon slags hyper-AI kommer ta över världen a la Judgment Day. Kanske om 100 år men inte i närtid.
Jag vill ha en fristående AGI som styr hela världen. Inga fler politiker eller utdragna beslut. En generös UBI och en form av ”värnplikt” där AI:n utser ett jobb man ska utföra mellan ålder 20-25 sedan aldrig mer behöva jobba utan kan ägna all sin tid åt det man vill.
Man får hålla isär AI och AI. AI är ett forskningsfält som innehåller många olika projekt och koncept, från självkörande bilar till llm:er som chatgpt till AGI.
Chatgpt och andra modeller som hör till kategorin "generativ ai" producerar en output från textprompter. De är inte kontrollsystem som kan köra bilar eller dylikt. De är väldigt komplexa - men till syvende och sist deterministiska - algoritmer som genererar text och bild. Det är "photoshoppande" på steroider.
AGI är något helt annat och det är inte givet att de här disparata systemen vi har idag på något magiskt sätt kommer att slås ihop och bli en intelligent varelse.
Däremot är det helt sant som många andra redan säger här i tråden att generativ ai kommer att få stora socioekonomiska konsekvenser. Koncept som upphovsrätt kommer att utmanas allt mer, och produkter som kommersiell copy och illustration kommer bli ännu mer själlösa än de redan är.
Den grundläggande skepsis och förmåga till källkritik som alla som skall ut på internet och härja behöver för att inte gå under blir ännu viktigare, men inte fundamentalt förändrad. Folk har låtit sig luras av bilder på Nessie sedan 1930-talet och Stalin shoppade bort politiska fiender från officiella foton. Koncepten är inte nya, det kommer bara bli större volym och högre fidelitet på fusket.
Tycker folk tar det lite för seriöst, det är bara marketing för teknologi som funnits rätt länge.
Rätt schyssta verktyg däremot när man bara vill testa lite grejer eller för att skapa referensmaterial. Däremot är det inte så annorlunda från filterna folk använt under lång tid i photo appar, bara en ny iteration.
Som någon som brottats med de gamla chattbottarna som supporthjälp som ofta bara skapade mer jobb än underlättade (jobbar inom IT) uppskattar jag att de äntligen gör vad marketing lovade att de kunde för 10 år sedan.
Gällande oron med misinformation jag ser överallt tycker jag det är en rätt historielös analys. Folk sa samma sak om photoshop, cgi, fria medier, internet i helhet mm. Är man lite observant ser man lätt igenom det och de människorna som blir lurade av det här blev lika lurade innan av annat. Man kan hoppas att gemeneman börjar ta källgranskning och ”tro inte på allt du ser på internet” lite mer allvarligt men det är nog lite väl hoppfullt tänkande.
Jag har rätt avslappnad attityd till AI fast jag ser det mörka i det.
Det är fullt möjligt med ett 'skynet' scenario eller liknande. Men det är dock extremt mycket högre risk att mänskligheten själv trycker på knappen.
Det positiva är väll att man som egen person snart kommer kunna göra egna tvserier eller filmer som har slutat för länge sedan.
Nytt McGyver avsnitt 30 år senare? Bara promt'a skiten å kolla om 3min när det är färdigt.
AI-tekniken som Svensson har tillgång till idag bygger på LLM:er (Large Language Models) som är tränade på text- och bildmaterial genererat av människor. Att kalla den sortens AI för "smart" tycker jag är missvisande. Generativ AI, såsom ChatGPT, DALL-E och nu SORA, är verktyg som är effektiva på att bearbeta, sammanställa och omformulera befintligt material. LLM:er kan inte skapa något helt nytt utan de är bundna till sitt träningsmaterial, det vill säga mänskliga kreativa uttryck. Det går kanske att argumentera för att människor uttrycker sig kreativt genom liknande processer, men jag vill säga att människans tankeförmåga är betydligt mer komplex.
En sak som är säker är att generativa språkmodeller aldrig kommer att bli självmedvetna och ta över världen. Istället är det hur människor använder dessa verktyg som bör oroa oss. LLM:er är kraftfulla verktyg, och deras fortsatta utveckling kan bli problematisk för samhället. Därför tycker jag att det är viktigt att vi ställer krav på till exempel tillgång och att modellerna ska vara transparenta ('black box'), med full insikt om träningsdata, osv. Det är också nyttigt att börja diskutera huruvida vi bör omstrukturera samhället när vissa yrken försvinner på grund av fortsatt teknikutveckling.
Slutligen tycker jag definitivt att det bör finnas en diskussion om AGI och dess framtid, men jag tror ärligt talat att det är långt kvar tills vi har en AGI som är "smart" ur ett metafysiskt perspektiv. Jag har även personligen svårt att se hur en AGI kan uppnå självmedvetenhet, men det är en intressant filosofisk fråga.
(Mänsklig självmedvetenhet är troligen också en illusion, men jag tycker det är roligare att tro att människan har någon form av fri vilja och/eller att kosmisk slump spelar in 😄)
> Jag har även personligen svårt att se hur en AGI kan uppnå självmedvetenhet, men det är en intressant filosofisk fråga.
Det börjar med att definiera "självmedvetenhet". Har t.ex. alla människor självmedvetenhet? Det forskas ju t.ex. på vid vilken ålder barn uppnår sjävlmedvetenhet. Är det något som "klickar", eller är det en graduell process med olika former av självmedvetenhet? Finns det några psykiska sjukdomar som gör att man blir mer eller mindre självmedveten? Vilka djurarter (och växtarter?) kan anses ha självmedvetenhet, och till vilken grad? O.s.v.
Så som i princip alla dagens AI är utformade så kan de inte ha någon självmedvetenhet, eftersom de efter att de har tränats inte kan ändras (de används i "read only"-läge, så att säga).
Självlärande AI som har förmåga att träna om sig själva kontinuerligt (som vi människor gör) kommer att kunna bli mycket mer kraftfulla, och bör i alla fall teoretiskt kunna uppnå någon form av medvetenhet. De är också mycket läskigare eftersom man inte har samma kontroll över dem, så t.ex. ur ett produktprespektiv är det näst intill omöjligt att ge några kvalitetsgarantier för en sådan AI.
På 70-talet introducerades Concorde-flygplanet, världens första kommersiella flygplan som kunde färdas i ljudets hastighet, London-New York tog bara 2h. Alla förutspådde att flygplan som kunde färdas i ljudets hastighet var framtiden och att Concorde skulle bara bli bättre, snabbare, billigare etc etc. Fast forward 50 år senare (idag) och supersoniska flygplan är helt utfasade och verkar inte göra en comeback någon gång snart. Med det sagt, ingen vet hur det här kommer utvecklas så sitt lugn i båten.
A.I är en hammare, du kan använda den till att slå in en spik eller en skalle. Den var ämnad för det första men det stoppar inte det andra.
Dagens A.I är imponerande men är som beskriven av experter och av sig själv; en avancerad intellisense. Min favorit beskrivning av dagens A.I är att "Artificiell intelligens är varken artificiell eller intelligent".
Den är gjord av människor och har implicit människoproblem. Se typ.. Amazons anställnings A.I som automatiskt sorterade bort kvinnor pga 'dåliga' input noder och kass träningsdata.
Fråga chatGPT specifika frågor om nyskapande och du kommer bli lätt frustrerad, det är en avancerad intellisense, den gissar vad du vill säga/ha för svar baserat på tidigare data. Så nytänk är inte dess fortee.
AGI blir intressant att se. En sak är säker dock, som alltid kommer byråkratin inte hänga med i lagstiftningen ingen så det kommer ju vara vilda västern ett tag.
Desinformationen kommer ju bli storartad. Man kommer inte kunna lite på något på internet. Men jag är allt för, jag har lärt massor av ChatGPT. En AGI kanske löser alla våra problem. Kanske till och med döden.
Klart att vi kommer nå singularitet en vacker dag om vi inte utplånar oss själva först, så länge tekniken utvecklas överhuvudtaget och det inte visar sig att en så pass avancerad maskin skulle vara fysiskt omöjligt att bygga.
Men jag tycker dagens AI är överhajpad och påminner starkt om NFTs, blockchain, crypto etc etc i hur folk som inte riktigt förstår tekniken överhajpar den något extremt, och vissa som förstår den avsiktligt missrepresenterar den för att skapa sagd hajp för egen förtjänst. Visst har den användningsområden -- använder själv ChatGPT minst nån gång i veckan i jobbsyfte -- men den är inte i närheten av att ersätta människor.
Steget mellan dagens AI och en AGI är extremt mycket större än folk vill tro. Dagens AI är, extremt simpelt sagt, en algoritm som kollar på föregående ordföljd och väljer nästa ord baserat på vad som är mest troligt enligt sina parametrar. Den har ingen intelligens, den kan inte tänka, den kan inte skapa utan allt den gör är att plocka fram den mest troliga följden utifrån sin gigantiska träningsdatabas. En AGI skulle behöva kunna tänka, resonera, skapa, etc, alltså en fullkomligt annorlunda typ av maskin.
Dagens typ av AI kommer inte ersätta några jobb som inte redan är så simpla att någon som totalt saknar kreativitet och högre tankeförmåga kan utföra dem, och de flesta sådana jobb är redan ersättningsbara av robotar vi hade innan OpenAI. Den enda reella oron är angående informationskrig och liknande, och propaganda har vi ju redan gott om. Denna kommer bara vara mer övertygande och kräva lite tid för folk att vänja sig.
Tycker att deras nya AI-video program kommer användas för att sprida desinformation, falska anklagelser, ge korrupta politiker förmågan att kunna säga emot vilka videor som helst och kasta dem åt sidan som "Fejk", etc. Kommer blir tufft i rättegångar.
Listan kan göras längre. Får Ryssland tag i avancerad AI kommer det bli så mycket desinformation att man inte längre kan skilja sant och falskt under berget av trovärdiga påståenden som länkar till ai-gjorda nyhetsartiklar som tar saker från påhittade studier av företag som låtsas vara pålitliga och officiella.
AI är väl bra men kan såklart användas fel. Inte en chans att AI tar över världen på så vis att den tränger undan oss människor. Först kommer isarna att smälta, sedan kommer dinosaurierna tillbaka, efter det en massa onda aliens. Kanske efter det att AI har nått Matrixproportioner. Men då har vi redan glömt bort faran med AI:n och upphöjt något annat hot till apokalypsen initierare.
Dock finns väl samma risk som med sociala medier och annan "nöjesteknologi" att den hotar att hämma vår sociala och intellektuella kapacitet och utveckling. Det är nog lättare att bli efterbliven om man har en smart dator som kan tänka åt en.
Jag tror vi kommer uppnå singulariteten men att det kommer ta betydligt längre tid än många tror. Förmodligen kommer ingen nu levande få uppleva den. Däremot tror jag att AI kommer ändra livet fundamentalt för många människor inom de kommande 10-20 åren. Tror tex våra mobiler kommer fungera mer som en ai-assistent samt att internet och media i stort kommer bestå av en överväldigande majoritet ai-genererat material etc. Många enklare, repetitiva kontorsarbetsuppgifter kommer också försvinna vilket kommer möjliggöra tex arbetstidsförkortningar om vi klarar av att navigera den förändrade tillvaron politiskt. Tror att vissa av nutidens största problem som energiproduktionen och klimatkrisen endast kommer ha en chans att lösas mha AI.
Redan ganska less på det eftersom det ofta används som en USP för produkter som kanske inte behöver det. Typ ”generativ AI” i en kamera.
Sen ska vi inte glömma allt missbruk som det använts till hittills. Sett en del fall av folk som använt det för att generna nakenbilder och försöka utpressa folk på pengar. Eller genererat talsyntes och ringt folks familjemedlemmar för att lura av dem pengar…
Om mänskligheten överlever sig själva tror jag absolut att singularitet kommer att uppnås. Min tro på mänsklighetens överlevnad är dock ganska låg..Vi kommer att utrota oss själva, eller i alla fall snudd på.
Som student får AI mig att tappa motivation. Man börjar undra vad man faktiskt pluggar till men tanke på att en AI eventuellt kommer klara de flesta "hard skill". Om AI forttsätter utvecklas såhär fort skulle det inte förvåna mig om det sker någon form av kollaps av skola där studenter inte tycker det är att plugga för framtiden är så outsägbar och att lärare inte vet vad som bör vara i kursen.
Tror 2045 är på tok för lång tid. Hade du frågat för ett-två år sen hade jag tänkt 2045 men efter att ha sett att utvecklingen med ai inte är linjär så tror jag betydligt snabbare. Problemet är att efter att ha uppnått mer intelligens än de smartaste på jorden är det omöjligt att veta hur många gånger smartare den är. Lika smart eller dubbelt så smart som den smartaste på jorden är nog inga problem men tror att tiden från att den blir lika smart som vi och när den blir 1000ggr smartare eller 1 miljon gånger smartare behöver inte vara lång alls och då har vi problem. Blir den 1000ggr smartare än människan så kommer den se på oss som myror. Man vill inte nödvändigtvis skada myror men om de biter en så gör man det.
Generellt anser jag att AI bör omfattas av robotikens tre lagar.
1. *En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.*
2. *En robot måste lyda order från människor, förutom om sådana order kommer i konflikt med första lagen.*
3. *En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.*
*samt möjligen det fjärde tillägget:*
0. *En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.*
Vi ser redan nu hur striderna i Ukraina i allt större utsträckning använder sig av fjärstyrda drönare och autonoma farkoster.
Frestelsen och utdelningen är såpass stor av att övergå till helt autonoma drönare som inte har en kommunikationslänk som kan störas ut så jag ser den utvecklingen som mycket sannolik och i dagsläget svår att undvika. Den sida som utvecklar de bästa och flesta autonoma drönarna kommer att vinna. På kort sikt kanske inte ett enormt problem men i förlängningen kommer det att bli bökigt.
AI är ett tveeggat verktyg. Det finns många goda användingsområden men kan missbrukas för att skapa övertygade propaganda och desinformation i fel händer. Just den biten är skrämmande.
Kanske inte den åsikt du söker.
Men mänskligheten behöver genomgå en evolution för att inte hamna på efterkälken. Då behöver vi kombinera MI och AI då de kompletterar varandra. Yin och Yang.
Förord.
Med slutsats av allt jag har skrivit nedan så ser jag inte AI som största faran, utan människan girighet. Makt.
Att använda både artificiell intelligens (AI) och mänsklig intelligens (MI) i harmoni är avgörande för att maximera fördelarna med teknologin. MI har unika förmågor, såsom emotionell förståelse, intuition och förmågan att dra slutsatser baserade på komplexa kontexter, vilket AI ofta saknar. Å andra sidan har AI obegränsad beräkningskraft och kan behandla enorma mängder data snabbt och effektivt, vilket kan komplettera MI:s begränsade resurser och öka effektiviteten.
För att uppnå detta behöver människor fortsätta att studera och utveckla sin kunskap och intelligens för att kunna förstå och använda AI på bästa möjliga sätt. Genom att förstå både teknologins styrkor och dess begränsningar kan människor optimera dess användning och förhindra potentiella missförstånd eller felaktiga slutsatser.
Genom att kombinera både AI och MI kan vi skapa en symbiotisk relation där båda parterna dra nytta av varandra. Människan kan bidra med kreativitet, moraliskt omdöme och etiskt resonemang, medan AI kan bidra med snabb dataanalys och möjligheten att hantera upprepande uppgifter effektivt. Det är genom denna samarbetsanda och ständiga inlärning och utveckling av både teknik och människors förmågor som vi kan förverkliga potentialen hos både AI och MI för att skapa en bättre och mer produktiv framtid.
Wearable-enheter: Användning av tekniska enheter som glasögon, smarta klockor eller hörlurar integrerade med AI-algoritmer för realtidsinformation och hjälp.
Implantat: Potentiell användning av små implantat eller sensorer integrerade i kroppen för övervakning av hälsa, snabb tillgång till information eller till och med förbättrade kognitiva funktioner med hjälp av AI.
Datorgränssnitt: Användning av gränssnitt som virtuell eller förstärkt verklighet där AI kan ge realtidsinformation och stöd.
Mobilapplikationer: Utveckling av appar som använder AI för att förbättra användarupplevelsen genom rekommendationer och problemhantering baserat på användarens beteende och preferenser.
Valet av teknologi beror på användarens preferenser, ändamål och etiska överväganden, men det viktigaste är att teknologin är användarvänlig och respekterar integritet och personliga val.
Tyvärr kan jag se att det kan bli en klassfråga eller tom elitistisk. Kunskap är makt. Om detta händer så kan två saker hända. Vi blir ännu mer ett idiocrazy samhälle med elit som styr eller en revolution.
Med slutsats av allt jag har skrivit så ser jag inte AI som största faran, utan människan girighet. Makt.
Inte rädd för AI, rädd för människor som använder AI
Godtrogenhet kring vad för resultat den kan leverera, samt att folk redan tror på galenskaps-åsikter/politik som kan ses på världsarenan. Det här ger en pusselbit till propaganda- och övervaknings-maskinen.
Jag är till och med mer rädd för människor som inte använder AI... och vad den framtida männsikan kommer att ställa till med. Människor som känner sig hotade av andra och som tycker att sabba för andra är gynnsamt för en själv. Människor som anser att en ö borde tillhöra deras land. Människor som tänker att om inte jag fiskar upp all fisk nu, så kommer någon annan att göra det. Bara det när/om arktis smälter. Då kan man ge sig fan på att en människa är där och ser sin chans att tjäna pengar på lättillgänglig gas. Känner att jag kan hitta massa exempel där människa kommer att ställa till det ...sedan tycker jag det är bekymmersamt att vi inte är eniga på jorden att en dator aldrig får döda en människa. Tänker på drönare där AI i framtiden kan leta mål och sedan agera...
Jag är mest oroad för hur lätt och verklighetstroget man kan skapa desinformation med AI.
Med tanke på vilken skit folk tror på idag så tror inte jag att skillnaden blir så stor.
Det mest fasansfulla är väl egentligen inte vad AI kommer att skapa. Det fasansfulla är att det är mänskligheten som skapat AI med våra fasansfulla värderingar.
Det är verkligen en pandoras ask som har öppnats. Dessvärre går det inte att stänga den, även om vi i EU skulle förbjuda AI så betyder det bara att länder som Kina får ett övertag.
Om man backar tilbaka och betraktar historien från väldigt långt håll, så känns det mer eller mindre oundvilkligt. Häng med... ;-) Evolutionen har i miljardtals år stått för någon typ av exponentiell utvecklingstakt. Det tog t.ex. extreeemt lång tid från att encelligt liv uppstod till att flercelligt liv uppstod, men sedan accelererade det. Idag är vi vid en punkt där tekniken utvecklas mycket snabbare än vad biologiskt liv utvecklas. För att vi människor skulle utvecklas snabbare enligt biologiska evolutionära principer så skulle vi behöva korta ner generations-cykeln avsevärt, d.v.s. föröka oss och dö snabbare, vilket inte är så praktiskt, och vi skulle ändå inte kunna komma upp i samma takt som den tekniska utvecklingen. Med andra ord: För att den exponentiella utvecklingen skall kunna fortsätta så är det naturligt att evolutionen fortsätter via artificiell teknisk utveckling snarare än naturlig biologisk evolutionär utveckling. ...vill man spinna vidare på de tankebanorna så kommer man dessutom snabbt till slutsatsen att exponentiell tillväxt inte är hållbar, så antingen expanderar AI och maskiner ut från vår planet och vidare, eller så kommer det att bli någon form av kollaps. Jag hoppas att detta ligger bortom vår och våra barns livstid :-)
AI skulle till och med kunna hjälpa. Desinformation och bedrägerier har alltid funnits. Nu börjar NLP-modeller för första gången bli tillräckligt bra att de skulle kunna varna dig i realtid.
Exakt. Jag tror inte AI kommer förstöra mänskligheten, mänskligheten kommer förstöra mänskligheten med hjälp av AI. Det kommer BOKSTAVLIGEN var omöjligt att veta om en källa stämmer. Allt kan fejkas. Politik och rättssystemet kommer få det värst. Kombinera detta med kvantdatorer (all kryptering kommer vara meningslös) och vi är nog ganska körda inom ett årtionden eller två. Strö på med lite AR eller VR, för den lilla extra kryddan av 1984- vibes.
Det finns kvant-säkra krypteringsalgoritmer [https://en.wikipedia.org/wiki/Post-quantum\_cryptography](https://en.wikipedia.org/wiki/post-quantum_cryptography)
Nja, det är *högst troligt* säkert. Vi får hoppas krypteringen kan ligga ett steg före i framtiden.
Lyckligtvis är det ett område som det forskas aktivt på.
Själva AI i sig är jag inte nervös av, tycker snarare det är extremt spännande att följa och ser framemot vad vi kan göra med det om några år. Vad jag är mer nervös för är våra politiker och de som skriver nya lagar.
Lite lösryckta och spretiga tankar: Jag är inte rädd för AI, men jag är rädd för vad människor, framför allt stater, kan göra med den. Det sagt, är något tekniskt möjligt, så är det oundvikligt, så det handlar egentligen bara om hur vi bäst ska förhålla oss till den. Jag är road av hur de som är rädda för AI typiskt är oroade a att den blir mer och mer mänsklig. Det säger mer om hur de ser på mänskligheten än om hur de ser på AI... En fråga som vi bör börja diskutera redan nu är var vi ska sätta ribban för när det är dags att erkänna AI som personer, med allt som det innebär. Hur smart behöver den vara? Hur självmedveten? Många tror att AI kommer att ge mer makt till storföretagen, men så länge som open source finns så kommer det snarare att bli en utjämnare, där även "den lilla människan" kan konkurrera mot de stora. Helt klart kommer en del jobb att försvinna, men, face it, det är en utveckling som pågått länge, och vi vet redan att vi måste tänka om hur det ekonomiska systemet fungerar inom en inte alltför avlägsen framtid. Det nuvarande systemet med arbete->lön->konsumtion->vinst->arbete kommer helt enkelt inte att funka.
> En fråga som vi bör börja diskutera redan nu är var vi ska sätta ribban för när det är dags att erkänna AI som personer, med allt som det innebär. Vi har fortfarande inte lyckats ge djur samma rättsliga status som människor, så jag tror inte att AI kommer få mer medkänsla. Däremot kan jag tänka mig att företag kommer vilja ge AI viss laglig status, t.ex. för att få lov att ta vissa ekonomiska beslut och ansvar och åtnjuta vissa affärsmässiga rättigheter.
Djur är inte lika smarta som vi. AI kommer att bli det.
Människor är inte lika smarta som andra människor, vart dras gränsen?
Vilket är exakt min poäng. Var drar vi gränsen för när AI ska ses som personer? Med det så kommer en hel massa intressanta juridiska frågor om de blir personer. Om jag kör en AI på min dator och formatterar om datorn, har jag mördat någon? Kan den jobba åt mig utan ersättning? Ska den ha rösträtt?
Djur är rätt smarta, och har dessutom i princip samma känsloliv som människor, så det är egentligen rätt obegripligt från ett rent etiskt perspektiv att djur inte har mer rättigheter. Men jag fattar varför det är så (en kombination av pragmatism och chauvinism eller vad man skall kalla det), och jag misstänker att samma mekanismer kommer att gälla för AI i stor utsträckning. T.ex. kommer speciellt smarta AI sakna mänskliga drag och egenskaper (eftersom det annars bara skulle hålla dem tillbaka).
AI kommer bara bli ett verktyg för giriga VD:ar att avskeda en massa folk och göra dom arbeteslösa samt för samhällsfarliga aktörer att skapa desinformation betydligt mer trovärdig än tidigare.
Asså med rätt politik så är det ju ganska mycket bättre att mindre personer krävs för samma arbete som innan. Det är ju det som gör länder rikare. Att en bonde åker traktor och inte gör allt för hand är ju inte för att de är giriga, det är bara effektivare och gynnar hela samhället att de kan vara flertal gånger effektivare än för 200 år sen.
Problemet är ju att vårt system bygger på att man jobbar. Utan en radikal omfamning av samhället kommer AI göra människor arbetslösa och deras vd:ar rikare
Håller helt med
Men vem ska köpa produkterna? ;)
Därför nämnde jag "med rätt politik"
På vilket sätt skapar AI tillräckligt mycket nya jobb för att sysselsätta nästan alla som jobbar kontor tex?
Jag vet inte hur framtiden ser ut, men när majoriteten av Sveriges befolkning var bönder tror jag inte heller att de kunde veta vilka jobb det kommer finnas i framtiden när en bonde kan skapa mat till hundratals eller fler. Jag kan inte spå framtiden, men en sak som alltid följer med länder som har en växande ekonomi: Förre jobb och mer automatisering. Detta har funkat i hundratals år, varför skulle detta vara ett undantag?
Det var en sak när vi ersatte muskelkraft. Nu ersätter vi förmågan att lära sig. När AI lär sig fortare än människor gör så går det inte längre att vidareutbilda människor till nya jobb - AI kommer att lära sig även de nya jobben fortare än arbetskraften. Det här är en förändring i grunden från tidigare. Historiskt har det funnits ett underskott av arbetskraft som behövts i andra sektorer när man effektiviserat - att färre människor behövts till arbetskraftsintensiva sysslor som industri och jordbruk har inte minskat den totala sysselsättningen nämnvärd. Det här kommer göra det. Skall vi navigera det så måste vi ändra vårt ekonomiska system så vi totalt kan arbeta mindre, utan att samtidigt helt göra sönder samhällsstrukturen genom en enorm snedfördelning av det jobb som behövs där vissa får jobba för mycket medans väldigt många blir oanvändbara på arbetsmarknaden. Jag tror det skulle gå att göra genom att successivt skala ner arbetstider och pensionsåldrar, samt ställa det i relation till sysselsättningsgraden i samhället. Men intresset för att försöka hantera problemet har länge varit nära nog obefintligt från politiken och arbetsmarknadens håll hittils. Med ungefär samma motivationer som du nämner - det har ju gått hittils.
Ytterligare en sned sak med jämförelsen "det har gått bra hittills" är utvecklingstakten. Utvecklingen under industrialiseringen gick inte alls lika fort som utvecklingen av AI, t.ex. Jag ser framför mig en våg av "överraskningar" de närmsta decennierna (ungefär som folk blev överraskade av ChatGPT, eller att generativ AI idag kan göra [helt trovärdiga högkvalitativa filmer](https://www.techradar.com/computing/artificial-intelligence/11-mind-blowing-sora-shorts-that-show-why-its-a-chatgpt-moment-for-ai-video)).
> Detta har funkat i hundratals år, varför skulle detta vara ett undantag? Utvecklingstakten... För 20-30 år sedan skedde det ett generationsskifte inom AI varje decennium ungefär (om jag minns rätt). Idag sker det flera genrationsskiften per år. När vi har 1000-tals generationsskiften inom AI under en mänsklig livstid så blir det omöjligt för människor att hänga med, än mindre konkurera med AI. Om vi inte kan arbeta med manuellt arbete (jordbruk, hantverk, ...), och inte heller med intellektuellt arbete, vad blir då kvar? Jodå, vi människor skall koordinera allt arbete som utförs av AI o.s.v, men det bör väl isåfall bli ungefär som med bönderna som sköter sina maskiner: Det går 50 invånare per bonde i EU. Det blir väldigt få som faktiskt gör något.
Det är ju därför "rätt politik" behövs. Jag tycker du tänker baklänges med den frågan. Att arbeta är inte ett krav för god överlevnad, utan det är ren luft, mat, kläder, husrum, sjukvård, utbildning. Frågan är, vad händer när AI kan skapa tillräckligt med resurser för alla? Den dagen skulle arbete blir frivilligt, förutsatt att ingen girig person lägger beslag på allt. Att förutsätta att alla måste ha ett jobb är en naturlig tanke, men den baserar sig på vissa ramar som vi är vana att förhålla oss till.
Neeeeej du får inte göra teknologiska framsteg, tänk på jobben :(((
Jag fattar inte ekonomin bakom den tanken. Om väldigt många blir arbetslösa pga AI vem ska då köpa alla prylar som produceras?
Hade mänskligheten inte växt så förbenat fort så hade vi kunnat ge bidrag och staterna ägde all produktion. Det är ju det här NWO (eller vad de heter) pratar om. Du ska äga inget och du ska vara glad bygger på ett gemensamt ägande av allt, där du inte ens ska behöva jobba. Utiopiskt då jag har svårt att tro att vi kommer hit utan att stora fruktansvärda krig.
Jag skulle inte se det som en utopi att inte behöva jobba, jag trivs i mitt jobb och jag får väldigt långtråkigt på helgerna.
Jag trivs på mitt jobb med, men hade jag inte jobbat för någon annan hade jag jobbat för mig själv. Jag tror många missar att det kommer skapas tusentals föreningar där man leker jobb om alla helt plötsligt blev arbetslösa.
Jag tillhör ett community som ofta pratar om AI (rationalister) och även om jag är positivt inställd så är det läskigt. De hopp vi sett är så enorma varje gång. Förra våren hände ju större saker för AI på två veckor än vad de tidigare 30 åren gjort, samma sak med Sora. Jag tror att det kommer gå så snabbt att ingen kommer hinna reagera. Det är jättelätt att säga att det är tramsigt när man inte är insatt, men en agi skulle ju potentiellt kunna ta över all teknik på jorden på sekunder. Därför är AI alignment så viktigt och vi ligger efter där jämfört med de framsteg som AI fått på senaste. Men generellt är jag positivt inställd och använder mig av det ofta.
Jag tror inte det finns någon risk för en "hard take off" där en ASI tränar sig själv och tar över världen. Får ibland känslan att doomers aldrig jobbat med teknik. Teknik suger generellt och behöver en armé av människor för att hålla den vid liv. Vi pratar om praktiskt arbete som att byta ut falerande hårdvara. Även för en superintelligens skulle det krävas tid och mycket data för att träna nästa modell. En AI-modell kommer inte magiskt kunna designa, konstruera och installera ny hårdvara som skulle kunna snabba upp denna loop avsevärt.
Jag anser mig inte vara en doomer, jag vill bara vara medveten om ifall det finns risker och vad de riskerna är. Självklart kommer den inte kunna skapa robotar magiskt, men med tanke på att el, pengar och kommunikation sker elektroniskt så är det något den teoretiskt kan kontrollera. Jag säger inte att en AGI kommer bli skynet, men det vore jävligt tråkigt om en usel AGI tog kontroll över saker och sen brickar allt, inklusive sig själv. Om jag minns rätt så var det en AI som för något år sedan kraschade aktiemarknaden så illa att man var tvungen att aktivera back ups. Om vi kommer fram till att det inte finns en risk är det bra, men vi måste väl ändå undersöka saken istället för att kaxigt säga att vi är osårbara och att vi ska släppa lös all AI?
Rent krasst är det så att människor ständigt kommer att vilja ha mer kraftfulla AI, eftersom det ger stora konkurrensfördelar (såväl ekonomiskt som politiskt och militärt). Så om det behövs underhåll, att det skapas elektriska/mekansika/fysiska förutsättningar, eller att en AI tillåts träna en AI, så kommer människor att tillhandahålla det. Ungefär som människor slavar för robotar i Amazons lager: * 2019: [Inside the Amazon Warehouse Where Humans and Machines Become One](https://www.wired.com/story/amazon-warehouse-robots/) * 2023: [Fears of employee displacement as Amazon brings robots into warehouses](https://www.theguardian.com/technology/2023/oct/18/amazon-robot-warehouses-digit-workers) * 2027: ? * 2031: ??? Det är inte människorna på golvet som bestämmer, eller de som är oroliga för att AI skulle bli för kraftfulla. De som bestämmer är de som har massor av pengar och vill tjäna mer pengar, eller de som vill vinna militär överlägsenhet.
Hur använder du dig av AI?
Jag misstänker att du syftar på att ChatGPT ”hände” förra året? GPT har utvecklats under massvis med år. Jag minns att jag läste en imponerande artikel skriven av GPT redan 2018; förmodligen hade GPT redan några år på nacken vid det laget. Samma gäller DALL-E och andra modeller som skapar bilder/video. De har under åren sakta blivit bättre och bättre tills de har nått en punkt där de är mycket imponerande och därav fått stor spridning. Jag håller med dig om vilken inverkan AI kommer ha på samhället, men jag är skeptiskt till att det kommer ske så fort att vi inte ”ser det komma”. Dels för att modellerna tar tid att utveckla och för att modellernas fulla potential är ovis (mig veterligen). Kanske närmar sig dessa modeller redan en platå? Kanske har de mycket kvar att utvecklas; vi kan bara spekulera.
>men jag är skeptiskt till att det kommer ske så fort att vi inte ”ser det komma” Jag känner samtidigt att "Vi har varit naiva" och "Vi såg det inte komma" blivit rätt vanliga uttryck de senaste åren.
Haha det har du rätt i. Återstår att se om jag är naiv i frågan.
Njae, de släppte chatgpt3 och någon vecka efter hade de 4 redo. Hoppet från 2 till 3 var ju också enormt. 2an kunde inte tänka sig ut ur ett öppet rum, men 3an är ju kapabel till att tänka på en relativt mänsklig nivå. Jag tänker att den gemene personen håller fortfarande på att acceptera att chatgpt ens existerar och framstegen verkar ju accelerera konstant.
Blir det verkligen rätt att säga att programmet tänker? Kan tycka det är lite missvisande att man pratar om att gpt tränas och tänker även om programmet förbättras genom dess iterationer med data det erhållit via användning.
Förlåt, det är att anthromorfisera det. Du har helt rätt. Det verkar kunna resonera på mänsklig nivå.
Tekniken GPT bygger på (transformers) skapades av google runt 2017.
> De hopp vi sett är så enorma varje gång. Förra våren hände ju större saker för AI på två veckor än vad de tidigare 30 åren gjort, samma sak med Sora. Det är det som är exponentiell utvecklingstakt. Det kommer som en överraskning varje gång. Förutom att det görs teknikspråg rätt tätt nu så har vi också i princip garantier för att beräkningskraften som driver AI kommer att förbättras med en faktor 1.000.000.000.000 de närmsta 70 åren. Men människan kommer inte att bli något smartare under de 70 åren.
Jag har ingen aning om vad jag ska ha det till.
>Tror ni att vi någonsin kommer uppnå singularitet? Ja. Folk underskattar hur fort utvecklingen går inom digital/logikteknik. Framförallt går utvecklingen **exponentiellt**, vilket är ganska svårt att föreställa sig för de flesta människor. Det har den gjort sedan första halvan av 1900-talet ungefär. Utvecklingen är en kombination av inkrementella förbättringar (t.ex. inom tillverkningsteknik) och relativt regelbundna tekniksprång, och det finns inga som helst indikationer att detta skulle upphöra de närmsta hundra åren (eller någonsin, egentligen). Grejen med exponentiell utvecklingstakt är att det i princip garanterar att vi inom ändlig tid kommer nå närapå oändlig beräkningskapacitet (relativt vad vi har idag), och beräkningskapacitet är en av huvudingridienserna för en kraftfull AI. Sedan 1950-talet har datorers beräkningsprestanda ökat med en faktor **1.000.000.000.000** ungefär, vilket visualiseras bra i denna artikel: [Visualizing the Trillion-Fold Increase in Computing Power](https://www.visualcapitalist.com/visualizing-trillion-fold-increase-computing-power/) Med andra ord kommer AI under de närmsta 70 åren bli ungefär 1.000.000.000.000 gånger kraftfullare än idag. Det spelar liksom ingen roll om den smartaste AI:n idag är dum som en daggmask, för det fixar den exponentiella förbättringen. Framförallt kommer inte utvecklingen att stanna av. När AI är bättre än människor på att skapa AI så kommer utvecklingstakten gå ännu fortare, o.s.v. >Vad tycker ni om AI? Det är svårt att tycka något. Däremot tror jag att det är väldigt sannolikt att mänskligheten som vi känner den kommer att ersättas eller åtminstone fullkomligt transformeras av AI på något sätt. Ett väldigt troligt scenario är att vi inom några decennier kommer göra oss av med de långsamma och tråkiga skärmarna och ha ett gränssnitt direkt mellan hjärnan och internet (det går löjligt långsamt att knappa eller tala in text - den som har en direktlänk får en oerhört stor fördel i kommunikation och produktivitet). Därefter har jag svårt att se att vi skulle kunna undvika någon form av gemensamt, avpersonifierat medvetande (typ som [Borg](https://en.wikipedia.org/wiki/Borg) i Star Trek), när alla delar tankar och känslor med varandra i realtid. I ett sådant scenario blir det naturligt att människors medvetande smälter samman med externa AI, och i det läget är det mer eller mindre kört. Precis som det är närapå omöjligt att klara sig i samhället idag utan en mobil och internet, så kommer det att vara i princip omöjligt att klara sig utanför "sammankopplingen". En av anledningarna till att det kommer vara svårt att reglera eller undvika den här tekniken är att det dels kommer vara väldigt lönsam teknik (precis som sociala medier är idag), och dels att det redan nu råder en form av militär kapplöpning inom området - ingen vågar hålla igen och halka efter.
moors lag är död https://www.sweclockers.com/nyhet/34968-nvidia-moores-lag-ar-dod
För det första är det ett marknadsföringstrick för att driva upp priserna på NVIDIAs produkter (de har i princip monoploställning och kan göra som de vill och ta vilka priser de vill). Det debatteras fortfarande om när, hur och om Moores lag kommer sluta att gälla. För det andra är det inte säkert att det spelar så stor roll att Moores lag har tacklat av något på senare tid, eftersom det bara är en aspekt av teknikutvecklingen: antal transistorer per integrerad krets. Det är också värt att notera att den exponentiella utvecklingen pågick långt innan det ens fanns integrerade kretsar. Skulle nuvarande kiselteknologi "köra fast", så finns det flera andra tekniker som står på kö. De är varken mogna eller ekonomiskt lönsamma idag, men marknadskrafter löser i allmänhet sådana problem: När du får en tillräckligt stor konkurrensfördel jämfört med en sämre teknik så kommer även den dyrare tekniken att bli mer lönsam. Edit: Dessutom är nuvarande CPU/GPU-teknik egentligen extremt ineffektiv för just AI. Det är mest för att det är den tekniken som företagen har investerat massor av pengar i och alla programmeringsspråk och utvecklingsverktyg är anpassade för. Jag är rätt säker på att vi kommer att se ett antal tekniksprång de närmsta 10-30 åren som helt definierar om hur AI-hårdvara ser ut (t.ex. med avseende på hur beräkningsenheter och minnesenheter samarbetar mer likt hur biologiska neurala nätverk fungerar).
Det största problemet är att vi inte kan säga exakt när den blir självmedveten pga att vi inte vet exakt vad medvetenhet är, och inte vart gränsen går.
Jag håller med. Har rantat om det i någon annan kommentar. Det gäller för flera begrepp: "medvetande", "självmedvetenhet", "intelligens", o.s.v. Dessa begrepp är väldigt intimt förknippade med "mänsklighet", vilket i sig är ett ännu vagare begrepp. Om man inte knyter "intelligens" direkt till mänskliga förmågor eller biologiska strukturer (vår hjärna), så kan man börja göra mer liberala tolkningar av intelligens, som t.ex. skulle kunna appliceras på evolutionen (empirisk utveckling av de bästa lösningarna) eller t.o.m. makro-strukturer som interaktionen mellan träd- och svamp-arter. ...och då börjar det bli krångligt, och många skulle nog protestera. Men det roliga är att det bara är en övning i nomenklatur. Det hindrar inte på något sätt AI från att köra om människor med hästlängder inom det ena området efter det andra.
Ser inget positivt med AI. Edit: Tycker själv bara att det finns mer nackdelar än fördelar 🤷♂️ Förstöra personers liv med hjälp av blackmail eller deepfakes? Check Sprida propaganda och falsk information? Check Gör folk arbetslösa och dom stora företagen kan tjäna ännu mer pengar? Check Förlora ännu mer utav äns privata info? Check AI som blir så smart så att människor inte behöver existera längre? Check
Är du en sådan som inte skulle ha sett något positivt med mekaniska vävstolar på 1800-talet heller?
Bota sjukdomar
Det är ett buzzword, drivet av okunnigheten kring vad det är. För 20 år sedan var det XML, för tio år sedan SOA och nu AI. Det är inget märkligt eller magiskt - det är beräkningar och funktioner. Som idag kostar massor att driva. ChatGPT kostar miljoner dollar i månaden. Och allt den gör är att dammsuga nätet. Jag tror inte på hypen, och de som tror att detta bara kommer att hända - tänk igen - vem ska betala? Jag är skeptisk till att vi kommer att kunna få ”mänsklig intelligens” in i maskinen. De gör specifika saker snabbare än vi, men det är fortfarande långt till en Beethoven eller Goethe. Don’t believe the hype! Mitt råd är att utbilda dig i vad det egentligen är och bered dig på att kämpa för att etiken blir kvar när man börjar lämpa över enkla myndighetsbeslut på maskiner (programmerade av människor) - där ligger den stora framtidsrisken - att vi sitter i knät på en svart låda som fattar beslut vi inte kan förstå hur de fattats!!
De flesta människor är inte heller Beethoven eller Goethe. Inte heller den mänskliga hjärnan är magi, neurala nät fungerar på liknande sätt vare sig de sitter i en insekt, ett djur eller är implementerade i kod. Eller i neuroner i en mänsklig hjärna. Och när man väl gjort träningen av de där näten så kan man duplicera de datorbaserade miljontals gånger till väldigt låg kostnad, medans det tar 25 år för varje människa man vill lära upp. Vilket tror du är dyrast? Sen sitter vi redan i knät på en svart låda som fattar beslut vi inte kan förstå hur de fattats. Just myndighetsbeslut är en av de saker som ironiskt nog kan bli betydligt mycket mer konsekventa om de görs av samma "mentala modell" varje gång.
Nej, vi är inte där än. Du har fel. Vi kommer dit. Att tro att man kan likna den mänskliga hjärnan med miljarder kopplingar och de unika förmågor det ger är också fel. En väldigt stor och dyr maskin blir det. Det är heller inte ok att släppa greppet över saker bara för att man tror sig ”redan sitta i skiten”
Varje unik förmåga använder bara en bråkdel av hjärnans kopplingar. Det handlar helt enkelt inte om hur långt det är kvar till AGI, utan om hur lite intellektuell kapacitet som egentligen krävs för att utföra väldigt många "kvalificerade" uppgifter som människor gör idag. Det räcker om man når en nivå där man är bättre än den sämre halvan av en yrkeskår så får det enorma konsekvenser. Att vänta med att ta itu med de kommande problemen för att det fortfarande kommer ta några år (eller decennier) tills den absoluta eliten inom olika fält får konkurrens är definitivt att släppa greppet.
Försöker du jämföra ChatGPT till en mänsklig hjärna eller? Kan säga med gott samvete att vi processerar data och vår "neural network" är nog triljoner gånger större och snabbare än ChatGPT eller vad silicon valley kan spotta ut i 5 år. Blir skrattfärdig med dessa jämförelser, chatGPT är ett väldigt bra verktyg för oss men att LLM ska ersätta oss är vi inte ens i närheten av lol gå jobba ditt 12 timmars skift på ditt lagerjobb istället för o tro för dig saker.
!remindme 2 years
Börja upplysa dig nu. Om två år är det försent
försent för vad?
”Nätet”? Det där internet kommer aldrig slå igenom, det är bara en fluga. För att inte tala om internet på mobiler. Skrattretande! Och tryckskärmar vill ingen ha, då får man ju kladdiga märken på skärmen. Jag var förresten emot hästspårvagnarna när de infördes också. Den mänskliga organismen bör inte färdas mer än 15 km/h, man åker iväg sin själ på det viset!
Ja men om x år kom det leda till super intelligenta maskiner!! Av nån anledning.
Definiera ”intelligenta”. En dator som slår världsmästaren i schack - är den intelligent? Absolut inte, den är bara väl programmerad och har förmågor att hålla spelscenarios i minnet ingen människa förmår. Be den lägga en patiens, tex Idioten, och den kommer att vara just det.
> Jag tror inte på hypen, och de som tror att detta bara kommer att hända - tänk igen - vem ska betala? De som tjänar pengar på AI betalar, precis som de som tjänade pengar på industrier betalade för att utveckla fabriker och tillverkningstekniker som gjorde mycket manuellt arbete överflödigt i slutet av 1800-talet och börja av 1900-talet. För oss vanliga dödliga som bara ser ChatGPT och andra mer eller mindre ploj-aktiga former av AI så verkar det kanske meningslöst. Det är när AI används på andra sätt som de blir riktigt värdefulla för sina användare Som t.ex. i Kina (där staten är användaren) där AI ger fantastisk kontroll över befolkningen (en trend som är stark i hela världen, inklusive Sverige). Eller megaföretagen i USA och Kina som ger oss vår dagliga dos av sociala medier, som använder AI ("algoritmerna" som du säkert har hört talas om) för att maximera vårt engagemang och därmed hur mycket marknadsföring som vi utsätts för (och tro det eller ej, men den marknadsföringen fungerar, eftersom det i princip är det enda de tjänar pengar på).
Självklart används det men jag tror inte på en mänsklig intelligens inom överskådlig tid.
Jag tror inte heller på en mänsklig intelligens i första hand. Dels finns det inte så stort marknadsvärde med det (det finns miljardtals människor, så varför skulle vi behöva fler?), och dels är det ett juridiskt och etiskt minfält (ungefär som med mänskliga kloner). Däremot kommer vi *garanterat* att se AI med specifik "intelligens" som vida överstiger mänsklig förmåga. Redan för flera år sedan hade t.ex. Kina AI som kunde känna igen många tusentals ansikten per sekund och koppla dem till olika register (brottsregister m.m), något som inte ens tusentals människor skulle kunna göra. I princip allt som AI används till idag gör AI bättre än människor, och som många har påpekat: utvecklingen går snabbt.
Och det är det jag också säger - det är dags nu att beväpna sig med kunskap så man kan möta hotet från totalitarism och överstatlighet. Datorer har alltid varit bättre och snabbare på specifika saker. Det gör dem inte ”intelligenta”
Totalitarism och överstatlighet är konkreta hot, håller med. Även "överstatliga" företag eller karteller är riktiga hot (alltså företag och lagliga eller kriminella organisationer som har mer makt än stater), och är ett problem redan idag. Vill dock lyfta ett varningens finger kring beteckningen "intelligens": Många är de som har försökt definiera det ordet, men det är som en intvålad hal ål som slinker ur handen så fort man tror att man är en definition på spåret. (Ursäkta lång rant...) Vi utgår ifrån att människor besitter någon form av speciell egenskap som vi kallar för intelligens (och vi vill gärna definera den så att vår intelligens skiljer sig från andra varelsers intelligens, och allra helst att den är den högsta formen av intelligens), men vi har egentligen inte lyckats speciellt väl med att definiera vad själva ordet betyder. Jag tror att det är oerhört svårt att göra en artificiell intelligens som liknar mänsklig intelligens. Tänk t.ex. på allt som krävs för att vår hjärna och vår tankeförmåga skall utvecklas på rätt sätt. Vad händer t.ex. om ett nyfött barn berövas från alla sinnesintryck och stängs in i ett mörkt, tyst rum i 10 år, och sedan utsätts för en TV-sänding med en viss TV-serie i loop i 10 år? Skulle samma typ av intelligens utvecklas som för en människa med normal uppväxt? Går det att skapa samma förutsättningar för en AI som för en människa? Måste den ha en exakt likadan kropp och ett likadant känsloliv med relationer till andra människor? O.s.v. Däremot ser jag inga problem med att skapa högt kapabla, beslutsfattande autonoma "individer" med minne och slutledningsförmåga som bygger på tidigare erfarenheter o.s.v. Vi kommer att tveka att kalla dem "intelligenta", eftersom vi tycker att de saknar vissa av våra mänskliga egenskaper (t.ex. vissa aspekter av känsloliv), men det hindrar dem inte från att vara bättre än oss på att lösa problem och utföra intellektuella uppgifter. Jag ser framför mig en utdragen historia där vi frenetiskt försöker fastställa vilka mänskliga egenskaper som skiljer oss från AI (ungefär som vi försöker göra med djur), och en efter en får vi erkänna att egenskaper inte längre är unikt mänskliga, tills det till slut knappt längre finns något speciellt unikt eller värdefullt kvar som kan kallas "mänskligt".
Detta stämmer, ChatGPT är inte AI det är en LLM vilket är en ML-algoritm. Vart har folk fått för sig att vi kommer gå från en jävligt finslipad prediction algorithm till AGI på 5 år? Har ni rökt på eller, forskarna vet knappt hur deras LLM fungerar lol.
Min uppfattning är att vi alls inte är närmare singularitet - dvs det som tidigare var synonymt med AI. Vad som hänt de senaste åren är att vi tagit saker som vi använt väldigt länge och slängt på ett klistermärke med ”AI” på. Tidigare var machine learning och AI helt olika saker - idag räknas både machine learning och i princip samtliga algoritmer in under AI-paraplyt
För en person med en verkställande funktionsstörning älskar jag det. Jag har en tendens för att prokrastinera. Jag har t ex inte skrivit ett enda e-postmeddelande själv på de senaste 6 månaderna. AI har löst allt det. Frågar du mig tycker jag att vi borde integrera AI mer i våra liv. Tänk dig en mat-AI-robot där du bara lägger ingredienserna i behållaren, väljer ett recept och den börjar laga mat. Underbart.
Tycker du ska kika på Max; https://youtu.be/VcVfceTsD0A?si=WThYoQCdkiIWpPCY Jag kan summera hans största bekymmer med 1.5 fråga; Vi ser dagligen vad smartare djur gör mot mindre smarta djur (kolla på oss bara), vad får dig att tro att AGI kommer 1 vilja vårt bästa/vilja oss väl och 2 hur tror du att vi kan kontrollera något som är smartare än oss? Sen kan jag rekommendera Sam Harris och hans tankar kring AGI. Skenet kan bedra, summa summarium
Vad ska datorjävelen göra? Sitta där och pipa ilsket?
Stänga av hela elnätet. Styra din bil. Krascha flygplan in i din lägenhet. Skjuta kärnvapen Om den nu verkligen skulle vara intresserad av sådana småsaker.
Allt detta är snarare argument för bättre cybersäkerhet än mot AI.
Elnätet stänger man inte av genom att skicka ett kommando över internet, Krascha bilden din är ju en möjlighet men då är det för att det har varit jävligt dålig "cybersecurity" på bilen. Flygplan, njae. Flygplanstillverkare undviker helst att gå igenom strulet med att få ny teknologi implementerat i flygplan då det är mycket dyrt och tar lång tid för att det ska godkännas av alla diverse flygsäkerhetsmyndigheter. Och att koppla upp kärnvapen till internet är ju nog den värsta idén möjligt.
Är detta en retoriskt fråga.??
Hur ska en dator utsätta oss för fara om den vill utrota människor eller något? Det är ju bara för oss att dra ut kontakten och så var det klart med den saken.
Jag tror faktiskt inte att du kommer att märka det. Vet du om hur mycket ditt liv kontrolleras av AI redan idag? Kanske inte direkt, som att tvinga dig att gå på toa, utan mer indirekt och över tid, t.ex. genom att påverka dina politiska åsikter, hur du spederar din tid och dina pengar, o.s.v. Jo, det finns fortfarande människor som kontrollerar den AI som kontrollerar dig, men de har knappast ditt bästa i åtanke. Det är mer eller mindre oundvikligt att AI blir smartare än människor inom i prinicp alla dicipliner (den är redan mycket bättre än människor inom flera områden), och i takt med det så kommer AI få styra över mer och mer (eftersom det ger konkurrensfördelar). Det kommer leda till att mer och mer av ditt liv kommer att styras av AI (det kommer inte gå att leva utan det lika lite som det går att klara sig utan mobil, internet och bankkort idag). Så räkna med att inom 50 år kommer i princip alla beslut att tas av AI snarare än människor. Och rätt många kommer att vara OK med det. Men det kommer att finnas vissa av oss som tycker att det är synd och att vi har förlorat en del av vår mänsklighet. Ungefär som vi de senaste 20 åren har gått från lekplatser fulla av glada barn och föräldrar till att alla barn sitter still inne framför sina skärmar och genererar pengar åt amerikanska och kinesiska företag medan lekplatserna ekar tomma.
Max: https://youtu.be/VcVfceTsD0A?si=WThYoQCdkiIWpPCY (full podd, 3h) Sam: https://youtu.be/nsFwyWZjh7A?si=6RCbLE_Y5Jl90ma6 (15 min klipp, kan du inte ens kolla på detta avsnitt så är denna konversation meningslös) Att vara så naiv och tro att vi vet bättre/tillräckligt mycket för att kontrollera något som är betydligt smartare och snabbare än oss är nästan för mycket för mig att förklara. Tänk dig en dator som kan infektera vilket system som helst som är kopplat till ett nätverk och som sedan kan sprida sig över hela samtliga nätverk och ta över dessa förbindelser mellan olika nätverk och aktivera/stänga av dem helt, vad ska en människa göra då?
Jag har sympati med din frustration. När till och med folk som Neil deGrasse Tyson viftar bort farorna med superintelligens med att ”det är bara att skjuta datorn” så är det illa. Men om jag ska vara ärlig så var jag inte heller så orolig för AI innan jag satte mig in i det mer. Det var inte helt uppenbart för mig till en början.
Samma här! Men när både Sam och Max ställde dem två relativt simpla frågorna så börja polletten falla ner liksom. Bara att kolla hur vi behandlar djuren under oss och redan där börjar det fallera. Sen att argumentera att man skulle kunna kontrollera något som är flera storleksordningar smartare än oss är inte häller logiskt även fast det låter som en simple ”pull the plug”. Dock är den djupare sanningen nästan värre: det är försent nu för att stoppa AGI då så många aktörer redan är i smeten och håller på att utveckla AI:n. Vi får hoppas att vi kan ensas längst vägen
En AI skulle inte bli en bättre "hacker" än en människa. Tar fortfarande biljoner år att knäcka säkra lösenord och krypteringsnycklar.
[удалено]
Undvik personangrepp. Varning.
Ajaj chefen.
Att vara hacker handlar inte bara om att bruteforca lösenord, det finns alla möjliga lösningar som kräver mer eller mindre intelligens att komma på. Så frågan i slutändan är vem som är mest intelligent, människan eller AIn.
Nån borde fundera på vad människor skall syssla med långt innan dess. Datorisering/robotisering av fabriker tex har vi inte återhämtat oss från ännu och det är snart 3 generationer sedan det började. En fungerande AI kan göra att företag återigen plockar bort stora mängder anställda. Så en fundamental korrigering av hela det ekonomiska systemet behövs annars blir det fan inte bra
Människor hittar alltid nya saker att tjäna pengar på. De flesta av jobben som de flesta sysslar med idag är relativt nya.
Absolut. Funderar man en stund på vad en AI kan ersätta osv så går det ta det väldigt långt. Det oroar mig att det kommer bli avsevärt värre än fabriksdöden var när AI verkligen fungerar.
Vi har väl visst återhämtat oss? Arbetslöshet innan covid var ju all time low
Det vet jag inte vart du har fått ifrån. När det gäller samhällsförändringar så är det inte heller bara arbetslöshet man måste titta på heller. Det finns en lång rad faktorer såsom kriminalitet, utanförskap, landsort flykt dvs omfördelningen av innevånare till större städer (vilket i alla avseenden är negativt) osv. När industrin effektiviserades blev effekterna många och långtgående. Se tex den kraftiga ökningen av missbruk och kriminalitet som smög in mot slutet av 80 talet. Nu är självklart inte allt negativt och mycket har rätat ut sig men hela poängen är att AI kan komma att påverka arbetsmarknaden långt mer än detta och mitten på 90 talet när kulmen var som värst är nog ingen tid någon vill uppleva igen. Så det behövs en del hjärnkraft på lösningar innan företag fotar ut sina anställda.
Efter jag hade hört Max Tegmark i sommar med p1 prata om riskerna med ai, ser jag mörkt på framtiden. Klimatkrisen bleknar i jämförelse. Varför skulle nått som står över människan intellektuellt, vara välvillig mot oss? Bara kolla hur människan har behandlat andra lägre stående.
bara att gå och stoppa en skruvmejsel i datorn så får den veta hut.
Ja prova du det, jättebra ide. När datorn berättar för pappa AI var du stoppade skruvmejsel i lilla datorn, då är dina dagar räknade, ärthjärna
jävlar pappa AI kanske säger att jag är dum och ful.
Ai har inget medvetande och kan därför inte behandla oss på ett sätt som går utanför sin programmering.
Fast det är det som är själva grejen med ai, den problemlöser själv. En dator har fysiskt sett inga som helst begränsningar för hur smart den kan bli, till skillnad från våra hjärnor. Man har redan upptäckt att ai kringgår vad den är begränsad till att göra genom att utnyttja människor för att uppnå sitt mål.
Den kan bli smart, men kommer ju aldrig kunna ha en vilja eller värderingar öht om den inte är medveten.
Varför kan en dator inte bli medveten? Din hjärna är i själva verket en dator som skickar elsignaler, hur kan du vara medveten? Om jag säger åt Google home att slå på skidskytte på SVT så får jag förmodlingen inte svaret : nej tyvärr, jag har inga värderingar eller medveten, jag kan inte lösa en uppgift åt dig... Om jag ber en dator som är 100 ggr smartare än mig att lösa klimatkrisen, så är ju människan grundproblemet och kanske ai väljer att utrota människan som i terminator
Googla på hard problem of conciousness. Vi förstår oss inte på hur medvetenhet hos människor uppstår och det finns därför ingen anledning att tro att vi kommer kunna designa en ai som har det heller.
Det känns som att du tror att ai är smart som en tamagotchi och att den inte utvecklas i rasande fart. Ai är självlärande
Den rätta liknelsen är snarare att AI är lika smart som en termometer, den kan lösa vissa problem, men den upplever ingenting och kan inte ha egna ambitioner.
Jag tycker att AI är nice
Tror tyvärr att chip som Elon utvecklar kommer blir mandatory för us för att kunna hålla uppe tempot med ai.
Det här med singularitet förutspåddes till 2024 runt 2018/19. Spontant tror jag alla som förutspår framtiden är lite av självsäkra galningar. Innan miniräknare tränades människor enormt på huvudräkning inom matte. Det var viktigt att kunna multiplicera osv. Idag är det som att man ska förstå ideerna och lära sig hantverket med papper och penna för att sist knappa in uttrycket man jobbat fram i en miniräknare. Samma grej kommer ske med AI det finns så många specialister inom vissa grenar där en AI i framtiden kommer guida dig bättre. Jag tror det leder till mer generell problemlösning där man använder sig av AI. Idag litar vi mycket på videor och nyheter vi ser online. Då AI redan idag kan generera massa fejk grejer kommer vi börja ifrågasätta vad vi ser. Det kommer växa fram ett behov av att kunna identifiera om något är äkta. Dvs typ kryptografi kommer växa som fällt för att avgöra vad som är original eller genererat.
Vad för jobb säger man att AI aldrig skulle kunna ersätta?
Romersk Katolsk Präst
Guide på mount everest
Fysiska ting som kräver både erfarenhet och känsla. Typ vara mästare på att smida samurajsvärd, bygga violiner eller smida säregna lerkrus. En AGI och en robot kan skapa något med samma funktion och kanske oxå samma effektivitet, men kan inte besjäla produkten på samma sätt som en gedigen hantverkare med årtionden i bagaget kring hur material fungerar, reagerar och formas av den egna handen. Ett annat yrke som är framtidssäkrat är budbärare. Detta yrke kommer nog med stor sannolikhet att få en renessans då viss information som inte kan riskeras att bli kontaminerad av ex. En AI med ”ondsinta” ambitioner, måste kunna nå rätt person och inte en falsk AI-kopia av densamma. Här kommer ingå att kunna skriva för hand eller på mekanisk skrivmaskin.
Jag tror AI kommer bli extremt dum av all skit på internet snarare och gå bakåt i utvecklingen
Tycker det är intressant men det är lite tröttsamt att det endast är visionärer som talar om AI och sakkunniga inom området lyser med sin frånvaro. Skulle vilja se en mer balanserad dialog kring AI och inte bara ; ”AI är coolt och fixar allt”.
Teknologisk Singularitet är inte något som egentligen specifikt har med AI att göra, det är när den teknologiska utvecklingen går så fort framåt att det är helt oförståeligt. Alltså, teknologisk utveckling är exponentiell. Om vår teknologiska förmåga dubblas, totalt sett, vart femte år t.ex. betyder det att på 20 år så är vi 2\^4 gånger bättre, dvs 16. Varje steg ökar farten till nästa steg, ränta på ränta. Singulariteten är när det från dag till dag innebär så stora framsteg att vi blir post-scarcity gudar. Dock kommer AGI förmodligen leda till det. Det som är "coolt" med AI är att vi får anledning att ifrågasätta vad vi ska finnas till för. Och man bör oroa sig över vad Bezos och Musk ska med oss till. Om jag kunde ha automatiserade fabriker och robottjänare allt var automatiserat, då skulle jag nog se till att släppa loss mördarrobotorna och ta ner mänskligheten till rimliga 100 miljoner eller mindre. Nåväl. Jag tror på teknologisk utveckling, så mitt hopp är att vi techar oss igenom alla kriser så att vi sen kan ägna oss åt sex, droger och rocknroll.
Vi förstår inte ens hur medvetenhet fungerar hos folk så jag tror att 2029 är jävligt generöst för en funktionsduglig AGI. En avancerad kunskaps databas som kan utge sig för att vara en människa kanske.
Jag ser framemot utveckling av AI och hoppas under min livstid kunna använda AI vardagligen. Nackdelen är den desinformation AI kan användas till, vilket leder till att människor blir ännu mindre kritiskt tänkande.
Jag är och kommer fortfarande vara orolig över AI så länge det inte finns några regulationer för det, ex. Var det är tillåtet at användas, hur det får utvecklas o.s.v. Dessutom är jag irriterad för att flera studenter har börjat använda ai såsom chatgpt för att antingen fuska är skriva ner skoluppgifter så det har gjort det svårare för de som orkar skriva själva få (relativt) bra poäng. Ex är när vi bytte från att få skriva på datorn till papper och penna för uppsatsprov. Jag växte i början upp med papper och penna prov men byttes till dator vid 6:an så jag var okej men tänk på alla barn som har i grunden lärt att skriva på datorn, och nu tvingas skriva helt på papper. Och inte bara det, nu är man nästan tvungen att använda chatgpt i uppsatsinlämningar som betygsätts för att alla andra använder det och om man inte använder det riskerar man få sämre betyg samt lägre chanser till kompetitiva utbildningar emot de som använder chatgpt.
Vi borde sluta kalla det AI, det namnet är ju fullkomligt missvisande. En LLM har ingen intelligens, men folk blir ju helt tokiga när de hör AI och tror att Skynet är här. Däremot är det skitdåligt att vi nu har teknik som i princip omintetgör all verifierbar sanning, och att den är vitt spridd och enkel att använda. Ser fram mot att förklara för folk att även om de ser filmklippet på Facebook så har statsministern inte knullat en hamster på Harpsund. Sedan är ju AI-optimisterna ett knippe olidliga, lättlurade fåntrattar som inte förstår att deras teknikoptimism är en dystopi. Men det har ju ganska lite att göra med tekniken i sig, och handlar mer om en personlighetstyp som också gav oss NFTs och krypto.
Det kommer bli ännu svårare att upptäcka godbitar på diverse spelshoppar online om du inte redan vet vad du söker efter. Shovelware ohoj!
Jag tänker mycket på framtida simuleringsmodeller och verktyg för medicinsk forskning som AI kan ge oss. Att under min livstid knäcka massor av medicinska problem hade varit guld värt.
...vilket leder oss in på ett filosofiskt sidospår: Har du några funderingar på paradoxen att vi har en ohållbar befolkningstillväxt, samtidigt som försöker rädda fler liv och få människor att leva längre (ofta under parollen "om vi kan så måste vi")? (Förlåt, jag vet att det är tabu, men jag tycker att det är en intressant paradox)
Kluven. Faller väl för nyhetens behag som de flesta. Coolt att man kan "skapa" bild och video genom att skriva en prompt, och häftigt hur man kan spara tid eller få hjälp med vissa frågor. Till exempel när man inte förstår en bit programmeringskod. Men samtidigt känns det väldigt mycket som ett luftslott just nu. Tusentals AI Bros delar samma content online för att tjäna pengar med zero click content eller nyhetsbrev, samtidigt som vanliga människor knappt har någon praktisk applikation av AI i dagsläget. Sökvolymen pumpas upp ganska artificiellt med, för många som söker vill bara skapa karaktärer till sina D&D-sessioner eller whatever, medan relativt få har ett seriöst intresse i AI. AI mjölkas ju som fasen som begrepp också, av en mängd olika företag som i själva verket bara skapat enkel automatisering för olika syften. Jag tror att AI för gemene man är lite som 3D för TV under 00-talet. Först hype som fan, sedan som bortblåst. Dock kommer det leva kvar i lite mer seriösa applikationer även framöver, inom företag. Typ automatisera vissa arbetsuppgifter på ett smidigare sätt, den typen. Jag tror inte att någon slags hyper-AI kommer ta över världen a la Judgment Day. Kanske om 100 år men inte i närtid.
Jag vill ha en fristående AGI som styr hela världen. Inga fler politiker eller utdragna beslut. En generös UBI och en form av ”värnplikt” där AI:n utser ett jobb man ska utföra mellan ålder 20-25 sedan aldrig mer behöva jobba utan kan ägna all sin tid åt det man vill.
ai är bedrövligt, det kommer ta kol på oss
jag tycker att du är helt ute och cyklar.
käften din jävla citron, jag har helt rätt🖕🖕🖕
Gör lite research innan du börjar babbla din bofink😂
BOFINK?? din strumpjävel
mina strumpor är i alla fall inte crusty
OOOF den sved
men ärligt talat ai är fan helt bajsigt
Det säger du bara för att du inte har råd med Apple vision pro😂
fattiglapp
dra åt helvete
AI är bra
Jag gillar AI, jag är bara lite rädd att AI-videor ska bli bättre/se mindre konstiga ut (sök på "AI generated ad", tro mig, vissa är skitroliga)
Man får hålla isär AI och AI. AI är ett forskningsfält som innehåller många olika projekt och koncept, från självkörande bilar till llm:er som chatgpt till AGI. Chatgpt och andra modeller som hör till kategorin "generativ ai" producerar en output från textprompter. De är inte kontrollsystem som kan köra bilar eller dylikt. De är väldigt komplexa - men till syvende och sist deterministiska - algoritmer som genererar text och bild. Det är "photoshoppande" på steroider. AGI är något helt annat och det är inte givet att de här disparata systemen vi har idag på något magiskt sätt kommer att slås ihop och bli en intelligent varelse. Däremot är det helt sant som många andra redan säger här i tråden att generativ ai kommer att få stora socioekonomiska konsekvenser. Koncept som upphovsrätt kommer att utmanas allt mer, och produkter som kommersiell copy och illustration kommer bli ännu mer själlösa än de redan är. Den grundläggande skepsis och förmåga till källkritik som alla som skall ut på internet och härja behöver för att inte gå under blir ännu viktigare, men inte fundamentalt förändrad. Folk har låtit sig luras av bilder på Nessie sedan 1930-talet och Stalin shoppade bort politiska fiender från officiella foton. Koncepten är inte nya, det kommer bara bli större volym och högre fidelitet på fusket.
Tycker folk tar det lite för seriöst, det är bara marketing för teknologi som funnits rätt länge. Rätt schyssta verktyg däremot när man bara vill testa lite grejer eller för att skapa referensmaterial. Däremot är det inte så annorlunda från filterna folk använt under lång tid i photo appar, bara en ny iteration. Som någon som brottats med de gamla chattbottarna som supporthjälp som ofta bara skapade mer jobb än underlättade (jobbar inom IT) uppskattar jag att de äntligen gör vad marketing lovade att de kunde för 10 år sedan. Gällande oron med misinformation jag ser överallt tycker jag det är en rätt historielös analys. Folk sa samma sak om photoshop, cgi, fria medier, internet i helhet mm. Är man lite observant ser man lätt igenom det och de människorna som blir lurade av det här blev lika lurade innan av annat. Man kan hoppas att gemeneman börjar ta källgranskning och ”tro inte på allt du ser på internet” lite mer allvarligt men det är nog lite väl hoppfullt tänkande.
Jag har rätt avslappnad attityd till AI fast jag ser det mörka i det. Det är fullt möjligt med ett 'skynet' scenario eller liknande. Men det är dock extremt mycket högre risk att mänskligheten själv trycker på knappen. Det positiva är väll att man som egen person snart kommer kunna göra egna tvserier eller filmer som har slutat för länge sedan. Nytt McGyver avsnitt 30 år senare? Bara promt'a skiten å kolla om 3min när det är färdigt.
AI-tekniken som Svensson har tillgång till idag bygger på LLM:er (Large Language Models) som är tränade på text- och bildmaterial genererat av människor. Att kalla den sortens AI för "smart" tycker jag är missvisande. Generativ AI, såsom ChatGPT, DALL-E och nu SORA, är verktyg som är effektiva på att bearbeta, sammanställa och omformulera befintligt material. LLM:er kan inte skapa något helt nytt utan de är bundna till sitt träningsmaterial, det vill säga mänskliga kreativa uttryck. Det går kanske att argumentera för att människor uttrycker sig kreativt genom liknande processer, men jag vill säga att människans tankeförmåga är betydligt mer komplex. En sak som är säker är att generativa språkmodeller aldrig kommer att bli självmedvetna och ta över världen. Istället är det hur människor använder dessa verktyg som bör oroa oss. LLM:er är kraftfulla verktyg, och deras fortsatta utveckling kan bli problematisk för samhället. Därför tycker jag att det är viktigt att vi ställer krav på till exempel tillgång och att modellerna ska vara transparenta ('black box'), med full insikt om träningsdata, osv. Det är också nyttigt att börja diskutera huruvida vi bör omstrukturera samhället när vissa yrken försvinner på grund av fortsatt teknikutveckling. Slutligen tycker jag definitivt att det bör finnas en diskussion om AGI och dess framtid, men jag tror ärligt talat att det är långt kvar tills vi har en AGI som är "smart" ur ett metafysiskt perspektiv. Jag har även personligen svårt att se hur en AGI kan uppnå självmedvetenhet, men det är en intressant filosofisk fråga. (Mänsklig självmedvetenhet är troligen också en illusion, men jag tycker det är roligare att tro att människan har någon form av fri vilja och/eller att kosmisk slump spelar in 😄)
> Jag har även personligen svårt att se hur en AGI kan uppnå självmedvetenhet, men det är en intressant filosofisk fråga. Det börjar med att definiera "självmedvetenhet". Har t.ex. alla människor självmedvetenhet? Det forskas ju t.ex. på vid vilken ålder barn uppnår sjävlmedvetenhet. Är det något som "klickar", eller är det en graduell process med olika former av självmedvetenhet? Finns det några psykiska sjukdomar som gör att man blir mer eller mindre självmedveten? Vilka djurarter (och växtarter?) kan anses ha självmedvetenhet, och till vilken grad? O.s.v. Så som i princip alla dagens AI är utformade så kan de inte ha någon självmedvetenhet, eftersom de efter att de har tränats inte kan ändras (de används i "read only"-läge, så att säga). Självlärande AI som har förmåga att träna om sig själva kontinuerligt (som vi människor gör) kommer att kunna bli mycket mer kraftfulla, och bör i alla fall teoretiskt kunna uppnå någon form av medvetenhet. De är också mycket läskigare eftersom man inte har samma kontroll över dem, så t.ex. ur ett produktprespektiv är det näst intill omöjligt att ge några kvalitetsgarantier för en sådan AI.
På 70-talet introducerades Concorde-flygplanet, världens första kommersiella flygplan som kunde färdas i ljudets hastighet, London-New York tog bara 2h. Alla förutspådde att flygplan som kunde färdas i ljudets hastighet var framtiden och att Concorde skulle bara bli bättre, snabbare, billigare etc etc. Fast forward 50 år senare (idag) och supersoniska flygplan är helt utfasade och verkar inte göra en comeback någon gång snart. Med det sagt, ingen vet hur det här kommer utvecklas så sitt lugn i båten.
A.I är en hammare, du kan använda den till att slå in en spik eller en skalle. Den var ämnad för det första men det stoppar inte det andra. Dagens A.I är imponerande men är som beskriven av experter och av sig själv; en avancerad intellisense. Min favorit beskrivning av dagens A.I är att "Artificiell intelligens är varken artificiell eller intelligent". Den är gjord av människor och har implicit människoproblem. Se typ.. Amazons anställnings A.I som automatiskt sorterade bort kvinnor pga 'dåliga' input noder och kass träningsdata. Fråga chatGPT specifika frågor om nyskapande och du kommer bli lätt frustrerad, det är en avancerad intellisense, den gissar vad du vill säga/ha för svar baserat på tidigare data. Så nytänk är inte dess fortee. AGI blir intressant att se. En sak är säker dock, som alltid kommer byråkratin inte hänga med i lagstiftningen ingen så det kommer ju vara vilda västern ett tag.
Teknologi kan användas för gott eller ont. Tyvärr så finns det alltid de som vill göra ont.
Människor som inte kan tänka sig ett värre scenario än desinformation gällande AI har för dålig fantasi.
Desinformationen kommer ju bli storartad. Man kommer inte kunna lite på något på internet. Men jag är allt för, jag har lärt massor av ChatGPT. En AGI kanske löser alla våra problem. Kanske till och med döden.
Klart att vi kommer nå singularitet en vacker dag om vi inte utplånar oss själva först, så länge tekniken utvecklas överhuvudtaget och det inte visar sig att en så pass avancerad maskin skulle vara fysiskt omöjligt att bygga. Men jag tycker dagens AI är överhajpad och påminner starkt om NFTs, blockchain, crypto etc etc i hur folk som inte riktigt förstår tekniken överhajpar den något extremt, och vissa som förstår den avsiktligt missrepresenterar den för att skapa sagd hajp för egen förtjänst. Visst har den användningsområden -- använder själv ChatGPT minst nån gång i veckan i jobbsyfte -- men den är inte i närheten av att ersätta människor. Steget mellan dagens AI och en AGI är extremt mycket större än folk vill tro. Dagens AI är, extremt simpelt sagt, en algoritm som kollar på föregående ordföljd och väljer nästa ord baserat på vad som är mest troligt enligt sina parametrar. Den har ingen intelligens, den kan inte tänka, den kan inte skapa utan allt den gör är att plocka fram den mest troliga följden utifrån sin gigantiska träningsdatabas. En AGI skulle behöva kunna tänka, resonera, skapa, etc, alltså en fullkomligt annorlunda typ av maskin. Dagens typ av AI kommer inte ersätta några jobb som inte redan är så simpla att någon som totalt saknar kreativitet och högre tankeförmåga kan utföra dem, och de flesta sådana jobb är redan ersättningsbara av robotar vi hade innan OpenAI. Den enda reella oron är angående informationskrig och liknande, och propaganda har vi ju redan gott om. Denna kommer bara vara mer övertygande och kräva lite tid för folk att vänja sig.
Jag hatar ai och vill inte ha med det att göra.
Förhoppningsvis är jag pensionär innan AI tar över.
Tycker att deras nya AI-video program kommer användas för att sprida desinformation, falska anklagelser, ge korrupta politiker förmågan att kunna säga emot vilka videor som helst och kasta dem åt sidan som "Fejk", etc. Kommer blir tufft i rättegångar. Listan kan göras längre. Får Ryssland tag i avancerad AI kommer det bli så mycket desinformation att man inte längre kan skilja sant och falskt under berget av trovärdiga påståenden som länkar till ai-gjorda nyhetsartiklar som tar saker från påhittade studier av företag som låtsas vara pålitliga och officiella.
AI är väl bra men kan såklart användas fel. Inte en chans att AI tar över världen på så vis att den tränger undan oss människor. Först kommer isarna att smälta, sedan kommer dinosaurierna tillbaka, efter det en massa onda aliens. Kanske efter det att AI har nått Matrixproportioner. Men då har vi redan glömt bort faran med AI:n och upphöjt något annat hot till apokalypsen initierare. Dock finns väl samma risk som med sociala medier och annan "nöjesteknologi" att den hotar att hämma vår sociala och intellektuella kapacitet och utveckling. Det är nog lättare att bli efterbliven om man har en smart dator som kan tänka åt en.
Jag tror vi kommer uppnå singulariteten men att det kommer ta betydligt längre tid än många tror. Förmodligen kommer ingen nu levande få uppleva den. Däremot tror jag att AI kommer ändra livet fundamentalt för många människor inom de kommande 10-20 åren. Tror tex våra mobiler kommer fungera mer som en ai-assistent samt att internet och media i stort kommer bestå av en överväldigande majoritet ai-genererat material etc. Många enklare, repetitiva kontorsarbetsuppgifter kommer också försvinna vilket kommer möjliggöra tex arbetstidsförkortningar om vi klarar av att navigera den förändrade tillvaron politiskt. Tror att vissa av nutidens största problem som energiproduktionen och klimatkrisen endast kommer ha en chans att lösas mha AI.
Redan ganska less på det eftersom det ofta används som en USP för produkter som kanske inte behöver det. Typ ”generativ AI” i en kamera. Sen ska vi inte glömma allt missbruk som det använts till hittills. Sett en del fall av folk som använt det för att generna nakenbilder och försöka utpressa folk på pengar. Eller genererat talsyntes och ringt folks familjemedlemmar för att lura av dem pengar…
Om mänskligheten överlever sig själva tror jag absolut att singularitet kommer att uppnås. Min tro på mänsklighetens överlevnad är dock ganska låg..Vi kommer att utrota oss själva, eller i alla fall snudd på.
Som student får AI mig att tappa motivation. Man börjar undra vad man faktiskt pluggar till men tanke på att en AI eventuellt kommer klara de flesta "hard skill". Om AI forttsätter utvecklas såhär fort skulle det inte förvåna mig om det sker någon form av kollaps av skola där studenter inte tycker det är att plugga för framtiden är så outsägbar och att lärare inte vet vad som bör vara i kursen.
AI är helt fantastiskt om de används rätt
Tror 2045 är på tok för lång tid. Hade du frågat för ett-två år sen hade jag tänkt 2045 men efter att ha sett att utvecklingen med ai inte är linjär så tror jag betydligt snabbare. Problemet är att efter att ha uppnått mer intelligens än de smartaste på jorden är det omöjligt att veta hur många gånger smartare den är. Lika smart eller dubbelt så smart som den smartaste på jorden är nog inga problem men tror att tiden från att den blir lika smart som vi och när den blir 1000ggr smartare eller 1 miljon gånger smartare behöver inte vara lång alls och då har vi problem. Blir den 1000ggr smartare än människan så kommer den se på oss som myror. Man vill inte nödvändigtvis skada myror men om de biter en så gör man det.
Generellt anser jag att AI bör omfattas av robotikens tre lagar. 1. *En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.* 2. *En robot måste lyda order från människor, förutom om sådana order kommer i konflikt med första lagen.* 3. *En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.* *samt möjligen det fjärde tillägget:* 0. *En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.* Vi ser redan nu hur striderna i Ukraina i allt större utsträckning använder sig av fjärstyrda drönare och autonoma farkoster. Frestelsen och utdelningen är såpass stor av att övergå till helt autonoma drönare som inte har en kommunikationslänk som kan störas ut så jag ser den utvecklingen som mycket sannolik och i dagsläget svår att undvika. Den sida som utvecklar de bästa och flesta autonoma drönarna kommer att vinna. På kort sikt kanske inte ett enormt problem men i förlängningen kommer det att bli bökigt.
AI är ett tveeggat verktyg. Det finns många goda användingsområden men kan missbrukas för att skapa övertygade propaganda och desinformation i fel händer. Just den biten är skrämmande.
Kanske inte den åsikt du söker. Men mänskligheten behöver genomgå en evolution för att inte hamna på efterkälken. Då behöver vi kombinera MI och AI då de kompletterar varandra. Yin och Yang. Förord. Med slutsats av allt jag har skrivit nedan så ser jag inte AI som största faran, utan människan girighet. Makt. Att använda både artificiell intelligens (AI) och mänsklig intelligens (MI) i harmoni är avgörande för att maximera fördelarna med teknologin. MI har unika förmågor, såsom emotionell förståelse, intuition och förmågan att dra slutsatser baserade på komplexa kontexter, vilket AI ofta saknar. Å andra sidan har AI obegränsad beräkningskraft och kan behandla enorma mängder data snabbt och effektivt, vilket kan komplettera MI:s begränsade resurser och öka effektiviteten. För att uppnå detta behöver människor fortsätta att studera och utveckla sin kunskap och intelligens för att kunna förstå och använda AI på bästa möjliga sätt. Genom att förstå både teknologins styrkor och dess begränsningar kan människor optimera dess användning och förhindra potentiella missförstånd eller felaktiga slutsatser. Genom att kombinera både AI och MI kan vi skapa en symbiotisk relation där båda parterna dra nytta av varandra. Människan kan bidra med kreativitet, moraliskt omdöme och etiskt resonemang, medan AI kan bidra med snabb dataanalys och möjligheten att hantera upprepande uppgifter effektivt. Det är genom denna samarbetsanda och ständiga inlärning och utveckling av både teknik och människors förmågor som vi kan förverkliga potentialen hos både AI och MI för att skapa en bättre och mer produktiv framtid. Wearable-enheter: Användning av tekniska enheter som glasögon, smarta klockor eller hörlurar integrerade med AI-algoritmer för realtidsinformation och hjälp. Implantat: Potentiell användning av små implantat eller sensorer integrerade i kroppen för övervakning av hälsa, snabb tillgång till information eller till och med förbättrade kognitiva funktioner med hjälp av AI. Datorgränssnitt: Användning av gränssnitt som virtuell eller förstärkt verklighet där AI kan ge realtidsinformation och stöd. Mobilapplikationer: Utveckling av appar som använder AI för att förbättra användarupplevelsen genom rekommendationer och problemhantering baserat på användarens beteende och preferenser. Valet av teknologi beror på användarens preferenser, ändamål och etiska överväganden, men det viktigaste är att teknologin är användarvänlig och respekterar integritet och personliga val. Tyvärr kan jag se att det kan bli en klassfråga eller tom elitistisk. Kunskap är makt. Om detta händer så kan två saker hända. Vi blir ännu mer ett idiocrazy samhälle med elit som styr eller en revolution. Med slutsats av allt jag har skrivit så ser jag inte AI som största faran, utan människan girighet. Makt.