Journalisten, föreläsaren och den digitala rådgivaren Emanuel Karlsten har växt upp på Gotland.
Tekniken utvecklas snabbt och med hjälp av artificiell intelligens, AI, går det att kopiera personers röster, telefonnummer och skapa bilder på personer som inte finns. Något som lätt kan utnyttjas av bedragare.
– Det som jag ser som läskigast eller svårast handlar inte så mycket om det tekniska utan mer om det sociala. Man ringer en person och har ett samtal, sen när du lägger på har du spelat in en minut av en persons röst, säger journalisten, föreläsaren och den digitala rådgivaren Emanuel Karlsten.
Med hjälp av olika appar går det sedan att klona rösterna och tekniken är relativt enkel och billig, vissa program har även gratisversioner.
– Sen kan du använda den och spela upp det för en närstående och exempelvis be om pengar, det är ett bedrägeri som redan finns, säger Emanuel Karlsten.
Paul Pintér, Rådgivningsexpert på Stöldskyddsföreningen inom digitala brott.
Artificiell intelligens och deepfakes
Nya appar dyker hela tiden upp på marknaden.
– Det är klart att bedragare kommer att utnyttja den nya tekniken, säger Paul Pintér, rådgivare mot digitala brott vid Stöldskyddsföreningen.
Exempelvis när det handlar om romansbedrägerier, där någon låtsas vara kär i en annan person med syfte att lura till sig pengar, kan den nya tekniken användas menar han.
– Vid misstanke om romansbedrägerier ska man kolla upp personen, men börjar bedragaren experimentera och göra AI-genererade bilder, då förekommer bilden bara på ett ställe, då är det svårt att kolla upp den personen, säger Paul Pintér.
Om man får ett sms där någon påstår sig vara ens barnbarn och skriver ”Hej jag har tappat telefonen, det här är mitt nya nummer”, så spara inte numret i telefonen.
Johan Halling
Polisens bedrägerienhet
Att bedragare ringer och utger sig för att vara exempelvis ett barnbarn som ber om pengar har varit ett problem i Sverige i flera år. Enligt polisen finns det misstankar om att det har börjat dyka upp både deepfakes och AI-samtal i Sverige.
Deepfake är förfalskade videor, bilder eller ljud som genom maskininlärning kommit att bli så genomarbetade att de framstår som äkta.
– Det finns en stor oro i samhället för AI och vi har inte riktigt sett vad det kan innebära, säger Johan Halling på polisens bedrägerienhet.
REDAKTIONEN GÖR OM REPORTERNS RÖST:
Spoofing och kartläggning
Ett annat sätt att luras är så kallad spoofing där bedragare försöker lura till sig känslig information genom att utge sig för att vara någon annan, som exempelvis en privatperson eller ett företag, detta genom att ringa från deras nummer.
– Det är klart att det blir oerhört svårt i framtiden, att man kan spoofa ett telefonnummer så att det kan se ut som att det är från barnbarnets telefonnummer och sedan är det också barnbarnets röst som säger att den behöver pengar, säger Johan Halling.
Polisen och Stöldskyddsföreningen och Emanuel Karlsten ger dock samma råd när det gäller att skydda sig mot den typen av bedrägerier.
Genom att använda kodord kan man vara säker på om det verkligen är rätt person som ringer.
– Men då får det inte vara färgen på ens bil för bedragaren kan ha kartlagt dig. Det måste var något specifikt, men jag skulle säga att det bästa sättet är att lägga på och ringa tillbaka på det numret personen har. Då kan du få veta om det är ett bedrägeri eller inte, säger Johan Halling.
Enligt polisen kommer vi sannolikt att få se många olika varianter av bedrägerier där bedragare även använder sig av mejl, sms och videosamtal.
– Det går egentligen bara att spekulera. AI öppnar oändliga möjligheter för bedragare, polis och alla andra i samhället, säger Johan Halling.
Hej jag har tappat telefonen, det här är mitt nya nummer.
Kortbedrägerier och falska hemsidor
Den senaste tiden har antalet kortbedrägerier ökat kraftigt.
– Kortbedrägerier ökar väldigt mycket för tillfället från att inte ha gjort det tidigare. Där har vi alla sms om att man inte har betalat frakt för någon vara. Men det är inte de 18 kronorna eller vad frakten kan kosta, som de vill komma över. De vill att man ska trycka in och betala med kortet, för då får de kortuppgifterna, säger Johan Halling.
Detsamma gäller länkar som skickas via sms och mejl.
– Där skulle jag också flagga för falska hemsidor, där de säljer varor. Som ett klädmärke där priserna brukar vara alldeles för bra för att vara sanna. Som en enkel lösning kan man gå in i sin bank och ta bort att man godkänner köp med kort på internet och bara aktivera det precis när du köper.
Johan Halling tipsar även om att hålla koll på banktransaktioner för konstiga inköp.
Vid samtliga bedrägerier finns det tre saker att göra menar han:
– Kontakta banken, polisanmäl och ta hjälp av personer du litar på.
Det fysiska mötet blir viktigare
Källkritik och reglering
Enligt Emanuel Karlström innebär den nya tekniken att vi måste bli mer källkritiska.
– Vi behöver bli alltmer sunt skeptiska och det fysiska mötet blir viktigare, säger han.
Att flera stora bolag som Google och Microsoft varnar för den nya tekniken som de själva utvecklar ska enligt Emanuel Karlsten ses lite som ett spel för gallerierna.
– Det är ett sätt att förklara hur mycket i framkant de är. Säg att om Microsoft vill ta ansvar, då skulle det innebära ett bromsande som skulle göra att andra som exempelvis Google tar över hela marknaden, säger han.
Han menar att det istället måste till ett gemensamt stopp.
– Det krävs reglering och det vi sett nu är att de initiativ som tagits av enskilda politiker har varit unika. Samtidigt finns det ett stort ansvar hos nätjättar och banker som erbjuder tjänster som kan utnyttjas, säger han.
Polisens tips
Så gör du för att undvika bedrägerier:
Ta det lugnt, ta en paus och tänk efter.
Avsluta samtalet och lägg på luren om det verkar som att något inte stämmer.
Logga aldrig in med Bank-ID för att föra över pengar på andras uppmaning.
Om du får ett sms från närstående att de bytt telefonnummer och sänder ett nytt nummer, kan du kontrollera det genom att ringa upp på det gamla numret.
Om du kontaktas av någon du känner som behöver pengar kan du kontrollera genom att ringa upp deras telefonnummer som du själv har sparat.
Ha ett personligt och specifikt kodord bestämt på förhand för närstående, för att verifiera identiteten.
Om pengar förs över ska du direkt kontakta din bank.
Ta hjälp av anhöriga, eller bekanta som du litar på, för stöd och hjälp.
Anmäl alltid till polisen om du är utsatt för bedrägeri, även om du inte har agerat på bedragarnas instruktioner.
LÄS ÄVEN DEL 1 om telefonbedrägerier och DEL 2 om romansbedrägerier i den här artikelserien
Logga aldrig in med Bank-ID för att föra över pengar på andras uppmaning
Polisen