Designing with AI-tools through the whole design process – shared school project with Sara – 2024
This project will be presented in Swedish
Med Säker Stämma får du ett AI-filter som varnar för AI-genererade röstbedrägerier i realtid.
Syfte och projekt
Uppgiften var att hitta en idé till ett projekt som kan göra nytta, engagerar, och som går att utveckla genom hela designprocessen.
Vi valde att jobba vidare på det jobb jag påbörjat på Hyper Islands Business Development om bedrägerier, men med ett annat fokus: AI-genererade röstbedrägerier, vilka ännu är i sin linda i Sverige.
Säker Stämma skyddar mobilanvändare från AI-genererade röstbedrägerier. Lösningen är intuitiv, trygg och sömlöst integrerad i mobilabonnemanget – även för användare med låg digital vana.
Scenario utan Säker Stämma
Anna, en 67-årig pensionär, får ett samtal från någon som låter precis som hennes son Johan. Han säger att han är i en akut situation och behöver pengar omedelbart till en bilreparation.
Orolig gör Anna som hon blir ombedd och för över en stor summa.
Det hon inte vet är att rösten är AI-genererad, klonad från Johans inlägg på sociala medier. Hon har blivit lurad – av en röst som låter som någon hon litar på.
Scenario där Säker Stämma
gör nytta!
Samma samtal. Samma stressade röst. Men den här gången är Säker Stämma aktiverat via Annas mobilabonnemang. I bakgrunden analyserar AI-tekniken avvikelser i röstens ton, mönster och bakgrundsmiljö – och flaggar för avvikelser.
En tydlig varning visas: “Detta samtal kan vara bedrägligt.”
Det ger Anna en chans att dubbelkolla innan hon agerar. Säker Stämmas varningssystem har Anna skräddarsytt efter sina önskemål och varnas via ljudsignaler, visuellt, en tydlig röst eller vibrationer. Säker Stämma gör det enkelt att snabbt avsluta samtalet och i realtid förhindra att bedrägeri begås.
