Mänskliga ai-röster gör oss misstänksamma

I dag är det vanligt förekommande att kontaktcenter använder sig av olika slags rösttjänster för att hantera kundärenden och de utvecklas snabbt i riktning mot att låta mer människoliknande.

Men när rösttjänsterna blir så realistiska att det är svårt att avgöra om det är en människa eller maskin som deltar i telefonsamtalet kan det, enligt forskarna, leda till att förtroendet för de personer vi pratar med påverkas på ett negativt sätt.

När man studerade ett antal inspelade telefonsamtal upptäckte forskarna att det ibland kan ta väldigt lång tid innan man förstår att det är ett tekniskt system som deltar i samtalet. Ett resultat av att ai-rösterna blir alltmer realistiska är att vi blir misstänksamma, vilket kan sabotera kommunikationen och göra den mindre effektiv.

– En följd av att inte kunna vara helt säker på avsikten och identiteten hos den man interagerar med, kan vara att man blir överdrivet misstänksam även när det inte finns fog för det, säger Jonas Ivarsson, professor i informatik.

De båda forskarna ställer sig därför frågande till att röstbotar ska förses med en röst som låter alltför mänsklig.

− När en ai har en röst, börjar vi att tillskriva den egenskaper. Vi drar slutsatser om kön, ålder, socioekonomisk bakgrund och liknande. Det blir då svårare för oss att se tecknen som avslöjar att det är en dator vi interagerar med. Det går att göra ai som har en väl fungerade och vältalig röst som ändå är uppenbart syntetisk, och det skulle öka transparensen, säger Jonas Ivarsson.