Nu kommer generativ ai till Telia Ace-plattformen

Enligt Telia kommer det dessutom bli enklare att introducera nyanställda med hjälp av den nya plattformen, samtidigt som man inte kommer att behöva lägga tid och energi på att översätta mellan olika språk.

Telekom idag har ställt några frågor till Fredrik Lemming, som är helhetsansvarig för Telias kontaktcenterplattform Ace (head of product unit).

När blir funktionen tillgänglig för era kunder?

– Ai är ett fokusområde för Telia Ace där vi innoverar kontinuerligt. Det är en del av vår strategi för kundmötet sedan början av 2000-talet, då vi som globala ai-pionjärer levererade de första konversationella ai-tjänsterna. Just Telia ACE Chatbot powered by GPT är vår senaste funktion som har släppts. Den är tillgänglig som en del av Telia Ace-sviten eller som en helt fristående produkt.

Kommer det att tillkomma en kostnad om man väljer att använda sig av den?

– Vår nya chattbot använder sig av generativ ai och språkmodeller (llm) från Microsoft/OpenAI. Den kommersiella modellen bygger på transaktioner i ett upplägg av typen ”pay per use”, det vill säga där varje fråga har en kostnad. Det fina med vår lösning är att vi kombinerar flera olika versioner av språkmodellen för att dra nytta av och optimera respektive modells specifika egenskaper och styrkor. Som exempel kan en enklare modell vara bättre på att ge korta och koncisa svar, medan en annan kanske har mer avancerad kapacitet och kan därför ge svar som är mer detaljerade och informativa.

– Genom att kombinera modellerna kan den enklare och mer kostnadseffektiva lägga grunden, och den mer avancerade delen skapar bäst svar. På så sätt kan vi förbättra kvaliteten på svaren och samtidigt kostnadseffektivisera, alltså hålla ned transaktionskostnaden.

Hur integreras chattboten med er befintliga plattform?

– Den generativa chattbotten är en utveckling av vår existerande, vilket gör att den även fortsättningsvis sitter ihop sömlöst med övriga Ace-sviten. Den fortsätter alltså att erbjuda förmågor som överlämning till agent vid behov. Med vår nya (egenutvecklade) gen ai-plattform kommer vi att successivt rulla ut fler tjänster framöver, exempelvis olika former av agent assist-funktioner.

En traditionell chattbot har man fått lägga tid på att träna upp – hur skiljer sig Ace Chatbot åt på den punkten?

– Här ser vi det stora skiftet mellan traditionella ai-modeller jämfört med de generativa. Mindre, eller ingen, tid behöver läggas på träning. Däremot behöver tid investeras på att kvalitetssäkra innehåll och datakällor. Några av de kända utmaningarna som finns med generativa modeller är att de kan svara felaktigt – vilket vi hela tiden ser till att förbättra. Det genom ett flertal funktioner som ska säkerställa kvaliteten i svaren.

Hur säkerställer ni att chattboten ger sanningsenliga svar?

– Vi har en rad funktioner som säkerställer kvaliteten i svaren genom att sätta upp ramar för vilka innehållskällor som får användas samt vilka typer av konversationer som boten får engagera sig i, utanför det som den är satt att svara på. En egenskap som vi tror kommer göra stor nytta för verksamheter är att man i vår uppföljningsmodul kan gå in och titta på vilka källor som har använts i varje dialog. På så sätt kan vi snabbt hitta möjligheter att förbättra innehållet. En funktion som vi är mycket stolta över.

Vilka träningsdata använder sig chattboten av?

– Den språkmodell som vi använder oss av tränas och utvecklas av Microsoft/OpenAI. Här gör vi ingen egen träning. Det som vi gör på ett smart sätt är att förse modellen med rätt innehåll sammanställt från olika datakällor, så kallad RAG (Retrieval-Augmented Generation). Genom att göra det på ett sofistikerat sätt minskar vi kostnaden för att nyttja den generativa ai-modellen.

Är chattboten egenutvecklad i grunden?

– Det är vår egen chattbot som har uppgraderats med generativa ai-förmågor via språkmodeller från Microsoft/OpenAI. Vi jobbar även med Googles generativa ai-modeller sedan länge. Dessa finns tillgängliga för kunder som använder sig av vår produkt ACE Virtual Agent. Men just det nya chattbotkonceptet som vi nu släpper är baserat på språkmodeller från Microsoft/OpenAI.