Salesforce-toppen: ”Alla vill lyckas med det som Klarna har gjort men…”

 Telekom idag fick en pratstund med Ed Thompson när han var på plats i Stockholm för att vara keynote-talare på Salesforce World Tour.

 Vad förvånar dig mest med ai-utvecklingen just nu?

 – Jag måste säga att det är saker som överraskar mig hela tiden. Den senaste överraskningen för mig är att det finns ett stort antal företag som spränger hela sin ai-budget över en helg bara för att det inte vet hur mycket allting kostar, säger han.

 Hur då? 

 – Om du slår in någonting i GPT-3 eller GPT-4 så tar det kanske fem försök till att få svaret du vill ha. Det innebär att du blir debiterad fem gånger. Det är kanske inget problem i en liten organisation, men i en stor organisation där du plötsligt rullat ut den här tekniken till tusentals så inser du snabbt att du kommer få betala en förmögenhet bara för LLM:erna.

 Ed Thompson tycker sig se att många företag under de senaste månaderna gått från en något naiv ai-optimism till att bli mer försiktiga i sina ai-satsningar.

 – Alla pratar om Klarna och alla vill lyckas med det som Klarna har gjort men det är extremt sällsynt. Jag har arbetat med en fallstudie där vi hittade nio exempel på misslyckade chattbotar med generativ ai byggda av interna teams ute på företagen.

 – För ett år sedan var det nog helt rätt att satsa på egenutvecklade chattbotar eftersom det inte fanns några riktigt bra alternativ på marknaden. Men om du inte har utvecklat en bra egen chattbot redan tror jag det är fel att satsa på just det nu.

 Varför då?

 –  Jag tror inte det är rätt att lägga sina pengar och ett team på att bygga en chattbot när du istället kan satsa på att bygga något som är mycket mer differentierat och värdeskapande för just din verksamhet.

 – Alla företag kommer att använda ai i sina chattbotar. Att bygga en egen som håller samma höga nivå som de populära alternativen på marknaden är extremt svårt. Det är ingen slump att Klarna lyckats bra. De har en stor organisation med bra egna utvecklare. Ett mindre bolag har av naturliga skäl inte samma resurser.

 Många bolag står inför likartade utmaningar med sina ai-projekt. Den största är enligt Salesforce-toppen brist på resurser.

 – Och det handlar både om pengar och människor. Vi har gjort flera undersökningar den sista tiden som visat att företagen allokerar mer i sina budgetar för att satsa på ai, men när du sedan frågar ”Hur mycket mer?” blir svaret ungefär en till två procent större it-budget.

 Och vad innebär det?

 – Att 70 procent av företagen säger att ai-satsningarna ska ske inom den befintliga it-budgeten. Det innebär att it-cheferna måste sluta göra någonting annat för att kunna satsa på ai och det är tufft.

 Flera undersökningar på att uppemot 95 procent av storbolagen håller på med ai-projekt i någon form.

 – Många har nog köpt exempelvis 100 Microsoft Copilot-licenser, medan några andra jobbar med oss, och några bygger egna grejer. Så det är en stor mix men alla gör någonting. 

 Bland små och medelstora bolag ser det lite annorlunda ut.

 – Jag såg nyligen en studie från Boston Consulting Group i Danmark som visade att 52 procent av SME-bolagen är igång med någon form av ai-projekt och jag skulle gissa att siffran för Sverige är ganska lik.

 Vad gör bolagen?

 – 95 procent av de små och medelstora bolagen köper grejer av andra. Men den kanske mest intressanta siffran är att bara fem procent av ai-satsningarna är live, resten är fortfarande bara piloter.

 – En sak vi inte ser i Europa än, men som vi ser i USA, genom siffror från rekryteringsbolag är att det är betydligt större personalomsättning på CIO:er och CTO:er nu än tidigare.

 Vad beror det på?

 – Bolagsstyrelserna kräver resultat av vd:n. De vill höra en story om vilka framsteg bolagen gör på ai-området. Om vd:n inte har en tillräckligt bra story, ser det ut som att lösningen för en del är att byta CIO eller CTO för att få en bättre ai-story.

 En annan utveckling är att fler och fler stora bolag utser en chef för artificiell intelligens.

 – Elva procent av storbolagen har en ai-chef. Motsvarande siffra för ett år sedan var fyra procent. Min bild är att det i stor grad är ommärkta personer. Vi ser att ungefär en fjärdedel av ai-budgeterna går till generativ ai. Resten är mer klassisk maskininlärning, IoT, förutsägelser och sådana saker.

 Salesforce har lanserat någonting bolaget kallar för Einstein Trust Layer, som är bolagets lösning för säkrare samt mer etisk och transparent användning av generativ ai.

 – Det är i grund och botten ett lager av teknologier som vi har fått att hänga ihop för att företag ska kunna använda ai externt utan att riskera bias men också för att skydda kunddata.

 De flesta känner nog till byod, det vill säga bring your own device. Nu satsar Salesforce på bring your own LLM i sin ai-plattform Einstein.

 – Det handlar om att ge kunderna ett val. De kan antingen använda vår stora språkmodell som är optimerad för försäljning, service och marknadsföring eller någon annan av de populära modellerna ute på marknaden.

 – Många av våra kunder prioriterar exempelvis hållbarhet väldigt mycket, och då kan det vara svårt att bara använda ChatGPT som drar mycket energi.

 Lösningen på dilemmat blir enligt Ed Thomson att använda olika modeller till olika delar av processerna. 

 – För de enkla frågorna kan man ha mindre väldigt beräkningseffektiva språkmodeller och sedan om det kommer en mer komplicerad fråga går den till ChatGPT eller någon av de andra mer kraftfulla modellerna.

 – Det blir nästan som en hierarki av modeller där den ena kallar på den andra.

 Det är en del av Salesforce Copilot Studio, som består av Prompt Builder,  Model Builder men kanske framförallt Action Builder.

 – Den är superkraftig. Du kan gå in i princip vilket objekt som helst i en Salesforce-modell och skapa väldigt avancerade flöden.

 Ed Thompson demonstrerar hur en kundtjänstavdelning har nytta av tekniken.

 – Säg att agenten får en mailfråga om var kundens beställning är. Då har du redan byggt en mall som gör att agenten ser kundens namn och andra saker som vi vet om dem men du har också byggt en mall som ser till att bolaget som står för leveransen ger orderstatusen i realtid och lägger in i det i mail-svaret och allt sker i realtid.

 – Du kan bygga en massa olika av den här sortens arbetsflöden och lägga i en mall så att kundtjänstagenten direkt kan säga din beställning är här, ditt ordernummer är det här och här är all annan relevant data.

 Innebär det att agenterna inte behövs längre?

 – Nej, det varierar väldigt mycket hur långt man har kommit med det här arbetet, men det är få som inte behöver ha en människa med i slingan. Allt beror dels på hur bra kunskapskällor man har att basera de automatiserade svaren på, men också vad för typ av frågor man får.