Nextcloud-vd:n om ai-utvecklingen: ”Du har ingen aning om vad svaren baseras på”

– Jag kan inte uttala mig om andra branscher, men när det kommer till produktivitetsmjukvara är ai absolut inte bara buzz, säger Nextcloud:s grundare och vd Frank Karlitscheck.

Nextcloud erbjuder samarbetslösningar baserade på öppen källkod som går att köra lokalt.

– Våra kunder förväntar sig ai-funktionalitet i våra tjänster. För att generera bilder, sammanfatta mejl, översätta texter och så vidare. Ai-utvecklingen i open source-världen går extremt fort just nu.

Nextcloud jobbar också med olika former av ai för att säkerställa användarnas välbefinnande.

– I takt med att allt fler människor jobbar hemma har gränserna mellan arbete och fritid för många suddats ut. Det leder till en ökad stress och det vill vi motverka.

– Det handlar dels om att se till en användare inte får för många notiser från chattkanaler, mejltrådar och så vidare men också analyser som säger att ett möte är för långt eller att någon pratar för mycket.

Det pågår en generativ ai-kapplöpning mellan de proprietära stora språkmodellerna från Open Ai, Microsoft, Google med flera och språkmodellerna som bygger på öppen källkod.

– Jag är övertygad om att open source-modellerna kommer att prestera bättre än konkurrentera på sikt. Redan nu är Mistral:s öppna modeller enligt vissa jämförelser som jag sett bättre än GPT4 och det kommer bara bli bättre framåt.

”Det tycker jag är väldigt problematiskt”

Meta, moderbolaget bakom Facebook och Instagram har också släppt kraftfulla open source-modeller.

– Men Lama som Meta:s modeller heter är bara halvt open source. De är inte transparenta med vilken data som modellerna har tränats på.

Just bristen på transparens kring träningsdatan är ett av de största problemen med ai-modellerna från ”big tech” enligt Nextcloud-vd:n.

– Du kan be de här ai-tjänsterna om hjälp med att svara på ett mejl eller att skapa en presentation om ett ämne, men du har ingen aning om vad för information svaren baseras på. Det tycker jag är väldigt problematiskt.

Modeller där även träningsdatan är öppen minskar risken för bias enligt Karlitscheck.

– Det enda sättet där du vara helt säker på att dina ai-verktyg inte uppvisar farliga bias och så vidare är att veta exakt vad för data modellerna har tränats på.

– Jag ser egentligen bara ett skäl till att de stora aktörerna inte vill vara transparenta med modellernas träningsdata och det är för att de har använt copyright-skyddat material.

”Det kan de aldrig få från Microsoft”

Framåt tror vd:n att mycket av ai-utvecklingen kommer att handla om mindre modeller som är framtagna för att klara av specifika usecase

.– De stora ai-modellerna kan inte lära sig superspecialliserad domänkunskap men det kan de små modellerna. Vi samarbetar med en region i Tyskland i ett sånt här projekt nu, säger han och fortsätter:

– De ger oss helt anonymiserad träningsdata som vi använder för att bygga en liten modell som de ska använda för att hjälpa sina invånare skriva in sina barn i förskolan på ett mycket mer effektivt sätt exempelvis.

Något som varit nästintill lika hett som ai-utvecklingen är den så kallade ”molnfrågan”. Det har varit många turer de senaste åren med de dubbla Schrems-domarna och förra sommarens adekvansbeslut. Offentliga organisationer och företag gör olika bedömningar av det rättsliga läget.

Många uppfattar läget som oklart. Det gör däremot inte Frank Karlitscheck.

– EU-domstolen har konstaterat att gdpr och cloud act inte är kompatibla. För mig är det glasklart.

Nextcloud har många kunder i offentlig sektor.

– Den absolut största drivkraften till att våra kunder väljer oss och inte någon big tech-leverantör är att de vill ha full kontroll över sin data och de kan de aldrig få från Microsoft.

Nextcloud-vd:n tycker att datatillsynsmyndigheterna runt om i Europa behöver göra mer för att se till att molnjättarna följer EU:s lagstiftning. Han är särskilt kritisk mot ett specifikt medlemsland.

– Det är ingen konspirationsteori att den irländska datatillsynsmyndigheten ser mellan fingrarna kring att de här bolagen bryter mot gdpr. Det är en selling point för Irland när det kommer till att locka till sig de här bolagen och få dem att lägga sina huvudkontor i Dublin.

Frank Karlitscheck tycker att EU behöver göra mer för att säkerställa bättre och mer rättvisa spelregler där it-bolagen kan konkurrera på mer jämlika villkor.

– Jag hade verkligen välkomnat att vi fick en fri och öppen marknad för det har vi inte idag. En stor del av Microsofts affärsmodell handlar om att bryta mot antitrust-regler.

På vilket sätt?

– De håller väldigt mycket på med orättvis bundling. Om du köper en Windows-dator är Teams redan förinstallerat. Om du använder Excel eller Word på din Ipad skapas ditt Microsoft-konto direkt.

Han tycker sig dock ana ljuset i tunneln.

– Jag har väldigt mycket dialoger med politiker i EU-parlamentet och i kommissionen. Det verkar finnas en relativt stor samsyn kring att det behöver bli fler tillsynsärenden och större konsekvenser för att bryta mot lagen.

– Jag är helt övertygad om att big tech på sikt kommer behöva anpassa sig till europeiska lagar.

Frank Karlitscheck har hållit på med open source i drygt 25 år.

– De första åren var det som en hobby vid sidan av mitt vanliga jobb. Då hade jag ingen tanke på att det skulle kunna gå att jobba heltid med det här. Nu är jag vd för ett bolag med 120 anställda som klarar av att leverera en tjänst som bygger helt på open source och är jämförbar med lösningarna från big tech.