Morten Jansrud

Hva om ChatGPT ikke bare svarte kundene dine via en chatbot, men faktisk snakket med dem på telefonen? Hva om AI kunne tolke pauser, tonefall og avbrytelser, og svare som en rådgiver?

Vi står ved starten av en ny æra for kunstig intelligens. Den neste bølgen handler ikke bare om større modeller eller flere parametere, men om tempo og tilstedeværelse. Sanntids- eller 

-AI gjør det mulig å føre samtaler med maskiner som flyter like naturlig som dialogen mellom to mennesker, samtidig som den utfører oppgaver. 

Du er ikke alene hvis du er skeptisk etter å ha brukt stemmeassistenter som Siri eller Alexa. I mange år har de vært mer frustrerende enn hjelpsomme, og for mange har de blitt et bevis på at stemmestyring ikke fungerer. Men det som skjer nå, er noe helt annet. Den nyeste generasjonen AI-modeller representerer et teknologisk gjennombrudd som fundamentalt endrer hvordan vi utvikler og bruker kunstig intelligens.

Selv om jeg i tittelen hevder at vi kan «glemme chatbots», er det egentlig bare tull. Det gjøres enorme fremskritt på skriftlige språk-modeller, så poenget er ikke å avskrive skriftlige grensesnitt. De vil fortsatt være viktige. Det avgjørende er å gi brukerne friheten til å velge, noen foretrekker å skrive, andre å snakke. Sanntids-AI handler derfor ikke om å erstatte det ene med det andre, men å utvide opplevelsen. Ikke tvinge mennesker inn i et nytt format, men la AI møte dem der det føles mest naturlig, enten det er via tekst eller tale.

I denne artikkelen ser vi på hvordan de nye modellene fungerer, hvorfor det er så stort, og hvordan du selv kan bygge en fungerende implementasjon med OpenAI GPT-Realtime, WebRTC og Azure Functions.

For å skjønne hvorfor sanntids-AI føles så annerledes, må vi først se på hvordan språkmodeller tradisjonelt har fungert. ChatGPT følger et ganske forutsigbart mønster: du skriver inn en melding, modellen tenker, og så kommer svaret. Selv når teksten «strømmes» ut linje for linje, er mesteparten av svaret allerede planlagt før det første ordet vises.

Det er effektivt, men også litt mekanisk. Samtalen går én vei om gangen: du spør, modellen svarer. Du kan ikke hoppe inn midt i en setning, endre tema, eller snakke med stemmen din. Interaksjonen er i bunn og grunn tekst inn – tekst ut.

Sanntidsmodeller snur dette på hodet. I stedet for å vente på tur, deltar modellen i samtalen 

. Du kan snakke naturlig, avbryte, ombestemme deg, og AI-en henger med. Den justerer svarene sine fortløpende, akkurat som et menneske som tenker mens det snakker.

Den store forskjellen ligger i selve infrastrukturen. Der eldre modeller kommuniserer gjennom enkeltstående forespørsler som sendes og mottas over HTTP, bruker sanntidsmodeller en 

 som lar lyd, tekst og handlinger flyte begge veier samtidig.

Fra stemmeassistenter til samtalepartnere

Denne utviklingen handler ikke bare om smartere stemmestyring, den handler om å gjøre avansert AI tilgjengelig for alle. Tidligere krevde sanntids-AI spesialiserte datasystemer og dyp ekspertise. I dag kan hvem som helst komme i gang med noen få API-kall, takket være plattformer fra aktører som OpenAI, Microsoft og Google.

For utviklere betyr dette at man nå kan bygge løsninger som svarer umiddelbart, forstår kontekst, og til og med handler på eget initiativ. Resultatet er applikasjoner som oppleves langt mer naturlige og menneskelige, enten det er i kundeservice, undervisning, kreativitet eller intern produktivitet.

Men det vil ta tid før alt er på plass. Teknologien er fortsatt ny, og både verktøy og arbeidsmetoder må modnes. Likevel er én ting sikkert: selskaper som klarer å omstille seg tidlig og ta teknologien i bruk på en gjennomtenkt måte, vil få et enormt forsprang. De vil ikke bare spare tid og penger – de vil bygge opplevelser konkurrentene vil bruke år på å ta igjen.

Sanntids-AI handler ikke først og fremst om fart. Det handler om 

 om hvor naturlig, sømløs og responsiv teknologien oppleves.

Tenk deg at du ringer kundeservice og får en AI-assistent som faktisk kan hjelpe deg, her og nå. Ingen ventemusikk. Ingen videresending. Du sier:

«Pakken min kom ødelagt. Jeg trenger en ny sendt til en annen adresse, og frakten må krediteres.» AI-en forstår intensjonen, finner ordren, bestiller erstatningen og sender bekreftelsen, alt mens du fortsatt snakker. Ingen venting. Ingen overføring. Bare en naturlig samtale som fikser det du trenger.

Tenk deg et møte der AI-en ikke bare tar notater, men 

«Hvor mye brukte vi på markedsføring i Q4?»
AI-en henter tallene fra regnearket, viser trenden på skjermen og oppsummerer for deltakerne, i sanntid, uten at noen trenger å lete. Etterpå sender den en kort oppsummering med beslutninger og oppfølgingspunkter.

Trening og læring som føles personlig: 

I stedet for å følge ferdige leksjoner, snakker du med en AI som 

. Den hører på uttalen din, justerer vanskelighetsgraden og bygger videre på samtalen fra i går.

«Jeg vil øve på italiensk på kafé i Roma.»
«Greit – la oss bestille kaffe sammen. Vil du ha cappuccino eller espresso?»
Læringen skjer i øyeblikket, med ekte samtale og kontinuerlig tilpasning.

Du beskriver en idé, og AI-en visualiserer den mens du snakker.

«Prøv en varmere stemning, med lavere lys og mykere kontraster.»
AI-en oppdaterer designet, foreslår variasjoner og fortsetter dialogen.
Det føles ikke som å bruke et verktøy – det føles som å samarbeide med en kollega som forstår deg.

Hos Snøkam har vi utviklet flere slike sanntidsløsninger. I det neste avsnittet tar vi deg med inn i den tekniske implementasjonen av én konkret opplevelse: en stemmeassistent som hjelper ansatte med å opprette arrangementer like raskt som de kan beskrive behovet.

Alt dette kan høres magisk ut, en AI som forstår deg mens du snakker, utfører oppgaver underveis, og holder samtalen flytende uten forsinkelser. Men bak opplevelsen ligger en arkitektur som er overraskende tilgjengelig, så lenge man setter de riktige byggesteinene sammen.

Det handler ikke om eksperimentell forskning eller proprietær magi, men om å kombinere tilgjengelige verktøy som WebRTC, OpenAI GPT-Realtime og et enkelt endepunkt.

For å illustrere hvordan komponentene spiller sammen i praksis, viser diagrammet nedenfor hele flyten, fra brukerens nettleser til OpenAI-modellen som driver samtalen.


Brukeren åpner en webapp som gir tilgang til mikrofonen og starter samtalen. Herfra sendes en forespørsel til backend for å hente en sikker, midlertidig tilgangsnøkkel.


Backend håndterer sikkerheten. Den bruker en lagret API-nøkkel for å opprette en ny sesjon hos OpenAI, og mottar en 


Denne midlertidige nøkkelen er gyldig i kun 60 sekunder og sikrer at frontend kan koble seg direkte til OpenAI – uten å eksponere API-nøkkelen.


Med nøkkelen i hånd oppretter frontend en WebRTC-tilkobling til OpenAI GPT-Realtime. Over denne forbindelsen strømmer: 

 i begge retninger (du snakker, AI svarer)

 via en separat kanal (AI kan utføre handlinger, sende meldinger osv.)

Selv om kommunikasjonen mellom bruker og AI i stor grad går direkte, er det backend som gir oss kontrollen vi trenger. Den oppretter sikre sesjoner, konfigurerer hvordan assistenten skal oppføre seg, og sørger for at API-nøkler aldri eksponeres. På denne måten kan vi gi frontend den friheten som sanntid krever, uten å gå på kompromiss med sikkerheten.

Backend genererer såkalte ephemeral tokens, midlertidige tilgangsnøkler som bare varer i et minutt, og som brukes til å etablere en direkte forbindelse mellom nettleseren og GPT-Realtime. På den måten kan vi la frontend kommunisere direkte med AI-en, men fortsatt holde all autentisering og sesjonsstyring på serversiden.

I tillegg har vi valgt en struktur der selve "personligheten" til assistenten, altså instruksjonene den følger, og hvilke verktøy den har tilgang til defineres i backend som en enkel JSON-konfigurasjon. Alt som trengs er å opprette en ny agent-definisjon og la frontend be om riktig agent når samtalen starter.

Her er hvordan vi implementerer dette i en Azure Function:

Funksjonen tar imot en forespørsel med et agent-navn (vi kommer tilbake til hva det betyr), henter den sikre API-nøkkelen fra miljøvariabler, og oppretter en sesjon hos OpenAI. Responsen inneholder den ephemeral tokenen som returneres til frontend. Legg merke til at API-nøkkelen aldri forlater serveren. Den brukes kun til å autentisere forespørselen til OpenAI.

En annen viktig del av arkitekturen er hvordan vi håndterer variasjon. I praksis ønsker vi ikke én universell AI-assistent, men flere, hver med sitt formål, sin personlighet og sine verktøy. F.eks én som hjelper med å booke møterom. Én som oppretter arrangementer.

I stedet for å skrive ny kode hver gang vi skal lage en ny assistent, har vi valgt en agent-basert tilnærming. Hver agent defineres som en enkel JSON-konfigurasjon i backend. Der beskriver vi hvordan AI-en skal opptre, hvilke verktøy den har tilgang til, og hvilke instruksjoner den følger.

Når frontend starter en samtale, sendes et agentnavn med i forespørselen. For eksempel "create-event". Backend slår da opp riktig definisjon, og bruker den til å opprette sesjonen hos OpenAI. På den måten kan vi endre hvordan AI-en oppfører seg, hva den sier, og hva den kan gjøre, uten å gjøre endringer i frontend-koden.

Et eksempel: agenten «create-event» er satt opp til å hjelpe ansatte med å fylle ut skjemae. Den har tilgang til to funksjoner: én for å oppdatere skjemafelter, og én for å sende inn skjemaet. Når AI-en bestemmer seg for å bruke et av disse verktøyene, sendes det som en JSON-melding over WebRTC-forbindelsen til frontend, som tolker det og utfører handlingen.

Denne strukturen gjør det enkelt å legge til nye assistenter etter behov – uten å endre resten av systemet. Vi kan tilpasse både oppførsel, stemme og funksjonalitet ved å justere én konfigurasjonsfil. Det betyr at vi raskt kan eksperimentere, utvikle og utvide, uten tung implementasjon i bunn.

Frontend-applikasjonen er bygget i React, og vi har samlet kompleksiteten i en gjenbrukbar hook som håndterer alt som trengs for å snakke med GPT-Realtime: tilgang til mikrofon, oppsett av WebRTC-forbindelse, sending av lyd, mottak av svar og oppfølging av eventuelle handlinger. Alt dette skjer i løpet av sekunder, og for brukeren fremstår det hele som én enkel opplevelse, trykk på en knapp, og samtalen er i gang.

Det som skjer under panseret, er at vi først henter en ephemeral token fra backend. Med denne nøkkelen etablerer vi en WebRTC-tilkobling til OpenAI, som gjør det mulig å strømme lyd i begge retninger og sende meldinger over en separat data channel. På denne kanalen mottar frontend signaler fra AI-en. For eksempel når den ønsker å oppdatere et skjemafelt, sende inn et skjema, eller gi visuell tilbakemelding i UI-et.

For å gjøre det så enkelt som mulig å integrere denne funksjonaliteten i ulike deler av appen, er samtaleopplevelsen kapslet inn i én komponent. Den kan settes inn hvor som helst, med ulike agenter og ulike funksjonskall, uten å måtte skrive logikken på nytt. Det betyr at vi kan ha én AI-assistent i et skjema, en annen i et dashbord, og en tredje i en chatboble, der alle er bygget på samme arkitektur, men med ulik personlighet og rolle.

For å vise en litt morsom demo av hvordan teknologien kan brukes, har vi laget noe mer ambisiøst enn en chatbot: et interaktivt 

 der hver karakter er en egen AI-agent med sin egen personlighet, sitt eget alibi, og sine egne observasjoner fra kvelden.

Scenariet er enkelt: Det har skjedd et drap på Snøkam-kontoret. Du må snakke med de ansatte (AI-agenter), stille spørsmål, følge opp svar, og til slutt peke ut morderen. Det som gjør det interessant er at hver samtale er unik. AI-en improviserer detaljer, reagerer på hvordan du stiller spørsmål, og kan til og med bli defensiv hvis du presser for hardt.

Teknisk sett bruker vi samme arkitektur som beskrevet over. Hver karakter er definert som en egen agent med instruksjoner som beskriver deres personlighet og hva de vet. For eksempel har én agent instruksjoner om at hen var i møterommet klokken 21:30 og hørte rare lyder fra kjøkkenet. En annen var hjemme hele kvelden. En tredje vet noe, men vil ikke si det med en gang. AI-en holder seg konsistent til disse instruksjonene mens den improviserer dialogen.

Det interessante er ikke bare at spillet fungerer, men 

 det føles. Fordi kommunikasjonen skjer i sanntid med naturlig stemme, blir interaksjonen langt mer engasjerende enn et tekstbasert avhørsspill ville vært. Du kan avbryte hvis du får en idé, du kan utforske tankeganger spontant, og du kan registrere nyanser i hvordan karakterene svarer. Det er nærmere en samtale med et menneske enn med en maskin.

. Hvis du løser mysteriet før 31. oktober, kan du vinne 5 000 kroner. Men det egentlige premiet er å oppleve hvor langt sanntids-AI har kommet, og kanskje få noen ideer til hva du selv kan bygge med teknologien.

Sanntids-AI representerer et paradigmeskifte i hvordan vi samhandler med kunstig intelligens. Vi går fra å 

 med den i sanntid, naturlig og intuitivt.

Hvis du skal ta med deg noe fra denne artikkelen, er det at sanntids-AI representerer noe fundamentalt annet enn bare "raskere chat". 

Sanntids-AI er fortsatt i en tidlig fase, og vi ser allerede konturene av neste generasjon. Multimodale modeller som kan se, høre og forstå kontekst samtidig er på vei. Responstiden vil fortsette å synke under 100 millisekunder. Støtten for flere språk og dialekter blir stadig bedre. Integrasjon med AR og VR vil åpne for helt nye typer opplevelser der AI blir en naturlig del av omgivelsene rundt oss.

Den kanskje mest interessante utviklingen er bedre personalisering over tid. I dag starter hver samtale på nytt. Fremtidige systemer vil kunne bygge opp en forståelse av deg og dine preferanser, samtidig som de opprettholder den umiddelbarheten som gjør sanntids-AI så kraftfull.

Hos Snøkam fortsetter vi å eksperimentere med AI, både internt og ute hos kundene våre. Vi har noen ideer til bruksområder vi ikke har sett andre gjøre ennå. Hvis du jobber med noe lignende, eller bare er nysgjerrig på hvordan vi har løst enkelte utfordringer teknisk, ta gjerne kontakt. Vi deler gjerne erfaringer.


Som AI Tech Lead i Storebrand bygger Morten AI-drevne kundeopplevelser som gjør en reell forskjell når de trenger det, på den måten de foretrekker. 

 hvis du vil diskutere et konkret prosjekt.

Hva om ChatGPT ikke bare svarte kundene dine via en chatbot, men faktisk snakket med dem på telefon? Hva om AI kunne tolke pauser, tonefall og avbrytelser, og svare som en rådgiver?

React er et verktøy vi bruker for å bygge moderne nettsider som føles raske og levende. Det hjelper oss å sette sammen små deler av et design til hele løsninger – litt som byggeklosser.
Vi bruker React fordi det gjør det enklere å lage brukervennlige og fleksible nettsider som er lette å videreutvikle når behovene endrer seg.

Frontend

React

.NET er en utviklingsplattform laget av Microsoft som brukes til å bygge alt fra små apper til store, komplekse systemer. Den gir et solid grunnlag for å lage stabile og sikre løsninger som fungerer godt sammen med andre teknologier.
Vi bruker .NET fordi det er raskt, pålitelig og godt egnet for prosjekter som krever høy ytelse og lang levetid.

Backend

.NET

(Large Language Model) er en type kunstig intelligens som kan forstå, generere og jobbe med tekst på en måte som ligner på hvordan mennesker skriver og snakker. Den brukes til alt fra chatboter og automatiserte tekstanalyser til å hjelpe utviklere med å skrive kode.
Hos Snøkam bruker vi LLM-er for å utforske hvordan AI kan gjøre arbeidet vårt smartere og mer effektivt – enten det handler om å automatisere oppgaver, hente ut innsikt fra store mengder informasjon eller bygge helt nye løsninger drevet av språkforståelse.
Store språkmodeller er i rask utvikling og gir oss muligheten til å kombinere teknisk presisjon med kreativitet – slik at vi kan levere mer intuitive og fremtidsrettede digitale tjenester.

Kunstig Intelligens

Glem chatbots – den nyeste AI-modellen fra OpenAI kan snakke med kundene dine

Arvid Mildner

Kanskje du har hørt om DeepSeek V3 og tenkt: 

, men så kommer den umiddelbare bekymringen – 

jeg kan jo ikke bruke det til noe sensitivt eller firmainformasjon, det kjører sikkert på en eller annen kinesisk server et sted!

 Men hva om jeg fortalte deg at det ikke trenger å være sånn?

Du kan faktisk få en opplevelse som ligner på ChatGPT eller DeepSeek, men fullstendig selvhostet – enten på din egen virtuelle maskin eller rett på egen maskin. Her er et skjermbilde av hvordan det ser ut når alt er satt opp.


Hvis du kun vil kjøre dette lokalt, trenger du ikke noe av dette. Da trenger du kun Docker installert på maskinen, som beskrevet senere i artikkelen. Hvis du vil kjøre tjenesten slik at andre folk kan bruke den, gjør vi noen antakelser først.

Du har en (virtuell) Linux-maskin med en offentlig IP-adresse

Du har tilgang til internett fra denne maskinen

Maskinen er tilgjengelig på port 80 og 443

Du kan SSH'e inn på maskinen under konfigurasjonen

Det sier seg selv at jo kraftigere maskin du har tilgang til (eller kan installere on-prem), jo bedre og kraftigere modeller kan du kjøre. I vårt eksempel bruker vi en Azure VM 

 maskin uten GPU-støtte (fordi du må be pent til Azure Support for å få GPU, og vi trenger egentlig ikke det for denne demoen).

Merk også at selv om vi bruker en maskin som koster 300 dollar i måneden, er dette rimelig tregt (2 minutter for denne spørringen). Da skjønner man også at det ikke er bare-bare å kjøre disse svære modellene.

La oss installere de teknologier vi trenger

, som er en åpen kildekode "runner" for LLM-er og veldig enkel å bruke, og 

, som er et chat-grensesnitt – en åpen kildekode frontend for å snakke med LLM-er. Fra dokumentasjonen til OpenWebUI ser vi at det faktisk finnes et Docker-image som kapsler inn både Ollama og OpenWebUI, noe som gjør installasjonen trivielt enkel. Før vi kan gjøre det, må vi installere Docker først:
Slik gjør du det på Ubuntu 24.04 LTS (som vi bruker i dette inlegget), men flere installasjonsinstruksjoner finner du 


Nå kan vi kjøre Ollama+OpenWebUI Docker-imaget slik:


Hvis du ikke er kjent med Docker, kan du tenke på denne kommandoen som å starte et lettvekts, isolert virtuelt miljø (kalt en container) på maskinen din. Inni denne containeren kjører Ollama og OpenWebUI som om de var installert direkte på systemet ditt—men de er pent pakket inn og atskilt fra ditt hovedmiljø. Containeren lytter på port 8080, noe som er viktig senere når vi skal konfigurere Nginx til å peke til denne containeren. Hvis du kjører Docker lokalt på maskinen din, bør du nå kunne besøke 

 og logge deg inn. Hvis du gjør dette på en VM, feks på Azure, må vi nå gjøre den sikkert tilgjengelig over internett.

. Du må selvfølgelig bytte dette ut med et domene som du selv kontrollerer. Merk også at vi ikke har serveren oppe nå, da VM-en vi bruker i praksis er altfor svak til å faktisk kjøre noen brukbare modeller og kun ble brukt som en demo.

 for å håndtere TLS-sertifikater (slik at vi får den fine "grønne låsen" på nettstedet vårt)

 som og konfigurerer noen grunnleggende innstillinger for å peke til OpenWebUI.

Nginx-konfigurasjonen er ikke 100 % ferdig ennå og fungerer mer som en plassholder, men den vil bli fullført etter at vi har installert sertifikatene og konfigurert serveren til å håndtere TLS med certbot sitt nginx-plugin.
Nginx må konfigureres til å videresende innkommende trafikk til OpenWebUI-tjenesten som kjører i bakgrunnen.

For å sikre sikker kommunikasjon må vi også konfigurere Nginx til å lytte på portene 80 (HTTP) og 443 (HTTPS). I tillegg må vi generere TLS-sertifikater for å verifisere eierskapet til domenet 

 og etablere tillit med klienter som besøker siden. Hele denne prosessen håndteres med Certbot i kombinasjon med 

Certbot forenkler prosessen med å få og fornye TLS-sertifikater. For å begynne må vi generere en sertifikatforespørsel, hvor vi spesifiserer at vi vil bevise domenets eierskap via DNS. Siden vi kontrollerer DNS-serveren og kan redigere oppføringene for 

, kan vi legge til de nødvendige TXT-records for verifisering. Dette gjøres som regel ved at du logger deg inn der du har kjøpt domenet, og finner frem til et sted hvor du kan legge til DNS-poster.

Kjør følgende kommando for å starte sertifikatforespørselen:


Etter det, vil du få en prompt som forteller deg hva du skal gjøre.


Certbot vil be deg om å legge til en spesifikk TXT-record i DNS-konfigurasjonen din under subdomenet 

. Denne posten fungerer som bevis på at du kontrollerer domenet. Når TXT-recorden er lagt til og har blitt propagert, vil Certbot automatisk verifisere den og utstede sertifikatet fra Let's Encrypt.

Etter å ha mottatt sertifikatet, konfigurer DNS-serveren din til å legge til en 

, som peker til den offentlige IP-adressen til din virtuelle maskin.

Som et siste steg kan vi nå bruke Certbot sin nginx-integrasjon for automatisk å oppdatere nginx-konfigurasjonen slik at den hanterar TLS riktig. Dette gjøres med den enkle kommandoen


Denne kommandoen konfigurerer nå nginx-serveren slik at vi får ønsket oppførsel:


Med disse stegene fullført er din selvhostede versjon av applikasjonen fullt funksjonell og sikret med HTTPS. Selv om vi stoler på at Azure ivaretar sikkerheten og ikke sender dataene våre fra VM-en til USA, kan disse stegene også utføres på en lokal Linux-server eller en hjemmeserver for fullstendig isolasjon og kontroll. Dette sikrer at ingen eksterne skyleverandører har tilgang til ditt miljø. Merk at den første brukeren som logger inn på OpenWebUI etter installasjonen blir administrator, så sørg for at du er den første som oppretter en konto. Merk også at sertifikatet fra Let's Encrypt utløper etter 3 måneder, så det må fornyes. Dette kan automatiseres, men er utenfor omfanget av dette blogginnlegget.

Er dette oppsettet egentlig nyttig? Vel, hvis du har en kraftig maskin on-prem som ikke blir brukt, kan du kjøre denne koden på den, eller bruke enda kraftigere modeller med flere vekter, som 

-modellen. Mer praktisk er det kanskje å bruke OpenWebUI i kombinasjon med OpenAI sine API-endepunkter som er tilgjengelige i 

. Disse AI-modellene kan velges sån at de kjører i Stockholm og er dermed GDPR-kompatible (så lenge du stoler på at Azure overholder dette), og kan også integreres med OpenWebUI. Dette er også betydelig billigere og raskare.

Ulempen er at du ikke kan kjøre det helt isolert eller "offline", og du må bruke OpenAI-modeller som ikke er mulige att laste ned. Hvis du er interessert i støtte eller veiledning om hvordan AI kan integreres trygt og GDPR-kompatibelt i ditt miljø, ta kontakt med 

En annen ting: Hvis dere fortsatt er usikre på hva Deepseek handler om, kan dere sjekke ut 

 som min kollega Simen skrev for noen uker siden!

I denne bloggposten skal vi se hvordan du kan få satt opp en egen server med Deepseek installert som du kan bruka - helt sikkert og isolert!

Nginx er en programvare som brukes til å håndtere webtrafikk på en rask og effektiv måte. Den sørger for at brukere får tilgang til nettsider og applikasjoner uten forsinkelser, og fordeler trafikken slik at systemene våre holder seg stabile – også når mange bruker dem samtidig.
Hos Snøkam bruker vi Nginx som en del av infrastrukturen som kobler frontend og backend sammen. Den hjelper oss med å levere raske, sikre og pålitelige løsninger, og fungerer som en viktig del av driftslaget i mange av prosjektene våre.
Nginx er kjent for høy ytelse, lav ressursbruk og stor fleksibilitet – egenskaper som gjør den til et naturlig valg i moderne utviklingsmiljøer.

Nginx

Ollama er et verktøy som gjør det enkelt å laste ned, kjøre og bruke store språkmodeller direkte på egen maskin eller server. Det lar utviklere teste og bygge AI-løsninger uten å måtte koble seg til eksterne tjenester.
Hos Snøkam bruker vi Ollama for å utforske og utvikle løsninger basert på kunstig intelligens — alt fra tekstforståelse og automatisering til eksperimentering med egne modeller.
Ollama gir oss fleksibilitet til å jobbe med AI på en trygg måte, der dataene kan holdes lokalt, samtidig som vi får kraften fra moderne språkmodeller til å forbedre både produkter og prosesser.

Ollama

Certbot er et verktøy som automatisk skaffer og fornyer sikkerhetssertifikater for nettsider. Disse sertifikatene sørger for at data som sendes mellom brukeren og tjenesten er kryptert – du kjenner det kanskje igjen som “https” i nettadressen.
Hos Snøkam bruker vi Certbot for å holde nettsider og applikasjoner sikre uten at det krever manuell oppfølging. Det gjør det enklere å opprettholde gode sikkerhetsrutiner og sørger for at løsningene våre alltid har oppdatert beskyttelse.
Med Certbot kan vi automatisere en viktig del av sikkerhetsarbeidet, slik at både vi og kundene våre kan ha tillit til at kommunikasjonen på nettet foregår trygt.

Sikkerhet

CertBot

Linux er et åpent operativsystem som brukes til å drive alt fra små servere til store skyløsninger. Det er kjent for å være stabilt, sikkert og fleksibelt – og derfor foretrukket av utviklere og driftsteam over hele verden.
Hos Snøkam bruker vi Linux som fundamentet for mange av våre løsninger i skyen. Det gir oss full kontroll over miljøene vi jobber i, samtidig som det gjør systemene våre raske, pålitelige og lette å automatisere.
Fordi Linux er åpen kildekode, kan vi tilpasse og optimalisere systemene etter behov – noe som gir oss frihet til å bygge akkurat de løsningene som passer best for våre kunder og prosjekter.

Linux

Hvordan du kan kjøre LLMs som Deepseek selv med OpenWebUI og Ollama

Simen Johnsrud

Det er litt over to uker siden markedet ble sjokkert over en ny AI-språkmodell fra Kina. Det virker allerede som en evighet siden, noe det på mange måter også er i en AI-verdenen som utvikler seg raskere enn noen gang. Likevel, nå som støvet har lagt seg, er det greit å reflektere litt over hva som 

 skjedde. For resultatet er et paradigme, men likevel har mediene muligens hatt en feil vinkling til denne store hendelsen. For det DeepSeek har bidratt med er rett og slett veldig viktig. For å dekke det store bildet skal vi innom tre hovedgrener:

Så hva er DeepSeek? Mandag 27.Januar 2025 var DeepSeek på alles lepper, da den alene skulle stå for den største barberingen av aksjepenger gjennom tidene. Modellen ble lansert en ukes tid tidligere, men aksjemarkedet våknet virkelig til livet denne mandagen. Nvidia sin verdi ble over dagen skrellet av med $600 milliarder, og hele den teknologitunge Nasdaq-børsen falt med 3%. DeepSeek i seg selv er et mindre kinesisk selskap hvor deres språkmodeller, eller LLMs (Large Language Models), også deler samme navn som prefix. Det er derfor lett å bare kalle deres beste modell, DeepSeek-R1, for selskapsnavnet. Men selskapet har ikke kommet med bare èn ny modell, og det er også noe av det viktige her. La oss komme i gang:

Flaggskipet DeepSeek-R1 kom som et lyn fra klar himmel. Denne modellen scoret like bra eller bedre enn OpenAI sin beste modell i form av o1. Grunnen til at man i dag ikke bare kan si at èn modell er bedre enn en annen, er fordi disse modellene går igjennom mange tester i forsøk på å måle ytelse. Konkurransen er så hard at man gjerne ikke klarer å vinne på 

 fronter. I tillegg begynner disse modellene å bli så bra at det er også vanskelig å avgjøre om et svar er bedre enn et annet. Uansett, det er en enighet om at DeepSeek-R1 er en bedre modell enn OpenAI o1 selv når man inkluderer alle faktorene. For mens OpenAI sine flaggskip har blitt større og større og mer og mer hemmeligholdt, så ble DeepSeek-R1 sluppet helt åpent ut på Internett. Med tilhørende whitepaper som forklarer hvordan hele modellen er satt opp og trent, har DeepSeek på mange måter gjort det OpenAI 

 gjøre — være åpne. I tillegg har DeepSeek kommet med en langt mindre modell enn hva OpenAI har klart . En mindre modell krever mindre energi, og koster derfor også mindre å kjøre.

-modell, den sier rett ut hvordan den tenker seg frem til svaret. Veldig likt hvordan vi mennesker er vant med når vi prøver å gjøre vanskelige valg. Sammenligner vi dette med sjakk, så kan man si at en reasoning modell kommer frem til svaret på samme måte som når Carlsen tenker lenge på en lang hendelsesrekkefølge. Underveis i tankeprosessen faller kanskje en rekke fordi svaret ikke blir “bra nok”, og man drar tankene et hakk tilbake og forsøker en annen vei. Når Carlsen derimot gjør et raskt trekk grunnet tidsmangel handler han på intuisjon, han gjør det han der og da mener at “ser” best ut — som igjen kan sammenlignes med AI-modellene som ikke har denne reasoning-mekanismen. Måten DeepSeek har trent modellene sine for å få denne evnen er også spesifisert nøye i 

, og for å unngå å dyppe for langt ned i detaljene henviser jeg heller dit for detaljer. Kort fortalt kan jeg likevel si at under deres trening har modellen fått lengre og lengre tid til å resonnere seg frem til et svar, som igjen resulterte i en vanvittig god modell. I tillegg benytter de AI-modellene til å trene opp hverandre, som også er et veldig interessant konsept! I bildet kan vi se hvordan modellen presterer mot andre sammenlignbare modeller.

Selv om DeepSeek-R1 allerede er en mindre modell enn OpenAIs beste, så har de også mer å trekke opp fra ermet. Bare som en oppfrisker, så er små modeller bra fordi de krever mindre energi for å bli trent og kjørt. I tillegg kan man si at siden mindre modeller har færre variabler, er de dermed også bedre komponert for å løse det opprinnelige problemet: NLP (Natural Language Processing — eller på folkemunne; beherske det vi kaller for “språk”). Å legge til flere variabler er på mange måter en slags innrømmelse av at modellen ikke er god nok, og at løsningen var å legge til flere parametre slik at den passet. Tilbake til poenget; DeepSeek kom ikke bare med R1, de kom også med flere destillerte modeller. En destillert modell, er en modell som prøver å fjerne “unødvendige” parametre av den opprinnelige modellen — for å gjøre den 

mindre. Se for deg et fiskenett; du ønsker å redusere den totale mengden garn, uten å redusere evnen til å fange fisk. Kanskje en del av maskene er mindre enn de trenger å være, og alle maskene dermed kan slås sammen med en annen? Maskene helt i enden har mindre sannsynlighet til å fange fisk siden det er enklere å unnslippe på kanten, så kanskje vi kan fjerne litt garn der også? Slik kan man destillere fiskenettet uten å redusere egenskapene i like stor grad. Samme prinsipp kan brukes om AI-modeller. DeepSeek beviste at destillering av modeller ga svært gode resultater, og lanserte derfor også mange 

 mye mindre modeller, som fremdeles håndterer NLP meget godt. Disse utkonkurrerer alle mindre modeller vi hadde fra før, og det er dette som gjør det så spennende! Slike små modeller kan vi faktisk kjøre på vår egen laptop (riktignok en ganske god laptop), og dermed ikke være redd for at noe informasjon forsvinner til andre. Dette er en mulighet som man ikke har vært i nærheten av før, både fordi åpenhet har blitt en mangelvare i AI-kappløpet, men også fordi DeepSeek har fått det til bedre enn noen andre.

For Ola Nordmann så kom nyheten om DeepSeek gjennom mediene da de  Amerikanske teknologiselskapene stupte på børs. Men hvorfor gjorde de det? OpenAI (som har Microsoft som største aksjonær) har lenge ledet AI-kappløpet, i hard konkurranse fra blant annet Meta og Google. Alle disse har til felles at de ikke sier noe (lengre) om hvordan de har oppnådd sine resultater, som igjen har gitt de en kjempefordel når det kommer til kunstig intelligens. ChatGPT satte alle rekorder med raskeste vekst av antall brukere da den ble lansert, og mange brukere betyr også store inntekter. OpenAI hadde et lite kvelertak på hele markedet, og det ble så ille at selveste Apple ikke klarte å hamle opp - og måtte ty til å inngå et samarbeid med deres største konkurrent. Derfor, når et ukjent kinesisk selskap ut av intet kommer med en ny bestescore - og i tillegg legger frem hele bruksanvisningen - 

 skjer det ting i markedet. Plutselig er hele AI-kappløpet resatt. Alle selskaper trakk kortet "Rykk tilbake til start". Det konkurransefortrinnet som allerede var priset godt inn i aksjene fikk seg en skikkelig smell på tygga. Men hva så med Nvidia? De selger jo hardware til å trene og kjøre AI-modeller, så at en ny modell som åpner opp for at alle kan kjøre sin egen burde jo være utelukkende positivt? Det er her størrelsen på modellene kommer inn i bildet. Mens OpenAI har økt antall trenbare parametre i hver nye toppmodell de har kommet med, så har det også satt en forventning om at man trenger kraftigere og kraftigere hardware for å tilfredsstille de nye og forstørrende modellene. Dette har Nvidia tjent svært godt på, og aksjekursen har fulgt etter i tospann. Nå, når det viser seg at man ikke nødvendigvis trenger superhardware i samme grad som tidligere, så rakner også konkurransefortrinnet til Nvidia. Ut av intet kan flere aktører melde seg på i kampen, for selv om de ikke har like kraftige GPU-er (som tross alt er den hardwaren som er viktig når vi snakker om AI-modeller), så er de gode nok om modellene blir mindre. I tillegg trenger man ikke å kjøpe like mange GPU-er av Nvidia som man frem til nå har tenkt. Mindre forventning til salg, resulterer alltid i det samme - kraftig nedgang på børsen.

Det er kanskje litt kontroversielt å melde, siden man ikke kan felle alle medier under samme kam, men etter min mening ga mediene DeepSeek et litt forvrengt syn utad. Misforstå meg rett, det er flere poenger som er viktig å belyse. Sånn som at børsen kollapser, at alt man skriver til DeepSeek-appen potensielt kan bli lagret i Kina, samt at modellen plutselig skjuler svaret om man spør om litt kontroversielle kinesiske temaer. Det sistnevnte omtales for øvrig som "alignment" i AI-verdenen, og er et uttrykk for å vurdere hva som er rett eller galt. Denne alignmenten finnes også i ChatGPT som på sin side ikke gir respons på enkelte andre kontroversielle temaer.

Men det som er den store nyheten her er det vi har vært gjennom; At den beste modellen er gjort open source, gjort mindre og hele oppskriften er offentliggjort. Dette åpner enorme muligheter for selskaper som av forskjellige årsaker ikke har kunnet bruke modellene som ligger på internett. Nå har man muligheten til å self-hoste (som det heter når man kjører noe selv) den beste modellen uten internett-tilgang. Ingenting av det du skriver til den vil havne hverken i Amerikanernes, Kinesernes eller andres hender. Det er rett og slett et teknologisk gjennombrudd for alle som ikke aktivt utvikler disse modellene selv. At denne egenskapen knapt har sett medienes lys er etter min mening veldig merkelig. Ja, om man bruker DeepSeek-appen så vil DeepSeek kunne lagre alt du skriver inn, men sånn er det også allerede hver gang man bruker ChatGPT - bare at det er OpenAI som tar imot din verdifulle input. Det er lett å glemme av, men nå er det mulig å endre på den visa - nå som man kan kjøre modellene selv, og også sørge for at 

Det er litt over to uker siden markedet ble sjokkert over en ny AI-språkmodell fra Kina. Det virker allerede som en evighet siden, noe det på mange måter også er i AI-verdenen som utvikler seg raskere enn noen gang. Likevel, nå som støvet har lagt seg, er det greit å reflektere litt over hva som faktisk skjedde. For resultatet er et paradigme, men likevel har mediene muligens har hatt en feil vinkling til denne store hendelsen inn i AI-miljøet. For det DeepSeek har bidratt med er rett og slett veldig viktig.

DeepSeek - Hva skjedde?

Typescript

Java

Azure

Cloud

Kubernetes

Python

Data Plattform

Docker

GraphQL

Next.js

Oda Scheen Kiese

Bicep

Kotlin

Her deler vi erfaringer vi har gjort oss med {{tagTitle}} i prosjekter og i hverdagen vår som utviklere.

Vi du vite mer om hvordan vi bruker {{tagTitle}} i Snøkam?

Våre utviklere med erfaring i {{tagTitle}}

{{tagTitle}} er en sentral del av flere av våre kundeprosjekter. Her ser du noen eksempler på hvordan vi har brukt teknologien i praksis.

{{tagTitle}} - Teknologi i Snøkam

Kunstig intelligens handler om å få datamaskiner til å forstå, lære og løse oppgaver som tidligere krevde menneskelig intelligens. Utviklingen på dette feltet har eksplodert de siste årene, og nye muligheter oppstår nesten daglig – fra språkmodeller og automasjon til analyse og kreative prosesser. Hos Snøkam følger vi utviklingen tett, utforsker de nyeste verktøyene og jobber aktivt med å ta i bruk AI der det skaper reell verdi for mennesker og virksomheter.

Kunstig Intelligens

Våre utviklere med erfaring i kunstig intelligens

Dette skriver vi om kunstig intelligens

Glem chatbots – den nyeste AI-modellen fra OpenAI kan snakke med kundene dine

Hvordan du kan kjøre LLMs som Deepseek selv med OpenWebUI og Ollama

DeepSeek - Hva skjedde?

Vi du vite mer om hvordan vi bruker kunstig intelligens i Snøkam?