Generativ AI - fra snikksnakk til handling

Generativ AI har blitt et hett tema innen teknologi- og datafeltet. Vi er lei snikksnakk om emnet, og gir her noen erfaringsbaserte råd på hvordan du kan gå fra teori til praksis - raskt!

Hva er generativ AI?

Generativ AI refererer til kunstig intelligens-systemer som kan produsere nye data som ligner på det de er trent på. Generativ AI brukes i mange applikasjoner, som bilde- og videoproduksjon, tekstgenerering, og i kreative verktøy som kan hjelpe med design og innholdsutvikling. Dette feltet kombinerer maskinlæring, statistikk og ofte komplekse algoritmer for å skape resultater som er vanskelig å skille fra ekte, menneskeskapt innhold.

Hovedforskjellen mellom generativ og andre former for AI er at formålet er å generere nytt innhold basert på eksisterende data, mens annen AI ofte klassifiserer eller finner mønstre i eksisterende data.

Type AI	Formål	Prosess	Eksempler	Anvendelser
Generative AI	Lage nytt innhold	Genererer data og evalueres av en annen modell	GANs, VAEs	Bilde-/videogenerering, tekstskriving, musikk
Discriminative AI	Klassifisere eller gjenkjenne eksisterende data	Lærer å skille mellom ulike typer data	CNNs, RNNs, SVMs	Bilde-/talegjenkjenning, medisinsk diagnostikk, spamfiltrering
Reinforcement Learning (RL)	Lære å ta beslutninger gjennom prøving og feiling	Oppdaterer handlinger basert på belønning	Q-learning, DQN, Policy Gradient Methods	Spill (som AlphaGo), robotikk, autonom kjøring
Natural Language Processing (NLP)	Forstå og generere menneskelig språk	Analyserer og genererer språk basert på mønstre i data	BERT, GPT, Seq2Seq	Maskinoversettelse, chatbots, sentimentanalyse
Computer Vision	Analysere og tolke visuell data	Anvender algoritmer for å forstå bilder og videoer	YOLO, Faster R-CNN, U-Net	Ansiktsgjenkjenning, medisinsk bildeanalyse, selvkjørende biler
Recommendation Systems	Anbefale produkter eller innhold	Analyserer brukerdata for å gi anbefalinger	Matrix Factorization, Collaborative Filtering, Content-Based Filtering	E-handel, streamingtjenester, sosiale medier
Anomaly Detection	Identifisere uvanlige mønstre	Bruker modeller for å finne avvik i data	Isolation Forest, One-Class SVM, Autoencoders	Svindeldeteksjon, kvalitetskontroll, nettverkssikkerhet
Speech Recognition	Konvertere talelyd til tekst	Anvender modeller for å transkribere tale	HMMs, Deep Speech, Wav2Vec	Digitale assistenter, dikteringsprogrammer, kundeservice

Vår bruk av generativ AI

Glitni og vår samarbeidspartner Telum har omfattende erfaring med bruk av generativ AI, spesielt språkmodellene. Vi skiller nedenfor mellom ulike bruk av generativ AI, fra ferdigpakkertert til fullstendig tilpasset, og gir eksempler på vår bruk av generativ AI.

Bruk av språkmodeller i ferdige applikasjoner

De fleste applikasjoner vil etter hvert få funksjoner som benytter generativ AI. Vi jobber mye med koding og programmering, hvor generativ AI har vist seg å være spesielt nyttig.

Verktøy som GitHub Copilot kan øke effektiviteten betraktelig. En vanlig tilnærming er å skrive kommentarer eller docstrings i koden, som GitHub Copilot deretter bruker til å foreslå kode. Ofte er disse forslagene svært gode, og ved å trykke tab-tasten kan utvikleren raskt integrere dem i koden. Dette kan både øke hastigheten og forbedre kvaliteten på koden som produseres.

I tillegg til GitHub Copilot kan ChatGPT brukes til feilsøking og som støtte når man er usikker på hvor man skal starte med en oppgave. Med den nye Copilot-chatten i VS Code, kan utviklere nå få hjelp direkte i kodegrensesnittet, noe som ytterligere effektiviserer arbeidsprosessen.

Bruk av språkmodeller ut av boksen - f.eks ChatGPT

Generativ AI kan brukes til å strukturere arbeid og forberede innhold. For eksempel kan man bruke ChatGPT til å lage strukturer for prosjekter eller episoder basert på målgruppen og ønsket lengde. Selv om resultatene noen ganger må justeres litt, kan AI-en gi et godt utgangspunkt.

Når man har ferdigstilt et prosjekt, kan AI også brukes til å transkribere og rydde opp i innholdet. Dette er spesielt nyttig når det er nødvendig å gjøre transkripsjonen mer lesbar og relevant, spesielt når det brukes slang eller dialekt.

Økt effektiviteten med custom GPT-er og større kontekstvinduer

En av nøklene til å få mest mulig ut av generativ AI er å lage custom GPT-er for spesifikke oppgaver. Ved å investere tid i å pre-fylle informasjon inn i kontekstvinduet, kan man oppnå mye bedre hjelp fra AI-en. Jo mer informasjon AI-en får, desto bedre resultater kan den levere.

For eksempel, hvis man ber om en oppskrift på tomatsuppe, må AI-en vite budsjettet ditt og preferansene dine for å gi et godt resultat. Dette prinsippet gjelder for alle typer AI-bruk. Å gi AI-en riktig kontekst og informasjon er avgjørende for å oppnå gode resultater.

Gå lenger: språkmodeller i egne løsninger

For å virkelig få effekt av språkmodellene, kan det i en del tilfeller kreve tilpasninger til eksisterende prosesser og applikasjoner.

Språkmodeller kan for eksemplel brukes til å indeksere produktbilder og videoer. Ved hjelp av modeller som Instruct Blip kan man beskrive produkter på bilder, og transkribere videoer for å indeksere hva som sies. Dette gjør søkene mer effektive og gir robuste resultater uavhengig av språk og skrivefeil.

Ved å bruke språkmodeller både i indeksering og søk, kan man oppnå robuste resultater. Dette er ikke nødvendigvis rag (retrieval augmented generation), men vektorbasert søk som gjør det lettere å finne relevant innhold.

Hvordan bør du tilnærme deg generativ AI?

Start med smale use case

Automatisering og effektivisering av prosesser og produkter ved hjelp av generativ AI gjøres ikke bare gjennom inkrementelle forbedringer, men også investere målrettet i use case som kan virkelig kan gjøre en forskjell for din virksomhet. Det blir viktig å tenke langsiktig på hvordan man kan samle inn dataene AI-en trenger.

Men for å ta det ned litt - begynn i det små. Modning skjer ved øvelse. For virksomheter er det viktig å starte med smale use case der informasjonen for å løse problemet allerede eksisterer.

Eksempler på smale use case

Her er eksempler på relativt smale use case som der generativ AI kan øke produktiviteten betydelig:

• dokumentanalyse av f.eks juridiske dokumenter
• transkripsjon av video og lyd i møter
• indeksering av bilder
• selvbetjent kundeservice
• innholdsopprettelse i markedsføring
• oversetting mellom språk
• programmering

Husk at generativ AI har bare en mindre rolle i en større prosess

Generativ AI har som regel bare en rolle i en større prosess. Noen ganger er rollen liten, andre ganger er det kanskje det steget som gjør at hele prosessen kan automatiseres. Og når vi kan komme dit - da kan vi ofte spare mye tid eller øke kvaliteten dramatisk.

Her er et eksempel på en slik prosess:

Du bør med andre ord kartlegge prosessen du vil forbedre, få innsikt fra aktørene og kundene om hva som fungerer godt og hva som er “pain points”, og deretter vurdere hvilken endring som kreves. Teknologi og av og til generativ AI kan som vist i eksemplet spille en stor rolle. Men ikke alltid.

Det vanskelige er ikke teknologien

Alle de store aktørene innen dataplattformer har kommet med løsninger som gjør oppsett av disse kapabilitene relativt enkelt. Eksempler er Databricks Mosaic og Snowflake Cortex.

Som vanlig er de største utfordringene for å få effekt a) oss mennesker, inkludert å bli tilstrekkelig tydelige på formål og mål, b) endringer som må håndteres for hver enkelt og c) ikke minst i hvilken grad vi har kontroll på dataene i seg selv.

Lyst til å lære mer?

DigDir har utviklet en veileder for ansvarlig bruk og utvikling av kunstig intelligens, som er like relevant i privat som offentlig sektor. NAV har også utviklet en veileder, spesielt mot generativ AI. Digital Norway lager gode introduksjoner til ulike tema, inkludert kunstig intelligens.

Hør gjerne også på podcasten “Datautforskerne”, episode 6, der Kjetil Åmdal-Sævik og Magne Bakkeli snakker om Generativ AI, selv om de selv påstår at de er lei av å snakke om det. Episoden er tilgjengelig på Spotify, Apple og Acast.

Lik og abonnér!