Republic / Artiklar /

Artikeln uppdaterad 2026-06-04.
Skriven av Christofer Sandin.

UX-design för AI

För de flesta är AI en svart låda. Något som producerar svar utan att förklara hur eller varifrån resultatet kommer, ofta med en självsäkerhet som inte står i proportion till hur det faktiskt fungerar. När användaren inte förstår vad som händer eller varför, blir det också svårt att lita på resultatet.

Lösningen är inte att försöka göra den svarta lådan helt transparent. Vi vet inte exakt varför en språkmodell väljer ett ord framför ett annat, utan det är en komplex sannolikhetslära som går över huvudet på de flesta av oss.

Men, vi kan göra något annat. Vi kan byta ut den svarta plåten mot plexiglas. Inte för att visa själva mekaniken, utan för att visa processen och vad som händer, vilka val som görs och med vilken säkerhet. Det är där vi kan bygga tillit, och det är där vi som bygger AI-tjänster har ett jobb att göra.

Kalibrera tillit mellan misstro och övertro

Tillit till AI är inte en skala där "mer" alltid är bättre. Det är en zon mellan två olika misslyckanden:

  • Aktiv misstro. Användaren litar inte på systemet och ignorerar det, vilket gör hela processen meningslös.
  • Övertillit och automation bias. Användaren accepterar systemets utdata utan granskning, vilket kan vara katastrofalt när det blir fel.

Det vi ska sikta mot är något vi kan kalla kalibrerad tillit – ett förtroende som är proportionerligt mot vad systemet faktiskt kan leverera, situation för situation. Det är inte en falsk övertygad tillit, utan en tillit som vilar på fyra ben:

  • Förmåga att faktiskt utföra uppgiften.
  • Välvilja för att agerar i mitt intresse, utan dolda motiv.
  • Integritet så att processen är transparent och etisk.
  • Förutsägbarhet för att göra konsekventa bedömningar över tid.

En språkmodell bygger på sannolikhet och kan därför aldrig garantera tillit. Men den kanske kan sträva efter den genom att låta användaren bedöma de fyra dimensionerna.

Synliggör besluten där de fattas

Idag är feedback från AI-system antingen obefintlig eller överväldigande. Antingen får man bara en spinnande symbol och hoppas att något bra ska dyka upp, eller så blir det extremt mycket text som ingen läser. Båda fallen lämnar användaren utan möjlighet att förhålla sig till resultatet.

Det vi borde göra istället är något som kan kallas en Decision Node Audit. Transparens handlar i det här fallet om att synliggöra de ögonblick då AI frångår regler och gör en kvalificerad gissning. Det är dessa probabilistiska val som behöver bli synliga. Vi behöver inte visa upp varje token eller hela resonemangskedjan, utan de vägskäl där en deterministisk regel slutar och en sannolikhetsbedömning tar vid.

För ett rekommendationssystem i en e-handel kan det se ut så här:

  • Jämför sökord mot våra produkter...
  • Jämför ditt beteende mot liknande kunders köpmönster...
  • Värderar produktförslag med tanke på tillgängligt lager och leveranstid...

Varje sådan punkt är ett vägskäl. Och vid varje vägskäl är det värt att redovisa vad som valdes, varför och med vilken grad av tillförlitlighet. Om resultatet inte blir bra kan man i vissa fall dessutom backa bandet till ett tidigare val och se om en annan riktning hade varit bättre.

Det är ett fönster in till modellen. Det räcker långt – under förutsättning att vi också är ärliga med vad som händer. Konkret behöver vi tre saker.

  • Audit trails som visar var i processen vilket beslut togs.
  • Graceful error handling så att systemet inte tystnar eller fabulerar när något går fel.
  • En medveten distans till trust washing – ett sätt att ge intryck av transparens utan att faktiskt vara transparent.

Två exempel på hur trust washing kan se ut i praktiken:

En chattassistent svarar "Jag baserade det här på er senaste kvartalsrapport och försäljningstrenden de senaste sex månaderna" – fast modellen har aldrig läst dem. Den har genererat en rimlig motivering till varför svaret stämmer. Användaren tror sig ha fått en spårbar källhänvisning, men det är en ren fabrikation.

Ett analysverktyg visar "Tillförlitlighet: 92 %" bredvid en slutsats. Siffran ser exakt och vetenskaplig ut, men är inte kalibrerad mot några faktiska utfall – den är ett designval för att användaren ska känna sig trygg. Tryggheten vilar på en mätning som inte finns.

I båda fallen ser produkten transparent och tillförlitlig ut, men det finns ingen substans bakom påståendena. De är bara där för att ge oss falsk trygghet.

All transparens är inte gratis

Här är det lätt att gå till överdrift. Om vi visar varje val, varje sannolikhetstal och varje stegrad logg, drunknar användaren i information och tilliten urholkas snarare än byggs. Transparensen behöver matchas mot handlingens vikt.

En enkel modell är att tänka på AI:ns handlingar längs två axlar – effekt (låg eller hög konsekvens) och reversibilitet (lätt eller svår att ångra). I de fyra rutorna ser transparensen olika ut.

  • Lågrisk och reversibel. En diskret toast-notis räcker. AI kan döpa om en fil och bara nämna det i förbifarten.
  • Lågrisk men irreversibel. En enkel ångra-knapp – minimal friktion, men möjlighet att backa.
  • Hög effekt men reversibel. Synliga loggar och historik för asynkrona arbetsflöden, t.ex. när AI flyttar leads i ett CRM.
  • Hög effekt och irreversibel. Stoppa upp. Kräv aktivt mänskligt godkännande innan något händer – t.ex. en transaktion över ett visst belopp.

Det handlar om att visa rätt sak vid rätt tillfälle. Plexiglas är inte transparent på alla håll. Det visar det som behöver visas, där det behöver visas.

Misstro börjar med tystnad

En annan källa till otrygghet är när användaren inte vet om något väntas av dem eller om de bara ska vänta. Det är därför verktyg som Claude Code visuellt arbetar med kontinuerligt uppdaterade punktlistor som visar vad systemet gör i varje given stund.

En bra statusuppdatering har en enkel anatomi – aktivt ord + specifikt objekt + begränsning. Skillnaden mellan en svart låda och en transparent process ligger ofta i ordvalet.

  • Svagt: "Söker biljetter."
  • Starkt: "Letar flygresor med SAS för pris under 6000"

Det första budskapet säger ingenting. Det andra säger att systemet har förstått frågan, att det jobbar på den och vilken princip det följer. Användaren kan invänta resultatet i lugn och ro – och om det blir fel kan de se var det blev fel.

Lika viktigt är det att designa för partiell framgång. Agentiska system är en gråskala. Ofta lyckas 90% av uppgiften, men någon del fungerar inte. Det är då frestande att slänga ett gigantiskt felmeddelande, men det är fel respons. Istället bör vi visa upp det som lyckades, vara konkreta med vad som inte lyckades och varför. Exemplevis:

  • "flyg bokat"
  • "hotell bokat"
  • "hyrbil kräver din åtgärd – ingen tillgänglighet"

Ofta kan det vara en extern tjänst som strular, inte systemets egna funktioner.

Men är inte detta bara gammal hederlig UX?

Det kan vid första anblick se ut som en vanlig UX-fråga. Det är delvis sant. Men AI-baserade tjänster ses med viss skepsis redan från början, ofta innan användaren ens har testat dem en enda gång. Det betyder att transparens, feedback och förutsägbarhet inte är "nice to have" i de här systemen – de avgör om tjänsten över huvud taget får en chans.

Ju mer AI integreras i fler delar av människors liv, desto viktigare blir också uppsåt (intent) och integritet. Det räcker inte att systemet är transparent när det fattar beslut. Användarna behöver också kunna lita på varför beslutet har fattats.

Avslutningsvis

Plexiglas är oftast inte inte helt transparent, efter lite användning kan det bli oskarpt och svårt att se alla detaljer, men det är ok. Det visar det som behöver visas, och vi är inte ute efter ett stort panoramafönster, utan bara ett visst mått av transparens i processen.

För oss som bygger AI-tjänster handlar det om att designa de gränssnitt, varningssignaler och kontrollpunkter som låter en användare faktiskt lita på resultatet – med rätt sorts tillit, för rätt sorts uppgift. Och det är det som gör det möjligt att leverera något användbart framöver.

Referenser och mer information