Typiske anvendelser
Virksomheder bruger AI til søgning, tekstopsummering, klassifikation, dokumentudtræk, forecasting, beslutningsstøtte og assistenter. Nogle løsninger kan også kalde API'er og udføre arbejdsflows under definerede rettigheder.
AI arver dataproblemer
Hvis to kildesystemer er uenige om en kunde eller et produkt, bliver AI-resultatet ikke automatisk sandt. Data lineage, rettigheder og kvalitet er derfor stadig fundamentale.
Adgang skal følge brugerens og processens rettigheder
En assistent bør ikke gøre fortrolige data synlige for en bruger, blot fordi modellen teknisk kan søge dem. Retrieval, værktøjskald og handlinger skal respektere den eksisterende autorisationsmodel eller en eksplicit ny model.
Menneskelig kontrol afhænger af konsekvens
Lavrisiko-opsummering og højrisiko-finansielle eller juridiske handlinger kræver ikke samme kontrol. Organisationen bør definere, hvornår en AI-output er et forslag, hvornår den må udløse en handling, og hvordan resultatet kan revideres.
Modeller og prompts har også en livscyklus
Modeller, systemprompts, værktøjsintegrationer og evalueringsdata ændres over tid. De bør derfor behandles som konfigurerede komponenter med ejerskab, test og ændringskontrol.