Hvad en sprogmodel kan bruges til, når data er fortrolige

Diskussionen om sprogmodeller og fortrolighed ender ofte to steder: enten må vi ikke bruge dem, eller også bruger vi dem uden at have set på, hvad der faktisk sendes hvorhen. Begge dele er en beslutning, der er truffet uden at blive stillet.

Spørgsmålet er opsætningen, ikke modellen

Den samme model kan være forsvarlig i én opsætning og uforsvarlig i en anden. Det, der afgør det, er, hvor data behandles, om de gemmes, om de indgår i træning, og hvem der har adgang til logfilerne. Det står i aftalen med leverandøren, ikke i modellens navn.

Start derfor med at få aftalen frem og læse de fire punkter. Hvis de ikke kan besvares, er svaret på, om værktøjet må bruges til fortroligt materiale, nej, uanset hvor godt det ellers fungerer.

De opgaver, der holder

Omskrivning af noget, du selv har skrevet. Sammenfatning af et dokument, du selv har. Udkast til en tekst, du selv skal redigere. Forklaring af et begreb, hvor svaret kan kontrolleres andre steder. Fælles for dem er, at du kan se, om resultatet er rigtigt, uden at spørge modellen igen.

De opgaver, der ikke holder

Alt, hvor svaret er en oplysning, du ikke selv kan efterprøve, og hvor det er oplysningen, du er ude efter. En model skriver lige så flydende, når den tager fejl, og der er ingen markør i teksten, der viser hvornår.

Det gælder også kildehenvisninger. En henvisning, der ser rigtig ud, er ikke det samme som en henvisning, der findes.

Den praktiske regel

Hvis du ikke ville skrive indholdet i en mail til en ekstern samarbejdspartner uden at tænke over det, så skriv det ikke i et værktøj, hvis behandling af data du ikke har set på. Reglen er grovkornet, og den fanger det meste.