En vanlig misforståelse er at språkmodeller er små leksikon som henter fakta fra en database. I virkeligheten er de avanserte regnemaskiner som beregner sannsynligheten for hvilket ord som bør komme som det neste.
Når en modell mangler tilstrekkelig informasjon, slutter den ikke alltid å skrive. I stedet fortsetter den å beregne ord basert på mønstre den har lært. Dette fører til det vi kaller hallusinering. Resultatet er tekst som ser veldig profesjonell og overbevisende ut, men som er helt uten rot i virkeligheten.
Her er noen tips for å redusere risikoen:
- Vær ekstremt spesifikk i instruksjonene dine.
- Be modellen bruke vedlagt tekst som eneste kilde.
- Bruk en lav temperaturinnstilling for å gjøre svarene mer forutsigbare.
Ved å forstå at modellen jobber med statistikk fremfor hukommelse, blir det lettere å bruke den på en trygg måte.