Hva er syntetisk data?

Syntetisk data er kunstig generert data – ofte av AI selv – som brukes til å trene andre AI-modeller, i stedet for eller i tillegg til ekte data fra den virkelige verden.

Kort forklart Vi nærmer oss «peak data» – mesteparten av internettets kvalitetstekst er allerede brukt til AI-trening. Hva gjør vi da? Én løsning: bruke AI til å generere treningsdata for AI. GPT-4 genererer tekst som brukes til å trene Llama. Syntetiske bilder trener bildemodeller. Det løser dataknapphet, personvernproblemer og bias – men risikerer «model collapse» hvis AI bare trenes på AI-generert innhold.

Hva betyr begrepet

Syntetisk data genereres av algoritmer i stedet for å samles fra den virkelige verden. Typer inkluderer tekst (GPT-4 genererer instruksjoner, dialoger, forklaringer for å trene mindre modeller), bilder (diffusjonsmodeller genererer treningsbilder – spesielt nyttig for sjeldne medisinske tilstander), tabelldata (generere realistiske men fiktive kundeprofiler for testing), og simuleringer (selvkjørende biler trenes i virtuelle verdener – millioner av kjørekilometer uten ekte biler).

Bruksområder er dataknapphet (for sjeldne sykdommer: 50 ekte røntgenbilder + 5 000 syntetiske = bedre modell), personvern (generere realistiske men fiktive pasientdata – ingen ekte personer eksponert), bias-korreksjon (generere data for underrepresenterte grupper for å balansere datasettet), og kostnadsbesparelse (syntetisk data er billigere enn å samle og annotere ekte data).

Hvordan fungerer det

AI genererer data som brukes til å trene annen AI.

Metode 1 – Destillasjon:
GPT-4 (sterk modell) → Genererer 100 000 instruksjon-svar-par → Brukes til å trene Llama 8B (mindre modell) → Llama 8B blir bedre

Metode 2 – Augmentering:
50 ekte røntgenbilder av sjelden tilstand → AI genererer 5 000 varianter (rotert, justert, syntetisk) → Modell trent på 5 050 bilder → Mye bedre enn bare 50

Metode 3 – Simulering:
Virtuell by i Unreal Engine → Selvkjørende bil-AI kjører millioner av km → Lærer trafikkregler, uhell, vær → Overføres til ekte bil

Hvorfor er det viktig

AI-industrien nærmer seg et dataproblem. Det meste av tilgjengelig kvalitetstekst på internett er allerede brukt. Syntetisk data er den mest lovende løsningen – men risikoen er «model collapse»: hvis AI bare trenes på AI-generert data, forsterkes feil og modellen degenererer over generasjoner. Balansen mellom ekte og syntetisk data er kritisk.

Eksempler

Alpaca: Stanford finjusterte Llama 7B med 52 000 instruksjoner generert av GPT-4 – resultatet konkurrerte med mye større modeller. Syntetisk data som snarvei.

Medisinsk AI: Et sykehus har 200 bilder av en sjelden krefttype. De genererer 10 000 syntetiske varianter. Modellen oppdager kreften 15 prosent bedre.

Model collapse: En studie viste at modeller trent utelukkende på AI-generert tekst over flere generasjoner mister mangfold og kvalitet – de konvergerer mot gjennomsnittlig, kjedelig output.

Relaterte begreper

• Treningsdata – det syntetisk data erstatter/supplerer
• Overfitting – syntetisk data kan forsterke det
• Bias i AI – syntetisk data kan korrigere bias
• Maskinlæring – prosessen som bruker data
• Kunstig intelligens – det overordnede feltet

Se også

• Hva er treningsdata?
• Hva er overfitting?

Oppsummering

Syntetisk data er AI-generert treningsdata – løser dataknapphet, personvern og bias. GPT-4 genererer data for å trene mindre modeller. Syntetiske bilder forbedrer medisinsk AI. Risikoen er model collapse – AI trent på kun AI-data degenererer. Balansen mellom ekte og syntetisk data er nøkkelen. Det er en av AI-industriens viktigste fremtidstrender.