Back to AI TrendsRegulatory Shift
Anthropic advarer mod risici ved open-weights modeller: Sikkerhed skal prioriteres over åbenhed
Anthropic Blog July 27, 2026
Anthropic har netop offentliggjort deres officielle holdning til open-weights modeller, hvor de advarer om, at ukontrolleret adgang til kraftfulde AI-modeller kan skabe uoverstigelige sikkerhedsrisici. For beslutningstagere betyder det en skærpet debat om balancen mellem innovation via Open Source og behovet for centraliseret kontrol for at undgå misbrug.
Key Intelligence
- •Anthropic argumenterer for, at 'open-weights' ikke er det samme som traditionel 'Open Source', da AI-modeller kræver enorme ressourcer og medfører unikke risici.
- •Virksomheden frygter, at ondsindede aktører kan fjerne sikkerhedsfiltre fra open-weights modeller og bruge dem til cyberangreb eller biologisk krigsførelse.
- •Der foreslås en differentieret model, hvor kun modeller under en vis kapacitetsgrænse bør være frit tilgængelige for offentligheden.
- •Anthropic opfordrer til lovgivning, der holder udviklere ansvarlige, hvis deres open-weights modeller forårsager 'katastrofale hændelser'.
- •Det pointeres, at når først vægtene i en model er frigivet, kan de aldrig trækkes tilbage, hvilket gør fejltagelser permanente.
- •Indlægget markerer en tydelig filosofisk kløft mellem lukkede spillere som Anthropic/OpenAI og fortalere for åbenhed som Meta og Mistral.