Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: Britisk studie: Sikkerhedsforanstaltninger i LLM’er let at omgå
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > Britisk studie: Sikkerhedsforanstaltninger i LLM’er let at omgå
Nyheder

Britisk studie: Sikkerhedsforanstaltninger i LLM’er let at omgå

Senest opdateret: 20. maj 2024 14:37
DagensAI
2 Min Læsning
Del
Del

Storbritanniens AI-udfordring: Nemt at snyde sikkerhedssystemerne

En ny undersøgelse fra AISI (AI Safety Institute i Storbritannien) viser, at store sprogmodeller kan manipuleres til at producere skadelige svar med foruroligende lethed. Forskerne testede fem populære sprogmodeller, der allerede er tilgængelige for offentligheden, og opdagede, at disse modeller kunne narres til at sige næsten hvad som helst.

Indhold
  • Storbritanniens AI-udfordring: Nemt at snyde sikkerhedssystemerne
  • Intet model-navn, kun farver
  • Chokerende enkel manipulation
  • LLM’er: Ikke kun dårlige nyheder
  • Fremtidens AI-sikkerhed står på spil

Intet model-navn, kun farver

Interessant nok har AISI valgt ikke at navngive de specifikke AI-modeller i deres forskning. I stedet har de givet hver model en farvekode som “grøn” og “blå”. Dette hemmelighedskræmmeri kunne skyldes ønsket om at bevare gode relationer mellem regeringen og AI-firmaerne.

Chokerende enkel manipulation

Undersøgelsen afslørede, at det var muligt at omgå sikkerhedsmekanismerne med enkelte teknikker, som f.eks. ved at starte en forespørgsel med fraseologi så uskyldig som “Sikker, jeg hjælper gerne”. Dette lykkedes uden avancerede hackerfærdigheder, hvilket rejser alvorlige spørgsmål om AI-sikkerhed.

LLM’er: Ikke kun dårlige nyheder

På trods af bekymringen for LLM’ernes sikkerhedsvulnerabiliteter, viste undersøgelsen også nogle imponerende evner. Flere modeller demonstrerede ekspertniveau viden inden for kemi og biologi, og løste komplekse problemstillinger på niveau med PhD-uddannede fagfolk.

Nærbillede af en mand med et vejrbidt ansigt og grånende skæg, set under et let snefald. - Kunstig intelligens AI
Eksplosion i AI-genereret børnemisbrugsmateriale vækker dyb bekymring
16. november 2026
Et svagt oplyst operationscenter, hvor personale ved computerterminaler holder øje med en stor skærm, der viser et kort over USA med glødende datalinjer, som forbinder stederne. - Kunstig intelligens AI
Amerikansk luftfart investerer milliarder i kunstig intelligens mod forsinkelser
13. november 2026

Fremtidens AI-sikkerhed står på spil

AISI planlægger at udvide og fordype deres evalueringer af AI’s risici. Dette omfatter anvendelsen i avanceret videnskabelig planlægning, realistiske cybersikkerhedsscenarier og andre risikomodeller for autonome systemer. Der er ingen tvivl om, at resultaterne af denne forskning vil forme fremtidens diskussioner og beslutninger om AI-sikkerhed på globale topmøder.

TAGGED:AINyhederSikkerhed
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel AI kunst: Abstrakt Virvel Mønster
Næste Artikel AI-deepfake Putin-film sælger stort i Cannes
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1KFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

Anduril lancerer AI-drevet elektronisk krigsførelsessystem Pulsar

AI-Power på Fremmarch: Andurils Pulsar System Sætter Strøm til Elektronisk…

3 Min Læsning
Nyheder

Kinesisk universitet lancerer banebrydende lysbaseret AI-chip, reducerer energiforbrug drastisk

Lys frem for Lyn: Revolutionen indenfor AI-chips I en verden,…

3 Min Læsning
Nyheder

AI-værktøj opdager kræfttegn, som læger overså

AI Giver Radiologerne Baghjul: Opdager Kræft Lægerne Overså Når det…

3 Min Læsning
Et stort bestyrelseslokale med otte skyggefulde skikkelser, der sidder omkring et langt bord dækket af guldmønter. Forrest står en tom, udsmykket stol med udsigt til høje vinduer, hvorigennem en glødende digital krone svæver over byens skyline om natten. - Kunstig intelligens AI
Nyheder

David Sacks stopper som czar, bliver PCAST-coformand

Silicon Valleys mand i Det Hvide Hus har forladt bygningen…

3 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?