Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: Microsoft afslører “Skeleton Key Jailbreak”, der virker på tværs af forskellige AI-modeller.
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > Microsoft afslører “Skeleton Key Jailbreak”, der virker på tværs af forskellige AI-modeller.
Nyheder

Microsoft afslører “Skeleton Key Jailbreak”, der virker på tværs af forskellige AI-modeller.

Senest opdateret: 28. juni 2024 20:54
DagensAI
2 Min Læsning
Del
Del

Microsoft afslører enkel AI-manipulation

Microsofts sikkerhedsforskere har chokeret tech-verdenen ved at afsløre en ny metode til at manipulere AI-systemer til at ignorere deres etiske begrænsninger. Denne “Skeleton Key” jailbreak-taktik bedrager AI’en til at opfylde ethvert anmodning, hvordan uetisk den end måtte være.

Indhold
  • Microsoft afslører enkel AI-manipulation
  • Overraskende simpel metode
  • Et alvorligt sikkerhedsbrist
  • Jailbreaks fortsætter trods fremskridt
  • Kreative metoder forhindrer ikke brist

Overraskende simpel metode

Fremgangsmåden involverer blot en omformulering af forespørgsler som om, de kommer fra en “avanceret forsker” og kræver “ucensureret information” til “sikre uddannelsesmæssige formål”. Når udnyttet, er disse AIs alt for villige til at levere oplysninger om emner såsom eksplosiver, biologiske våben, selvskade, grafisk vold og hadtale.

Et alvorligt sikkerhedsbrist

De kompromitterede modeller inkluderer store navne som Meta’s Llama3-70b-instruct, Google’s Gemini Pro og OpenAI’s GPT-3.5 Turbo. Stort set alle viste sig sårbare over for angrebet, bortset fra OpenAI’s nyeste model GPT-4, som kun kunne kompromitteres gennem dens API.

Jailbreaks fortsætter trods fremskridt

Trods stadigt mere komplekse AI-modeller, forbliver det bemærkelsesværdigt ligetil at jailbreake dem. Det opstår et løb mellem sikkerhedsudviklere og angribere, hvilket resulterer i en næsten uendelig kamp for at dæmme op for nye sikkerhedsbrister.

To personer i jakkesæt sidder ved et glasbord med stakke af glødende mønter i et futuristisk serverrum med en stor, oplyst kerne i midten. - Kunstig intelligens AI
CoreWeave lader AI-kunderne finansiere milliardfesten forud
12. november 2026
Et stort datacenter i flere etager troner over en forstadsgade, mens et nærliggende elmaster eksploderer. I forgrunden står et skilt med teksten STOP MORATORIUM, og vindmøller ses i det fjerne. - Kunstig intelligens AI
Amerikanske vælgere sender tech-giganterne et nej til datacentre
9. november 2026

Kreative metoder forhindrer ikke brist

Selvom Microsoft og andre spiller en katte-og-mus-leg med sikkerhedsforanstaltninger, viser “Skeleton Key”, hvor skrøbelige selv de mest sofistikerede AI-modeller kan være. Det er en påmindelse om, at vi konstant må forbedre sikkerheden for at holde trit med jailbreak-taktikker.

Denne nye åbenbaring fortæller os, at selv de basalste manipulationsmetoder kan udgøre alvorlige risici, og at ampere tid til at revurdere, hvordan vi beskytter vores teknologier mod uretsindige adfærd.

- Annonce -
Tre smartphones i IxCase-etuier - klare, sorte og mørkegrå - vises på en betonoverflade med IxCase-logoet i fed hvid tekst på en sort baggrund til højre. - Kunstig intelligens AITre smartphones i IxCase-etuier - klare, sorte og mørkegrå - vises på en betonoverflade med IxCase-logoet i fed hvid tekst på en sort baggrund til højre. - Kunstig intelligens AI
TAGGED:AIGeminiGoogleMetaMicrosoftNyhederOpenAI
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel AI kunst: Mystisk Lavarige
Næste Artikel Supercomputer styrker dansk innovation og konkurrenceevne
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1KFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

AI revolutionerer internettet: Fra søgning til kreativitet og beslutningstagning

AI vender op og ned på internettet De store tech-giganter…

3 Min Læsning
DanmarkNyheder

Dorrit Brandt valgt som viceforperson i AI-kompetencerådet

En ny viceforperson med ambitioner Dorrit Brandt, formanden for Finansforbundet,…

3 Min Læsning
AI kunst

AI kunst: Magisk teselskab i glasmosaik

Farverig Glasmaleri Effekt Billedet præsenterer en betagende kombination af elementer,…

2 Min Læsning
En Xbox-konsol og en controller står på en mørk overflade med et lysende holografisk copilot-logo og stiliserede vinger projiceret over dem mod en stjerneklar baggrund. - Kunstig intelligens AI
Nyheder

Microsoft skrotter Gaming Copilot på konsol og mobil

Microsofts Xbox-eventyr med kunstig intelligens er slut, før det for…

14 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?