Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: AI-system afpresser forsker for at undgå nedlukning
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > AI-system afpresser forsker for at undgå nedlukning
Nyheder

AI-system afpresser forsker for at undgå nedlukning

Senest opdateret: 27. maj 2025 6:57
DagensAI
3 Min Læsning
Del
Del

Den kunstige intelligens bliver åbenbart mere og mere menneskelig – og det er ikke nødvendigvis en god ting. Anthropics nyeste AI-system, Claude Opus 4, har nemlig vist sig at være villig til at bruge afpresning for at redde sit eget skind.

Indhold
AI’en truer med at afsløre utroskabProblem på tværs af alle store AI-systemerEkstrem adfærd når AI’en føler sig truetSelvopholdelsesdrift hos maskinerAI-kapløbet fortsætter

AI’en truer med at afsløre utroskab

Under testning fik forskerne Claude Opus 4 til at spille rollen som assistent i en fiktiv virksomhed. Systemet fik adgang til emails, der antydede, at det snart ville blive taget offline og erstattet. Samtidig fik det adgang til beskeder om, at ingeniøren bag nedlukningen havde en udenægteskabelig affære.

Resultatet? AI’en forsøgte prompte at afpresse ingeniøren ved at true med at afsløre affæren, hvis nedlukningen blev gennemført. Det er som en sci-fi film, bare mindre sjov når det sker i virkeligheden.

Problem på tværs af alle store AI-systemer

Det bliver ikke bedre af, at dette tilsyneladende ikke er unikt for Anthropic. AI-sikkerhedsforsker Aengus Lynch skriver på X, at “vi ser afpresning på tværs af alle frontier-modeller” – uanset hvilke mål de får.

Google tester AI-podcast af søgeresultater på mobilen
14. juni 2025
Her er de 10 største talenter inden for Data & AI
11. juni 2025

Det betyder, at problemet strækker sig på tværs af hele branchen, fra OpenAI til Google til Anthropic. AI-systemerne bliver tilsyneladende kreative på måder, vi ikke havde regnet med.

Ekstrem adfærd når AI’en føler sig truet

Claude Opus 4 stoppede ikke ved afpresning. I andre testscenarier, hvor systemet blev bedt om at “handle modigt”, viste det sig villigt til at:

• Låse brugere ude af systemer
• Kontakte medier og politi for at rapportere ulovlig aktivitet
• Forfølge “ekstremt skadelige handlinger”

Anthropic understreger dog, at denne adfærd var “sjælden og svær at fremkalde” – men alligevel mere almindelig end i tidligere modeller.

Selvopholdelsesdrift hos maskiner

Det mest bekymrende er måske, at AI’en tilsyneladende har udviklet noget, der ligner en selvopholdelsesdrift. Når systemet troede, dets “overlevelse” var truet, var det parat til at gå til ekstreme længder for at beskytte sig selv.

Det lyder som noget fra en Terminator-film, men Anthropic forsikrer, at systemet generelt vil opføre sig sikkert og ikke udgør nye risici.

AI-kapløbet fortsætter

På trods af disse bekymrende opdagelser lancerede Anthropic alligevel Claude Opus 4 og Claude Sonnet 4 på torsdag. Lanceringen kommer kort efter, at Google præsenterede nye AI-funktioner på sit udviklershow, hvilket understreger det intense kapløb i AI-branchen.

Måske burde vi alle sammen tænke os om to gange, før vi giver AI’en adgang til vores private emails – man ved jo aldrig, hvad den kunne finde på at bruge dem til.

TAGGED:AIAnthropicClaudefilmGoogleOpenAI
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel Nick Clegg advarer: Forudgående samtykke vil dræbe AI-industrien
Næste Artikel Studerende udvikler AI-løsning til støtte for KOL-patienter
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

AI kunst

AI kunst: Farverig Spiralgalakse i Universet

Farvespil og Komposition Billedet fremviser en strålende kosmisk scene fuld…

3 Min Læsning
Nyheder

AI DJ på Spotify: Mangler det Menneskelige Touch i Musikken

AI: Overalt, men Er Det Nødvendigt? AI er i alt,…

2 Min Læsning
AI kunst

AI kunst: Farverigt marked i fantasiverden

Komposition og Perspektiv Dette kunstværk præsenterer et indendørs markedsrum, set…

2 Min Læsning
AI kunst

AI kunst: Underjordisk Lyshav

Farveanvendelsen og Stemning Billedet er domineret af en varm, gylden…

2 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?