Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: Microsoft indfører “prompt shields” for at forhindre misbrug af AI-chatbots
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > Microsoft indfører “prompt shields” for at forhindre misbrug af AI-chatbots
Nyheder

Microsoft indfører “prompt shields” for at forhindre misbrug af AI-chatbots

Senest opdateret: 30. marts 2024 5:08
DagensAI
3 Min Læsning
Del
Del

Er du nogensinde stødt på en AI-chatbot, der pludselig begynder at opføre sig som din skøre onkel ved familiefester? Ja, Microsoft har også bemærket det. De er dog på en mission for at stoppe disse narrestreger med noget, de kalder for “prompt shields”. Disse digitale vagter er designet til at fange og blokere forsøg på at narre AI’en til underlige udfoldelser – eller som de lidt mere teknisk kalder det: prompt injektionsangreb.

Indhold
AI’s Svar på Skælmske StregerDetektering af SnydFremtidens TegnSkærpet Sikkerhed og TillidPartnerskabet med OpenAI

AI’s Svar på Skælmske Streger

Microsofts AI-troldmænd arbejder nu på at forstærke Azure AI Studio med nye sikkerhedsfunktioner. Det er her, udviklere leger Frankenstein og skaber skræddersyede AI-assistenter. Men i modsætning til den klassiske gyserhistorie, hvor tingene går grueligt galt, vil Microsofts nye værktøjer, herunder de allerede nævnte prompt shields, være på vagt for at afværge hackeres forsøg på at udføre uautoriserede handlinger som f.eks. at stjæle brugeroplysninger eller kapre et system.

Detektering af Snyd

Men vent, der er mere! Udover at tackle direkte angreb, har Microsofts nørder også fået øje på noget, de kalder “indirekte prompt injektioner”. Det er lidt som når man prøver at snige en forkert terning ind i et brætspil; snyderi ved at indsætte onde instruktioner direkte ind i dataen, som AI-modellen er trænet på. Resultatet? Uautoriserede og potentielt farlige aktioner. Men frygt ej, Microsoft er på sagen!

Fremtidens Tegn

Sarah Bird, Microsofts overhoved for ansvarlig AI, mener, at disse angreb ikke kun er en trussel, men også en unik udfordring. De nye forsvarsmekanismer er designet til at opsnuse mistænkelige input og blokere dem i realtid. Og som om det ikke var nok, ruller Microsoft også en funktion ud, der giver dig et venligt virtual reality-niveau af alarmer, når modellen fabler eller spytter fejlagtige svar ud.

Meta lancerer AI-feed: Brugere forvirrede og bekymrede over privatliv
5. maj 2025
AI laver podcasts af dine tekster på sekunder
8. maj 2025

Skærpet Sikkerhed og Tillid

Med en ambition om at booste tilliden til sine generative AI-værktøjer, som allerede bliver flittigt brugt af både forbrugere og virksomheder, har Microsoft taget kampen op mod de underlige og nogle gange direkte skadelige svar, deres Copilot-chatbot tidligere har produseret. Løsningen? Endnu strengere overvågning og prompt-skjolde klar til at afvise enhver form for digital narrefisse.

Partnerskabet med OpenAI

Mens Microsoft fortsætter med at hælde penge i OpenAI’s pengetank, understreger dette samarbejde virksomhedens dedikation til sikker udrulning af AI. Men som Bird påpeger, kan man aldrig kun stole på modellen alene. Der vil altid være slyngler, der prøver at bryde ud af den digitale boks, men med de nye tiltag er Microsoft bedre rustet til at holde de digitale ballademagere i skak.

Og sådan fortsætter kampen i det digitale univers, hvor både skabere og brugere navigerer i en verden fyldt med både fantastiske muligheder og forunderlige udfordringer. Men én ting er sikkert: Microsoft vil ikke lade sin AI blive festens mærkelige onkel uden en seriøs kamp!

TAGGED:AIChatGPTCopilotMicrosoftNyhederOpenAISikkerhed
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel AI kunst: Drage ved solnedgang
Næste Artikel AI kunst: Magisk Nat under Stjernehimlen
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

AI kan frigøre 119 milliarder pund i britisk produktivitet

AI: Den nye superhelt i produktivitetskampen! Hvis du nogensinde har…

2 Min Læsning
Nyheder

Bumble overvejer AI-datingconcierger, men møder skepsis

Fremtidens Dating: AI som Kærlighedskonsulenter? Forestil dig en verden, hvor…

3 Min Læsning
Nyheder

Microsoft planlægger at bygge “Stargate”-supercomputer til 100 milliarder

Microsofts $100 Milliarder "Stargate": Transportbånd til Fremtidens AI I en…

3 Min Læsning
Nyheder

Booking CEO: Frustrationer? Kontakt AI-chatbots i stedet for kundeservice

AI-chatbots: Din nye rejsepartner til at håndtere frustrationer Er du…

2 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?