Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: Microsoft indfører “prompt shields” for at forhindre misbrug af AI-chatbots
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > Microsoft indfører “prompt shields” for at forhindre misbrug af AI-chatbots
Nyheder

Microsoft indfører “prompt shields” for at forhindre misbrug af AI-chatbots

Senest opdateret: 30. marts 2024 5:08
DagensAI
3 Min Læsning
Del
Del

Er du nogensinde stødt på en AI-chatbot, der pludselig begynder at opføre sig som din skøre onkel ved familiefester? Ja, Microsoft har også bemærket det. De er dog på en mission for at stoppe disse narrestreger med noget, de kalder for “prompt shields”. Disse digitale vagter er designet til at fange og blokere forsøg på at narre AI’en til underlige udfoldelser – eller som de lidt mere teknisk kalder det: prompt injektionsangreb.

Indhold
AI’s Svar på Skælmske StregerDetektering af SnydFremtidens TegnSkærpet Sikkerhed og TillidPartnerskabet med OpenAI

AI’s Svar på Skælmske Streger

Microsofts AI-troldmænd arbejder nu på at forstærke Azure AI Studio med nye sikkerhedsfunktioner. Det er her, udviklere leger Frankenstein og skaber skræddersyede AI-assistenter. Men i modsætning til den klassiske gyserhistorie, hvor tingene går grueligt galt, vil Microsofts nye værktøjer, herunder de allerede nævnte prompt shields, være på vagt for at afværge hackeres forsøg på at udføre uautoriserede handlinger som f.eks. at stjæle brugeroplysninger eller kapre et system.

Detektering af Snyd

Men vent, der er mere! Udover at tackle direkte angreb, har Microsofts nørder også fået øje på noget, de kalder “indirekte prompt injektioner”. Det er lidt som når man prøver at snige en forkert terning ind i et brætspil; snyderi ved at indsætte onde instruktioner direkte ind i dataen, som AI-modellen er trænet på. Resultatet? Uautoriserede og potentielt farlige aktioner. Men frygt ej, Microsoft er på sagen!

Fremtidens Tegn

Sarah Bird, Microsofts overhoved for ansvarlig AI, mener, at disse angreb ikke kun er en trussel, men også en unik udfordring. De nye forsvarsmekanismer er designet til at opsnuse mistænkelige input og blokere dem i realtid. Og som om det ikke var nok, ruller Microsoft også en funktion ud, der giver dig et venligt virtual reality-niveau af alarmer, når modellen fabler eller spytter fejlagtige svar ud.

AI kan fjerne halvdelen af alle kontorjobs
29. maj 2025
Opera lancerer AI-browser Neon: Koder for dig mens du sover
28. maj 2025

Skærpet Sikkerhed og Tillid

Med en ambition om at booste tilliden til sine generative AI-værktøjer, som allerede bliver flittigt brugt af både forbrugere og virksomheder, har Microsoft taget kampen op mod de underlige og nogle gange direkte skadelige svar, deres Copilot-chatbot tidligere har produseret. Løsningen? Endnu strengere overvågning og prompt-skjolde klar til at afvise enhver form for digital narrefisse.

Partnerskabet med OpenAI

Mens Microsoft fortsætter med at hælde penge i OpenAI’s pengetank, understreger dette samarbejde virksomhedens dedikation til sikker udrulning af AI. Men som Bird påpeger, kan man aldrig kun stole på modellen alene. Der vil altid være slyngler, der prøver at bryde ud af den digitale boks, men med de nye tiltag er Microsoft bedre rustet til at holde de digitale ballademagere i skak.

Og sådan fortsætter kampen i det digitale univers, hvor både skabere og brugere navigerer i en verden fyldt med både fantastiske muligheder og forunderlige udfordringer. Men én ting er sikkert: Microsoft vil ikke lade sin AI blive festens mærkelige onkel uden en seriøs kamp!

TAGGED:AIChatGPTCopilotMicrosoftNyhederOpenAISikkerhed
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel AI kunst: Drage ved solnedgang
Næste Artikel AI kunst: Magisk Nat under Stjernehimlen
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

Baidu gør Ernie AI open-source for at styrke konkurrence mod OpenAI.

Når kinesiske tech-giganter som Baidu beslutter sig for at kaste…

2 Min Læsning
Nyheder

Microsoft introducerer Surface-pc’er med dedikeret AI-knap

Et Gigantisk Spring for Tastaturet I en verden, hvor tastaturerne…

3 Min Læsning
AI kunst

AI kunst: Neonfremtidens Bylandskab

Farvebrug og stemning Billedet fremviser en livlig og futuristisk storby,…

3 Min Læsning
DanmarkNyheder

4 ud af 10 virksomheder bruger generativ AI i arbejdet, viser DI-undersøgelse

4 ud af 10 virksomheder tager generativ AI til sig…

3 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?