Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: OpenAI klassificerer GPT-4o som ‘medium’ risiko for påvirkning
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > OpenAI klassificerer GPT-4o som ‘medium’ risiko for påvirkning
Nyheder

OpenAI klassificerer GPT-4o som ‘medium’ risiko for påvirkning

Senest opdateret: 9. august 2024 6:07
DagensAI
2 Min Læsning
Del
Del

OpenAI vurderer GPT-4o som ‘medium’ risiko

OpenAI har klassificeret deres nyeste AI-model, GPT-4o, som ‘medium’ risiko i deres interne sikkerhedsramme. Denne vurdering er baseret på evalueringer fra både interne og eksterne teams, inklusive red teaming og testning af eksterne eksperter inden for områder som socialpsykologi, bias og misinformation.

Indhold
  • OpenAI vurderer GPT-4o som ‘medium’ risiko
  • Risici ved persuasion
  • Evaluering af forskellige kategorier
  • Foranstaltninger for risikoreduktion
  • Ekstern feedback og red teaming
  • Begrænset udrulning

Risici ved persuasion

GPT-4o vurderes specielt at have ‘medium’ risiko inden for persuasion. Forskere fandt ud af, at modellens skriftsamples har en højere potentiale til at påvirke læsernes meninger sammenlignet med menneskeskabt tekst, selvom dens overordnede overtalelsesevne ikke er overlegen.

Evaluering af forskellige kategorier

OpenAI’s evalueringsramme inkluderer kategorier som cybersikkerhed, biologiske trusler, persuasion og modelautonomi. Størstedelen af disse kategorier blev vurderet som ‘lav’ risiko, med undtagelse af persuasion.

Foranstaltninger for risikoreduktion

OpenAI har implementeret forskellige sikkerhedsforanstaltninger, herunder filtrering af træningsdata og finjustering af modellens adfærd efter træning. De har også gennemført automatiserede og menneskelige evalueringer gennem hele træningsprocessen.

En vintage skrivemaskine på et skrivebord af træ med papirark og digitale lysstrømme, der strømmer ud fra dens valse. - Kunstig intelligens AI
Kunstig intelligens skaber dyb krise og kaos i litteraturverdenen
15. november 2026
Nærbillede af en mand med blå øjne og et vejrbidt, snavset ansigt og skæg. - Kunstig intelligens AI
Kalifornien sagsøger OpenAI efter massivt AI-cyberangreb
17. november 2026

Ekstern feedback og red teaming

Modellen har gennemgået omfattende ekstern red teaming med over 70 eksperter fra forskellige domæner for at identificere risici og forbedre sikkerhedsforanstaltningerne.

Begrænset udrulning

Den indledende udrulning af GPT-4o inkluderer tekst- og billedkapaciteter, med udvidede lyd- og videotjenester, der vil blive frigivet til betroede partnere i de kommende uger.

- Annonce -
Tre smartphones i IxCase-etuier - klare, sorte og mørkegrå - vises på en betonoverflade med IxCase-logoet i fed hvid tekst på en sort baggrund til højre. - Kunstig intelligens AITre smartphones i IxCase-etuier - klare, sorte og mørkegrå - vises på en betonoverflade med IxCase-logoet i fed hvid tekst på en sort baggrund til højre. - Kunstig intelligens AI

OpenAI’s beslutning om at frigive GPT-4o systemkortet, der beskriver sikkerhedsprotokoller og risikovurderinger, ses som et skridt mod større gennemsigtighed i udviklingen og implementeringen af avancerede AI-modeller, i en tid med stigende bekymringer over deres potentielle risici og indvirkninger.

TAGGED:AINyhederOpenAI
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel Palantir og Microsoft indgår partnerskab om AI i national sikkerhed
Næste Artikel AI kunst: Tidens Grene
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1KFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

En drone svæver over en stille forstadsgade ved solnedgang, omgivet af moderne huse og træer, mens himlen er badet i et varmt skær. - Kunstig intelligens AI
Nyheder

DoorDash lancerer eget drone-leveringsprogram efter FAA-godkendelse

Farvel bilkøer – DoorDash tager til luftens rige! Glæd dig,…

3 Min Læsning
Nyheder

Google lancerer SynthID: Vandmærkeværktøj til AI-genereret indhold

Google lancerer SynthID: Et kraftfuldt våben mod AI-genereret misinformation Misinformation…

3 Min Læsning
Nyheder

Interview med Radovan Kavicky, AI- og datavidenskabsevangelist hos AIslovakIA

Den Slovakiske AI-Evangelist: Radovan Kavickys Vision Radovan Kavicky, AI &…

2 Min Læsning
DanmarkNyheder

Ny dansk AI-platform klar til at optimere arbejdsopgaver.

En Digital Superhelt i Kontorlandskabet Når kaffemaskinen er din bedste…

2 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?