Dagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Reading: Warren og Trahan kræver svar fra OpenAI om sikkerhedspraksis
NYHEDSBREV
Dagens AIDagens AI
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Søg
  • Nyheder
  • Danmark
  • Artikler
  • AI kunst
  • AI Chat
Har du en konto? Log ind
Follow US
© DagensAI. Alle Rettigheder Forbeholdes.
Dagens AI > Nyheder > Warren og Trahan kræver svar fra OpenAI om sikkerhedspraksis
Nyheder

Warren og Trahan kræver svar fra OpenAI om sikkerhedspraksis

Senest opdateret: 9. august 2024 3:10
DagensAI
3 Min Læsning
Del
Del

Sikkerhedsspørgsmål hos OpenAI: Lovgivere kræver svar fra Sam Altman

U.S. lovgivere, herunder Senator Elizabeth Warren og Repræsentant Lori Trahan, har rejst bekymringer om OpenAI’s sikkerhedspraksis og behandlingen af interne whistleblowere. De kræver nu klarhed fra OpenAI’s CEO Sam Altman om virksomhedens protokoller for whistleblowerbeskyttelse og sikkerhedsevalueringer.

Indhold
Sikkerhedsspørgsmål hos OpenAI: Lovgivere kræver svar fra Sam AltmanSikkerhedsbekymringerWhistleblower-beskyttelseOpenAI’s svarEn bredere kontekst

Sikkerhedsbekymringer

I 2022 blev en ikke-godkendt pre-release version af GPT-4 testet inden for en ny Microsoft Bing søgemaskine i Indien, før den havde modtaget godkendelse fra OpenAI’s sikkerhedskomité. I 2023 blev CEO Sam Altman kortvarigt fjernet på grund af bestyrelsens bekymringer om ‘kommercialisering af fremskridt uden fuld forståelse af konsekvenserne’.

Anonyme kilder har hævdet, at OpenAI fremskyndede sikkerhedsevalueringerne og opløste Superalignment-teamet, som var ansvarlige for sikkerhedstilsyn. Derudover trak en sikkerhedsleder sig med henvisning til, at ‘sikkerhedskultur og processer er blevet overskygget af prangende produkter’.

Whistleblower-beskyttelse

Lovgiverne søger oplysninger om beskyttelsen af whistleblowere og interessekonflikter for at afgøre, om føderal indgriben kan være nødvendig. Warren og Trahan har anmodet Altman om indsigt i brugen af den nye AI-sikkerhedshotline til medarbejdere og hvordan virksomheden håndterer rapporter.

Børn får adgang til Google Gemini – forældre bestemmer
3. maj 2025
Nyt AI-forskningscenter åbner i Danmark i dag
9. maj 2025

Senatorerne har også spurgt ind til OpenAI’s politik for interessekonflikter og om CEO Sam Altman er blevet tvunget til at afhænde nogen eksterne investeringer samt hvilke foranstaltninger der er på plads for at beskytte OpenAI mod hans økonomiske konflikter.

OpenAI’s svar

OpenAI har for nylig udgivet et systemkort for deres GPT-4o model, som klassificerede det som ‘middel’ risiko på grund af potentielle risici som uautoriseret stemmegengivelse, eksplicit indhold og ophavsretligt beskyttet audio. Virksomheden har fjernet ikke-nedgørelsesklausuler fra ansættelsesaftaler og samarbejder med det amerikanske AI Safety Institute, hvor de allokerer 20% af deres computerressourcer til sikkerhed.

En bredere kontekst

Andre lovgivere har også søgt indsigt i OpenAI’s sikkerhedsforanstaltninger, herunder en gruppe senatorer, der har anmodet om yderligere detaljer vedrørende OpenAI’s reaktioner på sikkerhedsproblemer. Særligt Californisk stats senator Scott Wiener arbejder for lovgivning, der skal regulere store sprogmodeller og holde virksomheder juridisk ansvarlige for skadelige anvendelser af deres AI. Forhåbentlig kan dette presse OpenAI til at forbedre deres sikkerhed og gennemsigtighed – ellers risikerer de at blive standset af lovgivningens lange arm.

TAGGED:AIMicrosoftNyhederOpenAISam AltmanSikkerhed
Del denne artikel
Facebook Email Copy Link Print
Forrige Artikel AI kunst: Neonlys på en Bar
Næste Artikel Palantir og Microsoft indgår partnerskab om AI i national sikkerhed
Ingen kommentarer Ingen kommentarer

Skriv et svar Annuller svar

Du skal være logget ind for at skrive en kommentar.

200FollowersLike
300FollowersFollow
1kFollowersPin
- Annonce-
Japanske Plakater

Relaterede AI Artikler

Nyheder

Italien tester AI i skoler for at forbedre digitale kompetencer

Italien har kastet sig ind i fremtiden ved at introducere…

2 Min Læsning
Nyheder

Google introducerer usynligt AI-vandmærke for at afsløre billede-manipulation

Google sætter AI-vandmærker på redigerede billeder – og det er…

3 Min Læsning
AI kunst

AI kunst: Fremtidsby ved Skumring

Komposition og Perspektiv Det første, der springer i øjnene ved…

2 Min Læsning
AI kunst

AI kunst: Astronaut i sommerfugleuniverset

Motiv og Komposition Billedet viser en astronaut, der svæver i…

2 Min Læsning
Dagens AIDagens AI
Follow US
© DagensAI. Danske AI nyheder.
  • Privatlivspolitik
  • Kontakt
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?