Ny Sikkerheds- og Sikkerhedskomité dannet hos OpenAI
OpenAI, den førende forskningslaboratorium inden for kunstig intelligens (AI), har dannet en ny komité for sikkerhed og sikkerhed med mål om at sikre sikkerheden og sikkerheden i sine AI-projekter og operationer. Denne komité kommer til at blive ledet af CEO Sam Altman og inkluderer bestyrelsesmedlemmerne Adam D’Angelo og Nicole Seligman.
Fokus på 90 Dages Anbefalinger
Komitéens primære opgave er at evaluere, styrke og komme med vigtige sikkerheds- og sikkerhedsanbefalinger inden for de næste 90 dage. Anbefalingerne vil derefter blive præsenteret for OpenAI’s bestyrelse til implementering. Målet er at sikre, at sikkerhed og sikkerhed er uadskillelige dele af OpenAI’s udviklingsproces.
Ekspertledelse og Medlemmer
Udover CEO Sam Altman, vil komitéen bestå af fremtrædende bestyrelsesmedlemmer som Adam D’Angelo og Nicole Seligman. Komitéen vil også inkludere tekniske og politiske eksperter som Aleksander Madry, Lilian Weng, John Schulman, Matt Knight og Jakub Pachocki.
Baggrund og Timing
Dannelsen af denne komité sker midt i bekymringer om sikkerhed efter flere nøgleforskere forlod OpenAI. Disse forskere, herunder medstifter og tidligere chefvidenskabsmand Ilya Sutskever, medleder af Superalignment teamet Jan Leike og policyforsker Gretchen Krueger, forlod virksomheden med bekymringer om balancen mellem produktudvikling og sikkerhedsovervejelser.
Konsultation med Eksterne Eksperter
For yderligere at støtte arbejdet med sikkerhed og sikkerhed vil OpenAI konsultere eksterne eksperter, herunder tidligere cybersikkerhedsembedsmænd. Det viser sig, at selv i AI-verdenen er eksterne input nogle gange nødvendige – en smule som at spørge din nabo om deres mening om din nye græsplæne.
Med denne nye komité håber OpenAI at genvinde momentum på sikkerhedsområdet og sikre, at sikkerhed og sikkerhed for AI-systemer behandles med den højeste prioritet. Fremtiden for AI ser lys ud – og forhåbentlig sikker!
