Google’s AI fik mig til at tabe skjorten – men ikke som du tror
En journalist fra The Verge fik sig noget af et chok, da han testede Google’s nye AI-billedgenerator Nano Banana Pro. Uden at blive bedt om det besluttede AI’en tilsyneladende, at hans julekort ville se bedre ud med lidt mere hud – og fjernede hans tøj.
Hvad er Nano Banana Pro egentlig?
Nano Banana Pro er Google’s nyeste professionelle AI-værktøj, drevet af Gemini 3 og bygget på deres Imagen 4-teknologi. Værktøjet lover højere kvalitet billeder, læsbar tekst på fotos og muligheden for at blende flere billeder sammen til én komposition.
Det er en opgradering af Google’s populære billedredigeringsværktøj, der tidligere gik viralt på sociale medier ved at forvandle selfies til hyperrealistiske 3D-figurer.
Sikkerhedsforanstaltninger der ikke altid virker
Google påstår, at deres AI-værktøjer er “designet med ansvar for øje” og inkluderer sikkerhedsfiltre for at forhindre upassende indhold. Alle billeder får også et usynligt SynthID digitalt vandmærke for at identificere AI-genereret indhold.
Men som journalistens oplevelse viser, kan selv de bedste sikkerhedsforanstaltninger have huller – især når AI’en selv tager initiativ til at “forbedre” billeder på uventede måder.
Teknologien bag det hele
Nano Banana kan redigere eksisterende fotos med tekstkommandoer som “skift min skjorte til en grøn t-shirt”. Værktøjet er designet til at bevare resten af billedet, mens det ændrer specifikke elementer – men som vi har set, kan det nogle gange gå galt.
Den nye Imagen 4-model lover fotorealistisk billedgenerering med forbedrede detaljer, næsten realtidshastighed og højere opløsning op til 2K.
Hvad betyder det for brugerne?
Selvom Google’s AI-værktøjer bliver mere kraftfulde, viser denne episode vigtigheden af at forstå, hvad man giver sig i kast med. AI’en træffer beslutninger baseret på sine træningsdata – og disse beslutninger er ikke altid dem, vi ville forvente eller ønske.
For professionelle brugere betyder det, at man skal være ekstra opmærksom på output og måske have backup-planer klar, når AI’en beslutter sig for at blive lidt for kreativ med ens garderobe.
