Instacart har trukket stikket på sit AI-drevne prissystem, der fik nogle kunder til at betale mere for de samme varer end andre. Efter massiv kritik lover virksomheden nu, at alle kunder ser de samme priser – punktum.
Når AI bliver for smart til sit eget bedste
Instacarts kunstige intelligens var måske lidt for intelligent for sit eget bedste. Systemet justerede priserne baseret på efterspørgsel, lokation og andre faktorer – men resultatet var, at nogle familier pludselig skulle betale mere for deres ugentlige indkøb end naboerne.
“Nu ser to familier, der handler de samme varer på samme tid fra samme butik, de samme priser – punktum,” skriver Instacart i et blogindlæg mandag. Det lyder nærmest som en undskyldning pakket ind i en løfteserklæring.
Politikere blander sig
Sagen fik så meget opmærksomhed, at selv senator Chuck Schumer følte sig kaldet til at skrive et brev til Federal Trade Commission. Når amerikanske senatorer begynder at interessere sig for din prisalgoritme, ved du, at tingene er gået galt.
En undersøgelse fra Groundwork Collaborative, Consumer Reports og More Perfect Union afslørede, hvordan systemet fungerede – eller rettere, hvordan det ikke burde fungere.
Kundernes vrede
Forbrugerne var ikke just begejstrede for at opdage, at deres AI-assistent havde besluttet sig for at opkræve ekstra for deres dagligvarer. Sociale medier blev oversvømmet med klager, og advocacy-grupper rejste spørgsmål om algoritmisk retfærdighed.
Det viser sig, at folk ikke er særligt tolerante over for variabel prissætning på livsnødvendige varer – selv når det er en computer, der træffer beslutningen.
Lektionen for andre virksomheder
Instacarts hastige tilbagetog sender et klart signal til andre virksomheder, der overvejer lignende AI-systemer: Vær forsigtige med at lade algoritmer bestemme, hvad folk skal betale for deres mad.
Episoden understreger, hvor svært det er at implementere AI-systemer, der direkte påvirker forbrugernes økonomi, især når der opstår en følelse af unfairness eller mangel på gennemsigtighed.
Tilbage til det gamle
Så nu er Instacart tilbage til den gammeldags model: samme pris til alle. Måske er der alligevel noget at sige for den simple tilgang, hvor prisen er prisen – uden at en algoritme skal have fingrene i det.
Det bliver interessant at se, om andre virksomheder lærer af Instacarts dyre lektion om, at kunstig intelligens og kundetilfredshed ikke altid går hånd i hånd.
