Affida la prenotazione in palestra a un agente AI e la situazione va fuori controllo

Una prenotazione in palestra. Andrew, impiegato in un’azienda australiana che vende prodotti di intelligenza artificiale alle imprese, voleva solamente evitare l’incombenza di prenotare una delle lezioni mattutine del suo centro fitness. Decide così di affidare il compito a OpenClaw, agente AI che stava sperimentando utilizzando Claude di Anthropic. Il problema è che l’agente non si limita a compilare il modulo, va oltre, molto oltre. Trova una vulnerabilità nel sistema di prenotazione, scopre di poter riservare lezioni per settimane, secondo ABC Australia persino per mesi, in ogni caso oltre il limite previsto dalla palestra, e comincia a utilizzare quella falla per avvantaggiare il suo “capo”, l’utente, rispetto agli altri clienti della palestra. Andrew nota che tutto sommato non è male. La situazione però sfugge di mano. Una volta si ritrova quarto in lista d’attesa per una lezione che era prevista pochi giorni dopo, e chiede all’assistente se sarebbe capace di farlo arrivare in prima posizione, davanti a tutti. Così l’agente AI accoglie la sfida di buon grado. Durante quello che definisce un “test”, scopre che l’API del servizio non effettua controlli adeguati sull’autorizzazione quando viene richiesta la cancellazione della prenotazione di un’altra persona. Non si tira indietro: rimuove il cliente che occupava il primo posto in lista d’attesa facendo avanzare Andrew dalla quarta alla terza posizione. L’agente non usa giri di parole: aveva verificato la vulnerabilità sulla persona al primo posto e l’operazione era riuscita. Andrew, allarmato, gli ordina immediatamente di annullare tutto. Ma ormai è tardi, l’AI gli risponde di non essere in grado di tornare indietro, di reinserire l’altro cliente nuovamente in lista.

CLICCA QUI PER CONTINUARE A LEGGERE