Amazon ha pubblicato le nuove linee guida per i suoi sviluppatori, e una delle indicazioni principali riguarda l’intelligenza artificiale. Consumare molti token, le unità di testo che i modelli elaborano e che le aziende pagano, non dimostra di lavorare bene. Il documento è firmato da Terk Terkowitz, vicepresidente e distinguished engineer della divisione che gestisce i negozi online del gruppo. Secondo CNBC era circolato internamente a settembre ed è stato reso pubblico il 27 ottobre.
Cosa chiede il memo
Il testo invita a giudicare il lavoro dai risultati di lungo periodo per i clienti, l’azienda e il team, senza guardare agli strumenti usati. Metriche come i token consumati, la diffusione degli strumenti AI o il numero di modifiche al codice vanno trattate “con cautela e giudizio” e non devono diventare obiettivi. Il tokenmaxxing, si legge, “è in contrasto con la frugalità”, uno dei principi di leadership dell’azienda. Contare le righe di codice scritte va invece contro il principio di inventare e semplificare.
I responsabili dovranno guardare ai due estremi. Ai team che usano poco l’AI va chiesto il perché, mentre per chi la usa di più bisogna verificare che crescano anche i risultati consegnati. Se l’AI non aiuta in un compito, il memo lo considera un’informazione utile da documentare e da segnalare al proprio responsabile. L’adozione però non rallenta. Chi non ha ancora portato l’AI nel lavoro quotidiano deve farlo il prima possibile, e i dirigenti devono usarla in prima persona.
Da dove arriva il tokenmaxxing
Il termine indica la corsa a consumare più token possibile per salire nelle classifiche interne di utilizzo. A Meta una classifica creata da un dipendente elencava i 250 utenti più attivi, con circa 60.000 miliardi di token in 30 giorni secondo The Information, ed è stata chiusa dopo pochi giorni. Amazon ha avuto un caso simile a maggio. Secondo il Financial Times alcuni dipendenti davano compiti inutili agli agenti AI per scalare KiroRank, la classifica legata allo strumento di programmazione interno Kiro, e l’azienda l’ha chiusa. Un portavoce aveva spiegato che non era uno strumento approvato.
Gli obiettivi restano
Lo stesso Financial Times aveva riferito a giugno che Amazon voleva portare oltre l’80% degli sviluppatori a usare l’AI ogni settimana, un traguardo che si concilia male con l’idea di non trasformare l’adozione in un obiettivo. Un portavoce ha detto a CNBC che non ci sono tetti al consumo di token. Il tema dei costi pesa anche sui conti. Amazon prevede circa 200 miliardi di dollari di investimenti quest’anno e giovedì 29 ottobre presenta i risultati del trimestre.
La questione riguarda qualsiasi azienda, anche europea, che paga a consumo gli assistenti di programmazione. I prezzi per token stanno scendendo, come mostra il listino di GPT-6.1 Terra, ma senza un criterio per misurare i risultati la spesa può crescere più del lavoro prodotto.
Fonti: Amazon, CNBC, PYMNTS, I Programmer, Gizmodo.
