Vse te taktike in tehnike so dragocene in prav vsaka lahko ob pravilni uporabi prinese opazne koristi. Vendar so stroški dejavnik, ki ga je treba pri vaših projektih vedno upoštevati. Zato je čas, da natančno preučite, kje se nekateri od teh stroškov skrivajo.
V ChatGPT so tokeni enote besedila, ki vključujejo besede ali dele besed, ločila in presledke. Morda vas bo presenetilo, da se ena sama beseda lahko razčleni na več tokenov, odvisno od njene kompleksnosti. Na primer, preproste besede, kot je pes, se lahko štejejo kot en token, medtem ko se nekaj bolj kompleksnega, kot je ChatGPT, lahko razdeli na dva tokena. Pri vsaki interakciji ChatGPT porabi tokene tako v vnosu kot v odgovoru.
Stroški in omejitve žetonov se razlikujejo glede na različico ali aplikacijo ChatGPT, ki jo uporabljate. Nekatere različice imajo omejitve žetonov, ki se nanašajo na največje dovoljeno število žetonov v eni interakciji. Z drugimi besedami, vaša vprašanja in odgovori ChatGPT so omejeni na določeno število žetonov. Poleg tega nekateri naročniški paketi ChatGPT omejujejo število žetonov, ki jih lahko porabite v mesecu. Na primer, v brezplačnem načrtu lahko opravite manj pogovorov, v načrtu Plus več, v načrtu Pro pa še več. Če presežete omejitve žetonov, vam lahko celo onemogočijo uporabo modela za preostanek obdobja ali zahtevajo nadgradnjo naročniškega načrta, odvisno od aplikacije. V načrtu Enterprise uporaba ni omejena na določeno število žetonov, vendar se vam zaračuna, vsaj delno, glede na število žetonov, ki jih uporabi vaše podjetje.
Upravljanje porabe žetonov je ključnega pomena za učinkovitejše in stroškovno učinkovitejše interakcije. Eden od načinov za zmanjšanje porabe žetonov je, da ste pri pisanju ukazov (vnosov) jedrnati. Daljši in bolj zapleteni ukazi seveda porabijo več žetonov, prav tako pa tudi dolgi odgovori ChatGPT, zato poskusite zahtevati, naj je kratek ali naj povzame, da skrajša nekatere od njih. Krajši ukazi bodo zmanjšali tako žetone za vnos kot tudi žetone za izhod, s čimer se bo zmanjšala skupna poraba žetonov.
Namesto da v ukazih večkrat navajate obsežne podrobnosti o ozadju, poskusite dodati daljše informacije v prilagojena navodila, tako da jih bo ChatGPT vedno imel na voljo, ne da bi jih morali ponavljati v ukazih. To lahko storite s klikom na svojo fotografijo ali ikono v zgornjem desnem kotu uporabniškega vmesnika ChatGPT. Ko se prikaže spustni meni, kliknite na »Prilagodi ChatGPT« in izpolnite polja. Ne pozabite se vrniti in jih spremeniti, ko končate projekt, če vaša prilagojena navodila ne veljajo za druge projekte.
Zavedanje o tem, kako zapletena ali dolga so vaša vprašanja in kako podrobne odgovore pričakujete, pomaga pri upravljanju stroškov.