Ustanovitelj Soundslice je odkril, da ChatGPT halucunera – lažno obljublja – pretvorbo ASCII tabulatur, in namesto da bi to preprosto zavrnil, je razvil podporo za to halucinacijsko funkcijo.
V članku na svojem blogu https://www.holovaty.com/writing/chatgpt-fake-feature/ Adrian Holovaty opisuje nenavadno izkušnjo v podjetju Soundslice, kjer je njihov skener za notne zapise začel prejemati nepričakovane prenose zaslonskih posnetkov ASCII tabulatur od uporabnikov, ki jih je tja usmeril ChatGPT. Umetna inteligenca je uporabnikom napačno sporočala, da Soundslice podpira uvoz ASCII tabulatur za predvajanje zvoka, kar je povzročilo pritok nepomembnih prenosov in zmedo glede ponudbe podjetja. Po premisleku se je Holovatyjev tim odločil, da bo razvil funkcijo, ki bo zadovoljila to zahtevo, kljub temu da je bila nenamerna in izhajala iz napačnih informacij.
Ta situacija odpira zanimiva vprašanja o tem, kako naj podjetja odgovorijo na netočnosti, ki jih širijo AI orodja, kot je ChatGPT. Čeprav je ustvarjanje rešitev, ki ustrezajo potrebam uporabnikov, pomembno, Holovaty izraža ambivalentnost glede tega, da mora podjetje prilagoditi svoj izdelek na podlagi nesporazuma, in poudarja izzive pri usklajevanju pričakovanj potrošnikov, na katere vplivajo nezanesljivi viri.
Adrian Holovaty je tako opazil, da so se v dnevnikih napak (access logs) pojavljali zasloni seje ChatGPT z ASCII-tablaturami, ki so prihajali v njegov skener za notne liste. ChatGPT je uporabnikom samozavestno zagotavljal, da Soundslice lahko pretvori ASCII-tablature v slišno glasbo, s čimer je ustvarjal lažna pričakovanja. Namesto da bi po spletni strani razporedil opozorila, se je Holovaty odločil, da bo fukcionalnost tudi dejansko razširil, da bo lahko obdeloval ASCII-tablature.
To je morda prvi primer, da je podjetje dodalo funkcijo izključno zato, da bi popravilo razširjene napačne informacije posredovane od “umetne inteligence”. Halucinacije umetne inteligence torej ne le da lahko zavajajo uporabnike, ampak tudi pritiskajo na produktne ekipe, da ponovno premislijo o načrtih – ali naj podjetja sledijo vsakemu mitu, ki ga ustvari umetna inteligenca, ali naj ohranijo svojo vizijo