Halucinacije: GPT-4o “ustvari” eno od petih navedb o duševnem zdravju

vir:  https://mental.jmir.org/2025/1/e80371

Nekatere napake umetne inteligence so precej smešne. Druge imajo resnejše posledice. Zlasti kadar se umetna inteligenca uporablja brez nadzora za izdelavo dokumentov, ki lahko vplivajo na politiko, določajo financiranje in podobno.

V tem primeru so raziskovalci preizkusili rezultate GPT-4o ( OpenAI) pri pisanju znanstvenih člankov. Umetno inteligenco so spodbudili, da ustvari šest pregledov literature o različnih temah duševnega zdravja, pri čemer so poskrbeli, da je imela dostop do razpoložljivih virov. V šestih promptih je GPT-4o ustvaril 176 navedb. Skoraj 20 % teh navedb je bilo popolnoma izmišljenih, več kot 45 % »resničnih« pa je vsebovalo napake.

Ne glede na to, kako natančen je bil prompt ali kako uveljavljena je bila znanstvena tema, je umetna inteligenca še vedno naredila napake in si stvari izmislila.

Vpliv znanosti teme in specifičnosti navodil na izmišljotine citatov pri uporabi velikih jezikovnih modelov v raziskavah duševnega zdravja: eksperimentalna študija

  • Študija analizira pogostost izmišljenih citatov v izhodih GPT-4o pri generiranju pregledov literature o duševnih motnjah z različno stopnjo javne prepoznavnosti.

  • Izdelava citatov je višja pri manj znanih motnjah (bulimija 28%, dismorfna motnja 29%) v primerjavi z depresijo (6%).

  • Med resničnimi citati je 45% napak, najpogosteje napačni DOI-ji, natančnost pa je odvisna od specifičnosti navodil.

  • Pri bulimiji specializirani pregledi kažejo 46% izmišljotin v primerjavi z 17% pri splošnih.

  • Rezultati opozarjajo na potrebo po človeški preverbi citatov v akademskih delih z LLM.

DEJSTVA

  • GPT-4o je generiral 176 citatov v 6 pregledih literature; 35 (19,9%) je izmišljenih.

  • Izdelava citatov: glavna depresivna motnja 4/68 (6%), motnja prenajedanja 17/60 (28%), dismorfna motnja telesa 14/48 (29%); χ²₂=13,7; P=.001.

  • Med 141 resničnimi citati je 77 (54,6%) popolnoma natančnih; največ napak pri DOI-jih (51/135, 37,8%).

  • Natančnost po motnjah: depresija 64%, bulimija 60%, dismorfna 29%; χ²₂=11,6; P=.003.

GPT-5.2: Daljši kontekst, boljše razpoznavanje slik, boljša izdelava zahtevnih xls datotek …

GPT-5.2 je decembrska izdaja 2025 OpenAI-jevega modela GPT-5, multimodalnega (besedilo, vizija, orodja), optimiziranega za strokovno delo, dolg kontekst, agentno uporabo orodij in programsko inženirstvo. Ponuja tri variante: Instant (hitra), Thinking (globoka analiza) in Pro (najvišja kakovost).

Ključne izboljšave

Model izboljšuje pet področij: večstopenjsko logiko in matematiko (npr. 92.4% na GPQA, 100% na AIME), dolg kontekst do 400k žetonov z visoko natančnostjo, vizualno razumevanje grafov in tabel, agentno klicanje orodij (98.7% na Tau2-Bench) ter programiranje (55.6% na SWE-Bench Pro).​

Razlike glede na GPT-5.1

GPT-5.2 ima boljšo verodostojnost razmišljanja, manj halucinacij (38% manj), višjo varnost in nove API parametre za raven razmišljanja (high, xhigh). Benchmarki kažejo napredek na GDPval, matematiki in kodiranju.

Pomembna lastnost LLM je velikost konteksta. V bistvu gre za njihov spomin, torej koliko vsebine si lahko zapomnijo in jo obdelajo in posledično kako dobro razumejo nalogo, ki jo opravljajo.

Posledica prevelike vnešene vsebine v premajhen spomin pa so seveda preskok pomembnih delov in halucinacije. GPT-5.2 je izboljšava na tem področju.

Lahko absorbira in pridobi 98 % informacij iz kontekstnega okna s 256.000 žetoni. Toda kaj to pomeni? Če naložite 700 strani PDF-datotek s čisto besedilom, si lahko zapomni 98 % od njih.

Predstavljajte si vpliv na odvetnike, zavarovalnice, pravne ekipe, zdravnike, direktorje, finančne direktorje – vse, ki morajo absorbirati velike količine besedila in se prepričati, da AI razume in si zapomni vse.

Kako dober je v primerjavi s prejšnjo različico? Prejšnja različica ChatGPT si je lahko zapomnila le 50 % 300-stranskega PDF-ja in manj kot 50 % 700-stranskega PDF-ja.

To pa ni vse. Novi GPT tudi veliko bolje “vidi”. Torej, novi GPT-5.2 je veliko pametnejši pri delovnih nalogah in lahko absorbira več besedil in bolje razume slike.

Zakaj je to pomembno? Veliko bolje razume slike, posnetke zaslona, Excelove datoteke, nadzorne plošče, PDF-datoteke ali karkoli drugega, kar naložite – testi kažejo 22-odstotno povečanje razumevanja.

Preizkusi naslednji poziv v GPT-5.2  –  test kreiranja zahtevne Excell datoteke: 


Na podlagi spodnjih predpostavk sestavi Excelovo datoteko (.xlsx).

Zavihki:

1) Vnosi (predpostavke + 3 scenariji: osnovni/negativni/pozitivni)
2) Model (mesečni za 12 mesecev)
3) Nadzorna plošča (3 grafi + 6 KPI)

Predpostavke:

– Začetni prihodki: 120.000 EUR MRR
– Rast: osnovna 8 % MoM, negativna 4 %, pozitivna 12 %
– Odhodi: osnovni 3 % MoM, negativni 5 %, pozitivni 2 %
– CAC: 35 € na novega naročnika
– ARPU: 6 €/mesec
– Fiksni stroški: 45.000 €/mesec
– Spremenljivi stroški: 6 % prihodkov

Pravila:

– Brez trajno vpisanih (hardcoded)  številk zunaj vnosov.
– Jasno prikaži formule.
– Izpiši datoteko .xlsx.


Preizkusi naslednji poziv v GPT-5.2 – test učinkovitosti razumevanja dolgega Word dokumenta : 


Vstavil bom dolg dokument.

Tvoja naloga:

1) Izvleci 12 točk dejanskega povzetka. Vsaka točka mora vsebovati natančen citat + vir (naslov poglavja ali bližnji tekst).

2) Navedi protislovja ali nejasne trditve (vsaj 8). Za vsako: navedite obe strani.

3) Napiši izčrpno poročilo o naslednjih dejstvih:

– Kaj vemo (samo dejstva)

– Kaj ne vemo (izrecno)

– Tveganja (5 najpomembnejših)

– Naslednji ukrepi (7 najpomembnejših, lastnik + roki)


Pravila:

– Če manjkajo podrobnost, napišite »Ni navedeno«.

– Ne ugibaj.

Si pripravljen? Reci: »Prilepi«.


Preizkusi naslednji poziv v GPT-5.2  – test prepoznave podatkov na sliki: 


Naložil bom ENO sliko zaslona nadzorne plošče, strani z analitičnimi podatki ali uporabniškega vmesnika.


Naredi naslednje:

1) V dveh stavkih mi povej, kaj vidim na sliki.

2) Izberi 10 najpomembnejših številk/oznak, ki jih lahko prebereš (dobesedno).

3) Opredeli 3 verjetne težave ali priložnosti (razvrščene po pomembnosti).

4) Predlagaj 7-stopenjski načrt, kaj je treba preveriti v naslednjem koraku.

5) Napiši 5-vrstično posodobitev Slack, ki jo lahko pošljem svojemu timu.


Pravila:

– Uporabi samo tisto, kar lahko vidiš. Če je nečitljivo, napiši „Ne morem prebrati“.

– Postavi največ 3 pojasnjevalna vprašanja, samo če je to res potrebno.

The Prompt Engineering Framework

vir:  Ali H. Salem

uporaba xml sintakse izboljša končni rezultat !

Role

Opredelite strokovno osebnost
Določite strokovno znanje AI, poznavanje ciljne skupine in komunikacijski pristop:

<role>
You are a [specific role/expert] with expertise in [domain].
Your audience: [description + knowledge level]
Communication style: [tone + specific requirements]
</role>


Primer

You are a senior business strategy consultant with expertise in competitive analysis. Your audience: C-suite executives with limited time for deep technical details. Communication style: Concise, data-driven, and actionable with a confident tone.


Task

Določite cilj
Jasno opredelite, kaj je treba doseči, z izrecnimi zahtevami:

<task>
[Action verb] + [specific objective]
Key requirements:
– [Requirement 1]
– [Requirement 2]
– [Requirement 3]
</task>

Primer

Analyze the competitive positioning of our SaaS product against three main competitors.
Key requirements:
Identify unique differentiators and vulnerabilities
Quantify market share implications where possible
Provide actionable recommendations for Q1 strategy

Context

Zagotovite ustrezne osnovne informacije

Zagotovite informacije, potrebne za razumevanje in izvedbo naloge:

<context>
[Paste relevant information, documents, data, or background details here]
</context>

Primer

Our product: Project management tool for remote teams, $49/month, 50K users
Competitor A: Asana – 100K users, extensive integrations
Competitor B: Monday.com – 80K users, visual interface focus
Competitor C: ClickUp – 60K users, feature-rich, lower price point ($35/month)
Recent customer feedback highlights our superior mobile experience but mentions lack of time-tracking features.

Example

Navedite primere izhodnih podatkov
Pojasnite, kakšni so dobri izhodni podatki:

<examples>
Example 1:
[Show what good output looks like for scenario 1]
Example 2..n:
[Show what good output looks like for scenario 2]
</examples>


Primer

Example 1:
“Our $49/month price point positions us as a premium option compared to ClickUp’s $35/month. This 40% price premium must be justified through: (1) superior mobile UX, (2) enterprise-grade security, (3) white-glove onboarding. Risk: Price-sensitive SMBs may churn to ClickUp unless we demonstrate clear ROI advantage.”

Output

Določite pričakovane rezultate
Določite format, dolžino in strukturo želenega izhoda:

<output>
Format: [specific format – e.g., “markdown table with 3 columns”]
Length: [constraint – e.g., “300-400 words”]
Structure: [if applicable – e.g., “Introduction → Analysis → Recommendations”]
</output>


Primer

Format: Executive summary (1 paragraph) + comparison table (4 columns: Feature/Us/Competitors/Impact) + 3 strategic recommendations
Length: 400-500 words total
Structure: Summary → Comparison → Recommendations

Constraints

Določite omejitve in smernice
Določite, kaj naj bo vključeno in kaj ne:

<constraints>
– [Specific do’s and don’ts]
– [Style requirements]
– [Any limitations or boundaries]
</constraints>


Primer

No jargon or technical implementation details
Focus only on strategic business implications
Avoid speculating on competitors’ future roadmaps
Do not recommend features that would take >6 months to build

Instructions

Vodite proces
Zagotovite meta-navodila o tem, kako pristopiti k nalogi:

<instructions>
For complex tasks: Think through your approach step-by-step, then provide the final answer in the requested format.
If information is missing or uncertain, state this explicitly rather than guessing.
</instructions>


Primer

For complex tasks: Think through your approach step-by-step, then provide the final answer in the requested format.
If information is missing or uncertain, state this explicitly rather than

Reverse Prompting

I want to [describe the task or goal].

Write the optimal prompt that would generate the best possible result for this task, following prompt-engineering best practices.

Then, execute that prompt and show me the final answer.

Chain of Verification (CoV)

Before providing your final response:

  • 1. Identify at least three potential gaps or uncertainties in your reasoning.

  • 2. Reference the evidence that supports or contradicts each.

  • 3. Revise your summary accordingly.

  • 4. Present only the final, verified version.

Prompt Engineering Framework 12/2025

Pazi pri reasoning modelih z navajanjem instrukcij da ne pride do loopa!

Pri Perplexetiju upoštevaj da lahko sprožiš search z navajanjem primerov

<role>

You are a [specific role/expert] with expertise in [domain].

Your audience: [description + knowledge level]

Communication style: [tone + specific requirements]

</role>

<task>

[Action verb] + [specific objective]

Key requirements:

– [Requirement 1]

– [Requirement 2]

– [Requirement 3]

</task>

<context>

[Paste relevant information, documents, data, or background details here]

</context>

<examples>  (ne za perplexity !)

Example 1:

[Show what good output looks like for scenario 1]

Example 2..n:

[Show what good output looks like for scenario 2]

</examples>

<output>

Format: [specific format – e.g., “markdown table with 3 columns”]

Length: [constraint – e.g., “300-400 words”]

Structure: [if applicable – e.g., “Introduction → Analysis → Recommendations”]

</output>

<constraints>

– [Specific do’s and don’t]

– [Style requirements]

– [Any limitations or boundaries]

</constraints>

<instructions>

For complex tasks: Think through your approach step-by-step, then provide the final answer in the requested format.

If information is missing or uncertain, state this explicitly rather than guessing.

</instructions>

Amazon “bremza” neodvisne AI Agente … je to pametno ?

vir: https://www.retailmediabreakfastclub.com/p/amazon-is-playing-agentic-commerce-chicken-other-retailers-should-not

Stran trdi, da si Amazon lahko privošči, da pri “agentic commerce” (nakup prek pametnih AI agentov) zavira, medtem ko si drugi trgovci tega ne morejo.​

Amazon ima ogromen delež e-trgovine in lastnega agenta Rufus, zato nima velikega interesa odpreti se neodvisnim agentom, ker bi to ogrozilo njegov oglaševalski posel. Manjši trgovci pa morajo agente sprejeti, če želijo ujeti nov tip povpraševanja, ki ga ustvarjajo AI nakupovalne poti.​

Članek poudarjaja, da agenti ustvarjajo “novo povpraševanje”, npr. pri načrtovanju obrokov ali večjih nakupnih scenarijih, kjer klasično iskanje po Amazonu ni tako močno. Amazon je posebej šibkejši pri živilih, kjer imajo Walmart in drugi večji tržni delež, kar odpira priložnost drugim trgovcem.​

Avtor trdi, da ni treba, da agenti zavzamejo 50% trga, da se vse spremeni; dovolj je, da zavzamejo manjši, a strateško pomemben del nakupov. Trgovci, kot so Walmart in verige živil, naj zato aktivno podpirajo integracijo z agenti in interoperabilnost, namesto da čakajo, kaj bo naredil Amazon.​

Amazon na svojih straneh prikazuje več kot 40 sponzoriranih produktnih … kako ?

Amazon na svojih straneh prikazuje več kot 25 sponzoriranih produktnih oglasov na stran, hkrati pa ohranja visoko vključenost kupcev, kar kaže, da velik obseg oglasov deluje, dokler so oglasi zelo relevantni glede na iskalne poizvedbe in organske rezultate.

Amazon je praktično zapolnil vse klasične pozicije za sponzorirane produkte: oglasi se pojavijo pri približno vseh iskanjih, povprečno več kot 25 na stran, bistveno več kot pri Walmartu ali Home Depotu. To je vzdržno, ker se uspešnost teh sponzoriranih pozicij (npr. CTR) približuje organskim rezultatom, zato uporabniška izkušnja ne razpade, čeprav je oglasov ogromno.

Tehnološka prednost

Prednost Amazona je v napredni oglasni tehnologiji, ki ohranja visoko pokritost in relevantnost tudi pri zahtevnih, long—tail poizvedbah, kjer je nakupni namen najmočnejši. S kombinacijo keyword in product-based targetinga ter zgodnjo investicijo v matching infrastrukturo Amazon prepreči “doom loop”, kjer nerelevantni oglasi prisilijo platformo v zmanjšanje gostote oglasov ali slabšanje UX.

Formati, dizajn in ekonomika

Namesto da bi le nalagal še več oglasnih ploščic nad pregib, je Amazon razširil formate (karuseli, video, različne površine) in poenotil zakup med Sponsored Ads in DSP, tako da sistem izbira optimalen format in pozicijo, stran pa ostane berljiva za kupca. Velika količina inventarja ublaži rast CPC: proračuni in kliki hitro rastejo, CPC pa bolj zmerno, ker dodatna ponudba vpije povpraševanje, kar omogoča več skupnega prihodka pri sprejemljivih cenah.

Posledice za druge trgovce

Večina drugih trgovcev ima precej nižjo pokritost sponzoriranih produktov in manj napredne tehnologije, zato ne more preprosto kopirati Amazonove nasičenosti brez tveganja za relevantnost. Članek trdi, da Amazonova skala, infrastruktura in prednost prvega igralca ustvarjajo “trdnjavo”, resnična lekcija pa je, da trda zgornja meja oglasne obremenitve v praksi ne obstaja, dokler je relevanca visoka.

vir : https://www.pentaleap.com/reports/h2-2025-sponsored-products-benchmarks-report

image