7 trikov za pozive (prompt engineering) : sedem tehnik izboljšave zanesljivosti modela LLM in sistemov RAG ter zmanjša pojava halucinacij pri generiranju odgovorov

LLM & Ai, Pozivi (prompti)

Dobro izdelani pozivi (prompts) zmanjšajo halucinacije v velikih jezikovnih modelih (LLM), kjer model generira zavajajoče ali nepreverljive informacije.

Predstavljenih je sedem ključnih tehnik za inženiring pozivov s praktičnimi predlogami, uporabnimi za samostojne modele LLM in sisteme z razširjenim pridobivanjem podatkov (RAG).


  1. Spodbujanje zadržanosti in odgovorov “Ne vem”:
    Pozivi naj modelu dovolijo, da reče “Ne vem”, če ni prepričan—tako se izognemo izmišljenim odgovorom.
    “You are a fact-checking assistant. If you are not confident in an answer, respond: ‘I don’t have enough information to answer that.’ If confident, give your answer with a short justification.”

  2. Strukturirano, korak-po-korak razmišljanje:
    Zahtevajte od modela, naj odgovarja z algoritmičnim, postopnim razmišljanjem za večjo doslednost.
    “Please think through this problem step by step:
    1) What information is given?
    2) What assumptions are needed?
    3) What conclusion follows logically?”

  3. Utemeljevanje z “Po podatkih…”:
    Pozivi naj zahtevajo sklicevanje na imenovane, verodostojne vire—manj izmišljotin, več dejstev.
    “According to the World Health Organization (WHO) report from 2023, explain the main drivers of antimicrobial resistance. If the report doesn’t provide enough detail, say ‘I don’t know.’”

  4. RAG z eksplicitnimi navodili in kontekstom:
    Pozivi naj model striktno omejijo na podatke, ki jih pridobi iz virov, in naj izpostavijo manjkajoče informacije.
    *[Assume two retrieved documents: X and Y]*
    “Using only the information in X and Y, summarize the main causes of deforestation in the Amazon basin and related infrastructure projects. If the documents don’t cover a point, say ‘insufficient data.’”

  5. Omejitve izhoda in omejevanje obsega:
    Določite format, dolžino ali vsebinski obseg izhoda, da preprečite nepotrebne podrobnosti ali špekulacije.
    “In no more than 100 words, summarize the role of mitochondria in human cells. If unsure, respond ‘I don’t know.’”

  6. RAG-verifikacijska zanka (Chain-of-Verification):
    Model naj najprej generira odgovor, nato preveri podatke v virih in po potrebi popravi odgovor z navedbo vira.
    “Step 1: Generate an initial answer to the question: ‘When did the Berlin Wall fall?’
    Step 2: Retrieve and read relevant passages from a trusted historical database.
    Step 3: Compare the retrieved evidence to your answer.
    Step 4: If discrepancies exist, correct the answer and cite the retrieved source.”

  7. Specifični pozivi, opozorila in varnostne omejitve:
    Za področja z visokim tveganjem (npr. medicina) uporabite strogo omejene pozive, zahtevajte citate in vklopite opozorila.
    “You are a certified medical information assistant. Using peer-reviewed studies or official guidelines published before 2024, explain the first-line treatment for moderate persistent asthma in adults. If you cannot cite such a guideline, respond: ‘I cannot provide a recommendation; consult a medical professional.’”