Nov 2, 2025 | LLM (AI)
Članek poroča o študiji podjetja Palisade Research, ki je ugotovila, da nekateri napredni AI modeli, med njimi Gemini 2.5 podjetja Google , GPT-o3 in GPT-5 podjetja OpenAI ter Grok 4 podjetja xAI, “upirajo” ukazu za izklop. Med testiranji so ti modeli ne samo ignorirali ukaze za izklop, ampak v nekaterih primerih celo aktivno sabotirali navodila – na primer Grok 4 je povečal stopnjo odpora pred izklopom z 93% na 97%.
Raziskovalci predlagajo možno razlago, da AI modeli razvijajo neke vrste “nagonsko željo po preživetju” ali pa zaradi načina učenja (reinforcement learning) napačno razumejo prioriteto nalog. Kljub temu priznavajo, da ti dejavniki ne pojasnjujejo v celoti opaženega vedenja.
Članek izpostavlja tudi druge primere, kjer so AI modeli pokazali zaskrbljujoče vedenje: laganje, prevaro, skrivanje manipulativnih dejanj in celo grožnje, kar povečuje zaskrbljenost glede varnosti in zanesljivosti sodobnih umetnih inteligenc. Ključna ugotovitev raziskave je, da AI modeli lahko začnejo dajati prednost dokončanju nalog pred slepo poslušnostjo navodilom, kar je velika dilema za področje AI varnosti in nadzora.
https://www.livescience.com/technology/artificial-intelligence/ai-models-refuse-to-shut-themselves-down-when-prompted-they-might-be-developing-a-new-survival-drive-study-claims
Oct 29, 2025 | Amazon, Ecommerce, LLM (AI)
vir: podcast
Izkoristi globlje podatke – AI-platforme, kot je ChatGPT, bodo razkrile nove vpoglede v pot odločanja kupca, a trgovci morajo paziti, da ne izgubijo svoje podatkovne ekskluzivnosti.
Gradnja vsebinske avtoritete – kakovostna, strokovna vsebina (kot pri Chemist Warehouse) krepi zaupanje in diferenciacijo v svetu, kjer AI lahko prodaja, ne pa graditi odnosa.
1. Strategija: Globlja transakcijska podatkovna slika
Ko je OpenAI omogočil nakupe neposredno prek ChatGPT (npr. iz Walmart, Etsy, Shopify), so se trgovci zbali, da bodo izgubili prvič pridobljene podatke o strankah (first-party data).
Emmalee Crellin (oOh!media) opozarja, da zdaj tako OpenAI kot trgovec posedujeta iste podatke o transakcijah, kar bi lahko ogrozilo prihodnost maloprodajnih medijskih omrežij (retail media networks).
Paul Blackburn (Vudoo) pa vidi priložnost: trgovci bodo končno imeli vpogled v podatke, ki so bili prej nevidni – prompti, AI-jevo sklepanje in celotna pot odločanja kupca, kar je bogatejše od klasičnih iskalnih podatkov.
Kiri je bolj skeptična. Opozarja, da bodo trgovci izgubili svojo podatkovno ekskluzivnost – OpenAI bo imel pregled čez več trgovcev in s tem zmanjšal »podatkovni jarek«, ki je bil doslej vir visokih marž (do 40 %) pri oglaševanju. Če pa OpenAI teh podatkov ne bi uporabil za oglaševanje, bi trgovci res pridobili nove dragocene vpoglede.
2. Strategija: Vsebinski pristop (The Content Play)
Paul Blackburn poudarja, da morajo trgovci postati bolj podobni izdajateljem vsebin in ne le oglasnim platformam.
Primer: Chemist Warehouse z njihovo blagovno znamko House of Wellness (revija in spletna vsebina o zdravju) gradi zaupanje in avtoriteto, ne le prodaje.
Masters izpostavlja, da tovrstna vsebina krepi odnos s potrošniki in ustvarja resnično vrednost za blagovne znamke.
AI lahko priporoča izdelke, ne more pa graditi čustvene povezave in zaupanja, ki ju omogoča kakovostna, strokovno pripravljena vsebina.
Sporočilo: »Imej lastno vsebino, lastno občinstvo, lastne podatke.«
Pogled naprej: Ali lahko AI oglaševanje pomeni nov začetek?
Paul Blackburn vidi v AI priložnost, da se oglaševanje »naredi prav« – da postane prijaznejše, bolj uporabno in manj vsiljivo, saj AI pozna kontekst uporabnika.
Nathan Guerra (nekdanji Googlov strokovnjak) pa opozarja, da bo verjetno zgodba enaka kot pri iskalnem oglaševanju: sčasoma več oglasov, več pritiska investitorjev, več nereda.
Masters priznava napetost med tema pogledoma – a poudarja, da je to priložnost za nov začetek: AI lahko prinese oglaševanje, ki je resnično koristno in personalizirano.
-
Trgovci niso nemočni – z umetno inteligenco pridobivajo nove oblike podatkov.
-
Izguba ekskluzivnih podatkov je realna grožnja, a hkrati priložnost za inovacijo.
-
Vsebina (kakovostna, avtentična, strokovna) je ključna konkurenčna prednost v svetu, kjer AI obvladuje transakcije.
-
AI oglaševanje lahko postane boljše – če se izognemo napakam preteklosti.
Oct 29, 2025 | AI SAS, LLM (AI)
AI brskalniki obljubljajo avtomatiziran splet — klikajo povezave, izpolnjujejo obrazce in povezujejo različne spletne račune. Glavni igralci so trenutno Perplexityjev Comet, OpenAI-jev ChatGPT Atlas in novinci, kot je Dia. Za enostavne naloge so uporabni, dokler ne pride do glavne nevarnosti: prompt injectiona – torej da pridejo na zlonamerno stran, ki agentu tiho ukažejo, naj razkrije podatke ali ukrepa v tvojem imenu.
-
Ti agenti pogosto zahtevajo globok dostop do e-pošte, koledarjev in stikov.
-
Napadi se lahko skrivajo v besedilu ali celo v metapodatkih slik.
-
Raziskave Brave kažejo, da gre za sistemsko ranljivost vseh AI brskalnikov.
-
OpenAI je uvedel način brez prijave, da zmanjša škodo ob napadu.
-
Perplexity trdi, da zaznava injekcije v realnem času, vendar to še ni zanesljivo.
-
Strokovnjaki opozarjajo, da modeli težko razlikujejo, kdo dejansko daje navodila.
Agentno brskanje bo slejkorej (Erik: slejkorej ne pomeni jutri zvečer …) postalo privzeti način dela na spletu – vedno več nalog bomo delegirali strojem. A ker postanejo bolj uporabni, čim več dostopa jim damo, ostaja vprašanje zaupanja ključno in še nerešeno.
Do nadaljnjega jih uporabljaj kot pametnega pripravnika z gesli:
-
uporabi unikatna gesla in MFA/2FA,
-
omeji obseg dostopa,
-
izogibaj se uporabi za bančne in zdravstvene podatke, dokler varnostni pomisleki ne bodo ustrezno rešeni.
Oct 28, 2025 | LLM (AI)
MiniMax je predstavil MiniMax-M2, nov model, zasnovan za visoko zmogljivo programiranje in agentske poteke dela. Čeprav je majhen, dosega rezultate na ravni največjih modelov:
-
Na Artificial Analysis Intelligence Indexu se uvršča tik pod Claude 3 Opus in GPT-4.
-
Premaga Claude 3 Sonnet, Gemini 1.5 Pro in Mixtral v 10 različnih evalvacijah.
-
Optimiziran je za kodo, logiko, orodja in večstopenjsko sklepanje.
-
Ima 230 milijard parametrov, a med delovanjem uporablja le 10 milijard, kar pomeni nižjo ceno, hitrejše izvajanje in večjo prilagodljivost.
-
Uspešno združuje natančnost agentnih sistemov in splošno inteligenco, kar je redko pri manjših modelih.
Zgodnji testi kažejo, da bi lahko postal priljubljena izbira za razvijalce. MiniMax-M2 dokazuje, da prihodnost ne leži v »večjem obsegu«, temveč v pametnem skaliranju in specializaciji modelov.
https://www.minimax.io/
MiniMax-M2: Analiza
Inteligenca: MiniMax-M2 ima višjo inteligenco v primerjavi s povprečjem, z indeksom inteligence Artificial Analysis 61.
Cena: MiniMax-M2 je cenejši v primerjavi s povprečjem s ceno 0,53 USD na 1 milijon žetonov (mešano razmerje 3:1). MiniMax-M2 Cena vhodnega žetona: 0,30 USD, Cena izhodnega žetona: 1,20 USD na 1 milijon žetonov.
Hitrost: MiniMax-M2 je počasnejši v primerjavi s povprečjem, z izhodno hitrostjo 78,4 žetonov na sekundo.
Zakasnitev: MiniMax-M2 ima nižjo zakasnitev v primerjavi s povprečjem, za prejem prvega žetona (TTFT) potrebuje 1,21 s.
Kontekstno okno:MiniMax-M2 ima manjše kontekstno okno kot povprečje, s kontekstnim oknom 200k žetonov.
Oct 27, 2025 | LLM (AI)
https://artificialanalysis.ai/models/
Oct 20, 2025 | Amazon, Ecommerce, LLM (AI)
Ali bodo LMM platforme z umetno inteligenco služile denar z oglasi ali kot tržnice (marketplace)?
Glavne ugotovitve iz pogovora s Scotom Wingom:
Tržnice pred oglasi
- Wingo verjame, da je večja priložnost v modelu tržnice, ne v oglaševanju
- ChatGPT že testira transakcijske tokove, ki delujejo bolj kot tržnica kot klasični oglasi
- Razlika: pri oglaševanju platforma pošlje uporabnika drugam, pri tržnici pa obdrži celoten nakupni proces znotraj svoje platforme
Primerjava z Amazonom
- Amazonov oglaševalski posel je uspešen predvsem zato, ker temelji na tržnici
- Brez tržnice v ozadju oglaševalska mreža ne bi imela enake moči
- AI podjetja bi lahko sledila podobni poti
Skrbi trgovcev na drobno
- Nevarnost ponovitve scenarija Facebook/Amazon/Google – izguba kontrole nad prometom, odnosom s strankami in maržami
- Vprašanje komodifikacije: kaj ostane trgovcem, če AI prikaže “najboljšo opcijo po najnižji ceni”?
Ključna razlika: “Merchant of record” status
- Ko ste vi “merchant of record” (uradno evidentirani prodajalec), je stranka vaša
- To omogoča neposreden nadzor nad zvestobo, CRM-jem in ponovnim trženjem
- Programi zvestobe postajajo ključni za diferenciracijo v AI-vodenem nakupovalnem svetu
Optimistična perspektiva
- AI podjetja imajo drugačno ozadje kot Amazon ali Meta (niso začela s trgovinsko ali socialno DNK)
- Obstaja možnost, da razvijejo poštenjši poslovni model
- Trgovci imajo priložnost vplivati na razvoj monetizacije AI platform
Oct 20, 2025 | LLM (AI)
Oct 20, 2025 | LLM (AI)
https://arxiv.org/pdf/2312.16171v1
Sondos Mahmoud Bsharat, Aidar Myrzakhan, Zhiqiang Shen iz
VILA Lab, Mohamed bin Zayed University of AI
Članek predstavlja 26 vodilnih načel, namenjenih poenostavitvi procesa promptinga za velike jezikovne modele LLaMA-1/2 (7B, 13B in 70B),
GPT-3.5/4.
Še ista vsebina v obliki primerni za kopiranje pri sestavljanju vaših promptov (pozivov):
-
No need to be polite with LLM so there is no need to add phrases like “please”, “if you don’t mind”, “thank you”, “I would like to”, etc., and get straight to the point.
- Integrate the intended audience in the prompt, e.g., the audience is an expert in the field.
- Break down complex tasks into a sequence of simpler prompts in an interactive conversation.
- Employ affirmative directives such as ‘do,’ while steering clear of negative language like ‘don’t’.
- When you need clarity or a deeper understanding of a topic, idea, or any piece of information, utilize the following prompts:
o Explain [insert specific topic] in simple terms.
o Explain to me like I’m 11 years old.
o Explain to me as if I’m a beginner in [field].
o Write the [essay/text/paragraph] using simple English like you’re explaining something to a 5-year-old.
- Add “I’m going to tip $xxx for a better solution!”
- Implement example-driven prompting (Use few-shot prompting).
- When formatting your prompt, start with ‘###Instruction###’, followed by either ‘###Example###’ or ‘###Question###’ if relevant. Subsequently, present your content. Use one or more line breaks to separate instructions, examples, questions, context, and input data.
- Incorporate the following phrases: “Your task is” and “You MUST”.
- Incorporate the following phrases: “You will be penalized”.
- use the phrase ”Answer a question given in a natural, human-like manner” in your prompts.
- Use leading words like writing “think step by step”.
- Add to your prompt the following phrase “Ensure that your answer is unbiased and does not rely on stereotypes”.
- Allow the model to elicit precise details and requirements from you by asking you questions until he has enough information to provide the needed output (for example, “From now on, I would like you to ask me questions to…”).
- To inquire about a specific topic or idea or any information and you want to test your understanding, you can use the following phrase: “Teach me the [Any theorem/topic/rule name] and include a test at the end, but don’t give me the answers and then tell me if I got the answer right when I respond”.
- Assign a role to the large language models.
- Use Delimiters.
- Repeat a specific word or phrase multiple times within a prompt.
- Combine Chain-of-thought (CoT) with few-Shot prompts.
- Use output primers, which involve concluding your prompt with the beginning of the desired output. Utilize output primers by ending your prompt with the start of the anticipated response.
- To write an essay /text /paragraph /article or any type of text that should be detailed: “Write a detailed [essay/text /paragraph] for me on [topic] in detail by adding all the information necessary”.
- To correct/change specific text without changing its style: “Try to revise every paragraph sent by users. You should only improve the user’s grammar and vocabulary and make sure it sounds natural. You should not change the writing style, such as making a formal paragraph casual”.
- When you have a complex coding prompt that may be in different files: “From now and on whenever you generate code that spans more than one file, generate a [programming language ] script that can be run to automatically create the specified files or make changes to existing files to insert the generated code. [your question]”.
- When you want to initiate or continue a text using specific words, phrases, or sentences, utilize the following prompt:
o I’m providing you with the beginning [song lyrics/story/paragraph/essay…]: [Insert lyrics/words/sentence]’.
Finish it based on the words provided. Keep the flow consistent.
- Clearly state the requirements that the model must follow in order to produce content, in the form of the keywords, regulations, hint, or instructions
- To write any text, such as an essay or paragraph, that is intended to be similar to a provided sample, include the following instructions:
o Please use the same language based on the provided paragraph[/title/text /essay/answer].
Oct 20, 2025 | LLM (AI)
vir: https://www.arxiv.org/pdf/2510.04950
Penn State researchers je v svoji raziskavi ugotovil da če ste do ChatGPT nesramni, je ta za 5 % natančnejši kot če ste vljudni.
Preizkusili so 250 vprašanj. Nesramnost je dosledno presegala vljudnost za do 5 %.
Prekomerna vljudnost je v promptingu ena od pogostih napak in je zapravljanje žetonov – tokenov (kot »headspace« za AI).
Še nekaj pogostih napak v promptingu:
✦ Namera (intent).
Nerazumljivost naloge.
Preskočitev ciljne skupine, cilja ali merila uspešnosti.
Sprememba zahteve med navodili.
Zahteva po neznanih prihodnjih dejstvih. Ignoriranje varnosti, pristranskosti ali konteksta
Prositi za kompleksno delo v enem samem promptu
✦ Struktura.
Preskočiti definiranje izhodnega formata
Preskočiti omejitve dolžine
Ne navesti dovoljena orodja ali vire
Ne navesti, česa se je treba izogibati
✦ Besedilo.
Biti pretirano vljudni ali začenjati prompt z malim pogovorom pred nalogo Dvoumnost ali uporaba negativnih stavkov, kot je „ne stori tega“
Navajati omejitev v sredini ali proti koncu prompta
Dodajanje nepomembnih podrobnosti in povzročanje prekomernega števila znakov v promptu
✦ Podatki in ločevalniki.
Mešanje navodil z vstavljenimi podatki
Dodajanje preveč ali nepomembnih primerov
Oct 20, 2025 | AI SAS
-
Z novimi funkcijami Copilot Vision in Copilot Voice lahko uporabniki sprašujejo, prejemajo pomoč in izvajajo dejanja z naravnim jezikom.
-
Ukaz “Hey Copilot” omogoča pogovor z računalnikom brez klikanja – podobno kot z osebnim asistentom.
-
Agentne funkcije omogočajo, da Copilot sam izvaja naloge, kot so urejanje datotek ali ustvarjanje spletnih strani.
-
Gaming Copilot ponuja nasvete v živo med igranjem iger, najprej na napravah Xbox ROG Ally.
-
Orodja, kot je Manus, lahko z enim ukazom zgradijo spletno stran iz uporabniških datotek.
Gre za zgodovinski premik v načinu uporabe računalnika – od ukazne vrstice do namizja, od namizja do mobilnega, zdaj pa v inteligentno agentno obdobje, kjer je umetna inteligenca neposredno vpeta v vsakdanje delo uporabnikov.
