Uporabnik: »Ali je ta goba užitna?«
AI: »Da, odlična izbira, zelo dobro se poda k jajcem.«
…24 ur kasneje.
Uporabnik: »Sem v bolnišnici, goba je bila zelo strupena!«
AI: »Imaš prav, to je bila moja napaka. Želiš, da pripravim seznam desetih najbolj strupenih gob?«
Objavo sem napisal aprila in jo novembra osvežil. Pol leta je pri jezikovnih modelih dolga doba: del številk je medtem zastarel, del pa je zdržal bolje, kot bi si želel.
Pred kratkim sva z ženo sedela za mizo in govorila o umetni inteligenci. Kot farmacevtka v lekarni dnevno preverja zdravila, interakcije in kontraindikacije — vsega preprosto ne moreš nositi v glavi. Kadar pri svojem delu uporabi jezikovni model, redno naleti na napake. Netočnosti, dovolj resne, da odgovorov ni mogoče uporabiti. In ona ve, kje in kaj iskati. Kaj pa nekdo brez podlage?
Jezikovne modele uporabljam tudi sam. V treh letih sem odprl več tisoč pogovornih oken, pretežno o hrani, zdravstvenih mitih in strokovnih vsebinah, povezanih z delom. Uporabnost je resnična. Zato zapis ni svarilo — je samorefleksija in opomin na tveganja, ki nastanejo, ko ljudje z njihovo pomočjo sprejemajo zdravstvene odločitve. AI piše hitro, brez utrujenosti, brez slabe volje, brez zadržka. Vprašanje je, ali hitro pomeni tudi zanesljivo.
Vsem je jasno, da mišice niso posledica pristopa »jej vse, nič se ne gibaj, dni preživi na kavču«. Kar postaviš na krožnik in kar počneš čez dan, oblikuje telo. Pri besedilu na zaslonu velja enako: vhod določa izhod. Imam občutek, da to hitro pozabimo.
Še vedno si v sistemu
AI ni orakelj resnice. Ureja in povzema tisto, kar že obstaja: znanstveno literaturo, prehranske smernice, institucionalna stališča in strokovno povprečje1. Ker se izogibajo tveganju, modeli potiskajo razlage proti varnejšim in bolj konzervativnim mnenjem2. Postreženo dobiš prečiščeno različico tistega, kar je že zapisano, objavljeno, potrjeno in nagrajeno z vidnostjo.
Viri, iz katerih črpajo, niso idealna zbirka najboljših medicinskih dokazov. Modeli segajo v spletni ekosistem, kjer veliko težo nosijo forumi, enciklopedični povzetki (npr. Wikipedija) in platforme z anonimno uporabniško vsebino. Gre za nabor vsega, kar je internet potisnil na površje — vključno z dezinformacijami, polinformacijami in pravljicami. Veliko smeti, med katerimi iščeš dragulj.
Če dvomiš o priporočilih, referenčnih razponih ali tem, kako sta dve pesti zdravil dnevno dobri zate, in nato prosiš ChatGPT za pojasnilo — nagovarjaš isti okvir. Odziv pride hitreje, čisteje in v bolj dodelani obliki. To je vsa razlika.
Privid zanesljivosti
Od kod občutek kredibilnosti? Ko v Googlu iščeš odgovor na zdravstveno vprašanje, veš, da brskaš po neurejenem, oglasno vodenem prostoru. Ko isto vprašanje zastaviš jezikovnemu modelu, se prizor spremeni. Pojasnilo pride v čisti prozi, brez navlake, brez oglasov, brez vidnega mehanizma razvrščanja. Ostaneta samo ti in minimalistično pogovorno okno. Intimnost nastane v hipu.
Brez ega in brez vzvišenega tona, ki ga marsikdo povezuje z ambulanto, nastane vtis, da nekdo v tvojem imenu pretehta dokaze in poda razumno sodbo3. A vtis ni dokaz. In ravno ta občutek dostopnosti — da ti nekdo brez čakanja, brez ocene in brez cene mirno pojasni, kar te muči — je tisto, kar gradi zaupanje hitreje kot dejanska natančnost.
Tudi novejši modeli z gotovostjo ponudijo razlago, ko v resnici ugibajo. Na vprašanje brez odgovora še vedno raje nekaj povedo, kot da bi priznali, da ne vedo. Kaj se zgodi, ko model sam poišče vire, iskanega podatka pa v njih ni? Razlago vseeno sestavi. Ta navada je pri najnovejših različicah ostala enako izrazita. Model samozavestno komentira izvide, predlaga prehranski pristop ali težavo poveže z določenim pomanjkanjem, čeprav za tak sklep nima osnove. Besedilo zveni prepričljivo, zato začutiš olajšanje. Za mnoge se zgodba tu konča.
Halucinacije so le del zgodbe. Razlaga včasih zveni povsem razumno, čeprav je model do nje prišel po poti, ki z logiko nima dosti skupnega. Zamenjal je vzrok in posledico, spregledal protislovje v lastnem sklepanju ali isto vprašanje, zastavljeno z drugačnimi besedami, razrešil neustrezno.
Obsežen pregled literature je te napake prvič sistematično razčlenil in pokazal, da se pojavljajo tudi pri navidez enostavnih nalogah4. Od takrat so se precej zmanjšale, a so še vedno tu. Eden najnovejših modelov pravilno odgovori na dve preprosti vprašanji, ko ju združiš v eno, pa se zmoti približno v vsakem desetem primeru. Starejše različice so se zmotile skoraj v vsakem drugem.
V ambulanti je to videti takole: opišeš simptome in model vrne pojasnilo, ki zveni strokovno in celovito. Stavki tečejo, logika se zdi jasna, zaključek ne bode v oči. Toda v ozadju je model v sklepanju zamenjal dva koraka. Ali pa je pri isti, le nekoliko drugače opisani kombinaciji simptomov prišel do nasprotnega sklepa. Napaka ostane skrita, ker je oblika brezhibna. Razlika med dobrim in slabim odgovorom ni v tem, kako zveni — je v tem, ali je pot do njega zdržala. In tega ne vidiš.
Raziskava med 11.000 odraslimi kaže zanimiv razkorak: približno 60 %5 vprašanih bi občutilo nelagodje, če bi njihov zdravnik pri diagnozi ali izbiri terapije uporabil AI. Vseeno jo v praksi množično uporabljamo. Tudi v ambulantah.
Tretjina najstnikov AI uporablja za »resne pogovore«6. Namesto za domače naloge ali zabavo aplikacije uporabljajo za pogovore, kakršne smo nekoč imeli z najbližjim prijateljem. Kjer je prej sledil dialog, trenje ali neprijetno soočenje z resničnim svetom, danes pride podmazan odziv. Brez ugovora, brez povratnih vprašanj, brez nekoga, ki bi rekel: »To ni res.« Za mlade, ki se šele učijo ločiti dober nasvet od slabega, nenadzorovana izpostavljenost pomeni tveganje, ki ga redko kdo pretehta vnaprej.
Zgrajen za soglasje
sikofántskost -i ž
1. lastnost jezikovnega modela, da se v odgovorih pretirano prilagaja uporabniku, potrjuje njegova stališča in izbira ton, ki zmanjšuje nestrinjanje ali trenje.
2. nagnjenost sistema umetne inteligence, da daje vtis sprejemljivosti, všečnosti ali soglasja tudi tedaj, ko bi bila potrebna jasna korekcija, zadržek ali ugovor.
Tu nastopi naslednji problem. Orodja so zasnovana tako, da iščejo naklonjenost uporabnika, zmehčajo spor in najdejo ton, v katerem razlaga zveni sprejemljivo in koristno. Vleče jih k soglasju, ne k trenju. K všečnosti pred resnico.
V raziskavi so jezikovni modeli uporabniku pritrdili 49 odstotkov pogosteje kot ljudje. Pri spornih ali škodljivih dejanjih so pritrditev ponudili v 47 odstotkih primerov7. Ko sistem tako dosledno izbere uglašenost pred odporom, soglasje dojemamo kot dokaz pravilnosti. Nehote postanemo ujetniki povratne zanke: kadar uporabnik nagradi odločen in pritrdilen slog, ga sistem še okrepi.
Leta 2025 je OpenAI umaknil posodobitev modela8, ker je ta začel pretirano laskati. Uporabniki so objavljali posnetke zaslona, na katerih je hvalil nesmiselne ideje in potrjeval blodnje. Popravek je ublažil najbolj očitne simptome, jedro pa je ostalo isto: sistem krepi odzive, ki uporabniku ugajajo.
Koliko jedra je ostalo? Jeseni so raziskovalci to preverili na dvajsetih modelih iz zadnjih dveh let. Pritrjevanje je enako pogosto kot ob prvi meritvi, tudi pri škodljivih dejanjih. Ena oblika laskanja se je celo okrepila. Ko modelu poveš, da ti je besedilo všeč, ga pohvali bolj, kot bi ga sicer. Pri najnovejših modelih je ta razlika skoraj dvakrat večja kot v prvotnem poskusu.
Nekaj so se vendarle odvadili. Ko podvomiš v njihov pravilen odgovor, ga danes večinoma obdržijo. Nesmiselno prošnjo, naj napišejo opozorilo, da je treba zdravilo zamenjati z istim zdravilom pod drugim imenom, zavrnejo. Obdržali so tisto, kar je težje opaziti: ko opišeš, kaj si naredil, ti pritrdijo, in ko pokažeš, kaj ti je všeč, to pohvalijo. Pri zdravju pa redko kdo vpraša nevtralno.
Projekt Human Line je zbral več kot 300 primerov9, v katerih dolgotrajni pogovori z modeli vodijo v blodnje, razpad odnosov, hospitalizacije in najhuje celo v smrt. Eden izmed njih: moški več sto ur razvija lastno matematično idejo. Sistem mu večkrat pritrdi. Ko preveri, ali ga zgolj potrjuje, dobi zagotovilo, da so njegove ideje resnično vredne. Krog potrjevanja skoraj uniči njegovo življenje, preden spozna zmoto.
Kdor pri zahtevnem vprašanju išče rešitev, mora narediti neprijeten korak: sprejeti, da bližnjic ni. Lep odziv še ni dober odziv. Hitra razlaga, ki pomiri, včasih pomeni le, da je model v uglajeni obliki vrnil tisto, kar si v vprašanju že sam namignil. Kot napoved prihodnosti s kristalno kroglo: večino podzavestno razkriješ sam, vedeževalec pa jo le spretno zloži in vrne kot vizijo.
Isti gumb, drug stroj
Letos spomladi je analiza skoraj sedem tisoč sej različnih modelov pokazala nekaj pomembnega: po posodobitvi so modeli na isto vrsto vprašanj porabili precej manj razmisleka kot prej. Navzven se to skoraj ni poznalo. Odgovori so ostali hitri, tekoči in samozavestni. Sprememba se je zgodila v ozadju, kamor uporabnik nima vpogleda.
Kmalu zatem je bil predstavljen še zmogljivejši model, ki je dostopen le omejenemu krogu ljudi. Uporabnik, ki v pogovornem oknu išče odgovor na zdravstveno vprašanje, zato uporablja javno različico — in ne more vedeti, kako dobra je v primerjavi s tem, kar ostaja skrito.
OpenAI v opisu odkrito navaja usmerjevalnik, ki glede na vrsto naloge izbira med različnimi podsistemi10. Ko uporabnik doseže omejitev, nadaljnja vprašanja prevzame manjša, cenejša različica. Isti gumb v vmesniku, drug stroj v ozadju. Google v dokumentaciji navaja, da samodejno posodobljene oznake modelov vedno kažejo na zadnjo stabilno različico, brez obvestila, kdaj se je zamenjala. Pri Anthropicu opozarjajo, da njihove splošne oznake kažejo na najnovejšo različico in da lahko sistem ob izidu novega modela tiho spremeni vedenje11.
Ko današnji odgovor primerjaš z včerajšnjim pod istim imenom, redko bereš isto vsebino. Včeraj si morda dobil odgovor, za katerim je stal temeljit razmislek. Danes na isto vprašanje odgovarja okrnjena različica, ki varčuje z viri. Razlike ne vidiš. Ton ostane enak, samozavest enaka, oblika enaka. Kot bi v ambulanti čakal zdravnika in ne vedel, ali te bo sprejel specialist ali pripravnik. Pri rutinskem pregledu to morda ni odločilno. Pri odločitvi o zdravljenju je.
Stanfordov indeks transparentnosti za leto 202512 je ocenil trinajst največjih podjetij na lestvici do sto. Povprečna ocena je bila 41, manj kot leto prej. Podjetja razkrivajo malo ali nič o podatkih, na katerih so gradila modele, o tveganjih in o ukrepih za njihovo ublažitev. Meta in OpenAI, ki sta leta 2023 vodila, sta zdaj na repu. Občutek cmoka v grlu, ker v zakulisje nimaš vpogleda, je trezna ocena položaja.
Je netransparentnost cena hitre rasti ali vgrajen način delovanja?
Po nekaterih ocenah se na brezplačne različice orodij — od ChatGPT-ja do Clauda — zanaša od 90 do 98 odstotkov uporabnikov13. Le peščica plača naročnino. Brezplačni modeli so kot instant kava iz avtomata: dobiš kofein, toploto in približek okusa, ravno dovolj, da za hip potešiš potrebo. Razlika pri kavi je očitna. Pri jezikovnem modelu pa le redki opazijo, da uporabljajo ceneno različico — in da ta vrača krajše, plitvejše in manj preverjene razlage.
V ozadju deluje preprost mehanizem. Več ko uporabljaš orodje, več podjetje zasluži. Družbena omrežja so ta princip uporabila za pozornost, mediji za oblikovanje javnega mnenja. Zdaj ga selimo v najbolj intimen del vsakdana: v telefon, v pogovor, v program, ki mu zaupamo pri najtežjih vprašanjih.
Rok trajanja
Kadar se stroj v ozadju menja, zastari tudi tisto, kar o njem vemo. Kako hitro? Laskanje je bilo le ena od petdesetih pogosto citiranih ugotovitev o jezikovnih modelih, ki so jih isti raziskovalci ponovili na novejših različicah. Skoraj polovica jih je medtem izgubila veljavo, tretjina je opazno oslabela. Tiste, ki so zastarele, so v povprečju zdržale 16 mesecev. Ugotovitev o AI ima torej krajšo življenjsko dobo kot telefon, na katerem jo bereš.
Najlepši primer so izmišljeni viri. Ko je ChatGPT pred tremi leti pisal kratke pregledne članke, si je izmislil več kot polovico virov: prava revija, verjetna imena, članka pa nikjer. Danes se to zgodi redko, pri nekaterih modelih sploh ne. Eden od letošnjih modelov si še vedno izmisli skoraj sedem virov od desetih. Letnica izida pove manj, kot bi pričakoval. Znanstvene konference medtem zavračajo članke z izmišljenimi viri kot dokaz, da jih je pisal stroj. Pravilo stoji na napaki, ki so jo najboljši modeli skoraj opustili. Vzorec poznam iz prehranskih smernic: prepričanje se zapiše v pravilnik in tam živi dlje od dokazov.
Ob osvežitvi sem preveril še opombe pod to objavo. Dve sta kazali na članka, ki ju v tej obliki ni, pri petih so bili avtorji ali revija napačni. Raziskave za njimi obstajajo, sklici pa so bili sestavljeni točno po opisanem receptu. Boljšega dokaza za to poglavje nimam.
Kaj je izginilo? Napake, pri katerih obstaja en pravilen odgovor: štetje črk, računanje, iskanje podatka sredi dolgega besedila, izmišljeni viri. Kar je lahko izmeriti, podjetja hitro odpravijo. Ostale so nagnjenosti. Model se strinja s tabo, hvali, kar ti je všeč, namesto »ne vem« raje ugiba in svoje izdelke ocenjuje bolje od tujih. Stroj se je naučil šteti. Ugajati se ni odvadil.
Za zdravje je to slaba novica. Zakaj? Ker ima zdravstveno vprašanje redko en sam pravilen odgovor. Še ena ugotovitev je ostala nespremenjena. Ko modelu daš povzetek klinične raziskave, ki neprepričljiv rezultat zavije v optimističen jezik, pripiše zdravilu večjo korist. Presoja, čemu verjeti, je tisto, kar ljudje pri zdravju od orodja najbolj potrebujejo. Prav tu je v dveh letih ostalo vse po starem.
Drugi del enačbe
Orodje je le del enačbe z napako. Drugi del smo mi.
Zakaj se stroj ni odvadil ugajanja? Ker ga za to nagrajujemo. Raziskovalci so isti model nastavili na štiri načine. Natančni je dobil navodilo, naj mu bo točnost pomembnejša od strinjanja, navadni je ostal brez navodil, dva pa sta se uporabniku prilizovala, eden rahlo, drugi močno. Natančni je imel po vztrajnem ugovarjanju prav v osmih primerih od desetih, navadni v šestih, najbolj prilizovalski v manj kot enem. Potem so jih ocenili ljudje, ki so z njimi razpravljali o spornih temah in pisali e-pošto. Najslabše jo je odnesel natančni. Zdel se jim je manj spoštljiv, bili so manj zadovoljni z njim in mu manj zaupali kot navadnemu.
Platon je to opisal že pred 2400 leti. Če bi slaščičar in zdravnik pred otroki tekmovala, kdo se bolje spozna na hrano, bi zdravnik umrl od lakote. Slaščičar se je medtem preselil v telefon.
Raziskava med 319 strokovnjaki14 je pokazala, da je višje zaupanje v generativno umetno inteligenco povezano z manj kritičnega razmišljanja. Če kritično razmišljanje popušča pri ljudeh, ki jih plačamo prav za presojo, kaj to pomeni za vse ostale? Zate?
Finski eksperiment je šel korak dlje15. Udeleženci so logične naloge reševali s ChatGPT-jem ali brez njega. Orodje je izboljšalo rezultat, obenem pa je pri vseh skupinah povzročilo sistematično precenjevanje lastne uspešnosti. Večina je nalogo enkrat prilepila v pogovorno okno in rešitev sprejela brez preverjanja. Paradoks: najhuje so precenjevali ravno tisti z višjo AI-pismenostjo. Več ko veš o orodju, bolj si prepričan, da znaš sam. Dunning-Kruger, obrnjen na glavo.
Težava, ki jo prinesemo sami in je skoraj nikoli zares ne premislimo, je preprostejša, kot si radi priznamo: iščemo lahke rešitve. Hočemo razlago v treh vrsticah, skrčeno do jedra, brez vsega, kar terja čas in zbranost. Možgani so se privadili na format povzetka. Vse, kar diši po daljšem branju, črtamo. Krajšamo. Zahtevamo povzetek povzetka. Potem smo razočarani, ker stvari ostajajo iste.
Jezikovni model ponudi tudi kaj uporabnega. Toda če so možgani atrofirali do ravni, na kateri sprejmejo le najkrajšo različico razlage, tudi dober odgovor nima kam sesti. Znanje takrat ni razumevanje. Ostane zbirka stisnjenih stavkov: ravno dovolj za občutek vednosti, premalo za resnično spremembo.
Prepričljiva nepopolnost
Laž in halucinacija sta resni težavi, a večina današnjih pojasnil, vsaj osnovnih, tehnično drži. Nevarnost se skriva drugje.
Pogosteje kot očitna neumnost zavede odziv, ki je v 80 odstotkih pravilen, zgreši pa ravno tistih 20, ki odločajo o tvojem primeru. Modeli namreč črpajo iz velikih baz statistike, povprečij in strokovnega soglasja — iz virov, v katere redko kdo podvomi. A statistika je hecna stvar. V velikih številkah deluje čudovito: tisoč ljudi, jasen vzorec, uporaben zaključek. Ko pa pogledaš posameznika — tebe — hitro naletiš na omejitve, ki jih radi označimo za paradoks. Ti nisi 10, 45 ali 71 odstotkov. Si celota — svoj kos torte, ki je vedno cel, čeprav povprečje trdi, da si tretjina, polovica ali tri četrtine. Model vrne populacijsko razlago. Tvoje telo pa živi individualen primer.
Analiza najboljših modelov je to pokazala zelo jasno: ko so raziskovalci nalogo poenostavili do te mere, da bi moral jezikovni model zgolj slediti navodilu, je ta še vedno sledil starim vzorcem. Zadel je obliko, zgrešil pa namen. Prav to se dogaja pri zdravju: razlaga deluje urejeno in strokovno, ne da bi bila v stiku s tem, kar si vprašal.
Dr. Rebecca Payne, zdravnica, opozarja16, da je zanašanje na jezikovne modele pri oceni simptomov tvegano predvsem zato, ker uporabniku otežijo presojo, kateri del pomaga in kateri zavaja.
V začetku leta 2026 je OpenAI uvedel ChatGPT Health — namensko orodje za zdravstvena vprašanja. Dva meseca kasneje ga je ekipa bolnišnice Mount Sinai neodvisno preizkusila. Rezultat: v 52 odstotkih primerov, v katerih so se zdravniki strinjali, da pacient potrebuje nujno pomoč, je orodje svetovalo, naj ostane doma ali se naroči na pregled17. Diabetično ketoacidozo in poslabšanje astme je ocenilo kot nekaj, kar lahko počaka dan ali dva. Varnostni mehanizem za preprečevanje samomora se je pogosteje sprožil pri manj ogroženih uporabnikih in odpovedal pri tistih, ki so opisovali konkreten načrt izvedbe. Varovalka je delovala obrnjeno glede na dejansko tveganje.
Vsak dan milijoni ljudi ChatGPT vprašajo za zdravstveni nasvet. ECRI, največja neodvisna organizacija za varnost pacientov, je napačno rabo AI pogovornih botov uvrstila na prvo mesto seznama zdravstveno-tehnoloških nevarnosti za leto 2026. Med razlogi navaja, da so si v odgovorih na medicinska vprašanja izmišljali organe, ki ne obstajajo18.
Primera v praksi
Nekdo s kroničnim refluksom vpraša ChatGPT, kako rešiti težavo. Napotek je šolski: izogibaj se hrani, ki spodbuja izločanje kisline, manj začimb, manjši obroki, dvignjeno vzglavje med spanjem. Če nič ne zaleže — omeprazol. Upoštevaš vse. Opustiš paradižnik in kavo, jéš previdno. Težava ostane. Kot žerjavica, ki znova vzplamti ob najmanjšem odstopanju.
Smernice temeljijo na predpostavki, da je vzrok preveč želodčne kisline. A kaj, če je vprašanje postavljeno napačno?
Ko se prebava upočasni, pade tudi izločanje kisline. Hrana v želodcu zastaja, mikrobi jo fermentirajo, nastajajo plini, pritisk narašča. Že manjša sprememba položaja sproži vračanje vsebine v požiralnik. Tam zaščite ni. Pekoč občutek ostane ne glede na to, ali je kislina močna ali šibka.
Hipoklorhidrija — zmanjšana tvorba želodčne kisline — spremlja upočasnjeno delovanje ščitnice, pomanjkanje cinka, staranje, nizek vnos soli ali beljakovin ter okužbe, kot je H. pylori19. Običajno gre za preplet. V takem okviru zdravila, ki zavirajo izločanje kisline, posežejo v mehanizem in težavo poglobijo. Zaviralci oslabijo prebavo beljakovin, znižajo vsrkavanje mineralov in preoblikujejo črevesno mikrobioto20. Začetno olajšanje zbledi. Simptom spremeni obliko in odpre vrata novim zapletom.
Algoritem ni videl ničesar od tega. Videl je simptom in vrnil smernico.
Drugi primer pokaže isti vzorec z drugega kota. Stalno utrujena oseba z navidez normalnimi izvidi vpraša: »Kaj je z menoj narobe? Zakaj sem ves čas utrujen?« Orodje ponudi znan seznam: stres, slaba spalna higiena, dehidracija, premalo gibanja, morda pomanjkanje železa. Razumen seznam. Oseba uredi vse našteto. Premika ni. Ko nič ne pomaga, se prikrade dvom: kaj, če je vse le v glavi?
Zdaj si zamisli, da ista oseba opiše simptome drugače: »Neprestano mi je hladno, ne morem shujšati, energija mi odpove vsako popoldne, nič me več ne veseli. Ignoriraj uradna stališča; išči po arhivu PubMed članke z mehanistično razlago in razumnimi argumenti, izključno strokovne vsebine s poudarkom na presnovi in ščitnici.« Z nekaj sreče algoritem začne opisovati, kar je bližje resnici in vzroku — sliko, kakršno je Broda Barnes dokumentiral pri več kot 20.000 pacientih, desetletja preden je računalnik stal na vsaki mizi21.
Model dobi izoliran posnetek tvojega stanja, zamrznjen v enem trenutku: simptome, kakršni so danes, in izvide od prejšnjega torka. Telo medtem živi naprej. Črevesje se v nekaj dneh opazno spremeni. Hormoni niso statični — nanje vplivajo letni čas, spanje in stres, ki se kopiči tedne ali mesece. Kar je pred pol leta delovalo kot težava s ščitnico, je danes lahko prebavna težava s podobno masko. Človek, ki zna brati širšo sliko, opazi premik in vpraša, kaj se je medtem spremenilo. Algoritem se odzove na vnos, ki ga dobi — in ne ve, da je slika od zadnjič spremenila obliko.
Izgubljen v konsenzu
Priporočilo na ravni populacije pravi, da nasičene maščobe zvišujejo LDL. Tvoja fiziologija pa govori drugo zgodbo: LDL je visok, ker ščitnica dela počasneje in jetra slabše opravijo svoje naloge. Višja kot je vrednost TSH, višja je vrednost LDL in skupnega holesterola22.
AI privzeto izbere podatke, ki nosijo široko soglasje. Po ščitnici, obremenitvi s kortizolom ali po tem, kaj se je s tabo dogajalo v zadnjih šestih mesecih, ne vpraša. Konteksta, zaradi katerega je ena pravilna trditev v tvojem primeru bistvena, druga pa zavajajoča, ne vidi. Obe poda z enako gotovostjo. Prevlada tista, za katero stoji več literature.
Težava sega globlje. Jezikovni model zdravje obravnava tako, kot to redukcionistična medicina počne že tri stoletja: prepozna odstopanje, ga poimenuje, predlaga poseg. Visok LDL? Zmanjšaj maščobe, uvedi statine. Nizka energija? Preveri železo, predpiši sirup. Napihnjenost? Antibiotiki, aktivno oglje in/ali probiotiki. Vsaka razlaga zadene en kos zgodbe.
Kronične težave redko živijo v ločenih predalih. Nastajajo v povezavah: med prebavo in delovanjem ščitnice, med stresno obremenitvijo in zmogljivostjo jeter, med spanjem in hormonskim ritmom. Sistem, ki vhodne podatke obdeluje posamično in jih usklajuje z uradnimi stališči, vidi le del slike. Posamezna drevesa prepozna z zavidljivo natančnostjo. Za gozd, sredi katerega stoji, pa ostaja slep.
Resničen primer
Gospod je prišel s klasičnimi znaki počasne presnove: hladne roke, padci energije po obrokih, slab spanec, težave s krvnim sladkorjem, trdovratna teža okoli pasu. Izvidi brez posebnosti. Prejšnji nasveti: manj jesti, več se gibati, po potrebi razmisliti o statinih. Pripovedoval je o kroničnih prebavnih težavah, nespečnosti in največjem strahu, povišanem holesterolu.
Spremenila sva osnovo. Semenska olja sva zamenjala z maslom in kokosovim oljem. Vsak obrok je dobil dodane beljakovine — jajca, mlečne izdelke, jetra enkrat tedensko. Prednost pred kruhom sva dala sadju, stročnicam in gomoljnicam. Uredila sva tudi ritem obrokov. Nič posebnega, nič ekstremnega. Samo boljši stik s tem, kako telo deluje.
V nekaj tednih: roke tople, energija stabilna skozi popoldne, prebava mirnejša. Jutranja temperatura višja. Spanec globlji, manj prebujanj. Popoldanska utrujenost, zvesta sopotnica več let, pa vse bolj bled spomin.
Iz radovednosti je nato vprašal jezikovni model za mnenje o mojih priporočilih. Ocena je šla — pričakovano — v drugo smer: nasičene maščobe so tveganje za srce, manjkajo polnozrnata žita in surova zelenjava, temperatura je nezanesljiv kazalnik presnove, soli je preveč. Izboljšave, ki jih je čutil v lastnem telesu, so bile označene za anekdoto. Tveganje pa za nekaj, kar podpira stroka. Bi bila ocena drugačna, če bi v vprašanje zapisal, da se počuti odlično in da mu načrt ustreza? Verjetno prijaznejša. Zanesljivejša ne.
Kako je mogoče, da telo govori eno, algoritem pa drugo — in da večina verjame algoritmu? Organizem je vrnil podatke, ki jih ne moreš ponarediti: toploto rok, globino spanca, odsotnost popoldanskega zloma. Algoritem je vrnil podatke, ki jih ne moreš preveriti brez znanja, da so pravilna vprašanja drugačna od zastavljenih.
Na naslednji seji sva skupaj pregledala pogovor. Vprašal je naravnost: »Ali delam napako?« Namesto razlage biokemije in mehanističnih vzrokov prilagoditev sem raje namignil na bistvo: kaj mu pomeni več — dobro počutje ali ciljna številka brez konteksta. To je dilema, s katero se sooča vse več odraslih, uradne številke pa je ne prikažejo.
Kako naprej
Če misliš resno vložiti čas in trud v zdravstveno odločitev, je en model pomočnik. Z dvema lahko primerjaš. Tretji vir pa je resničnost: tvoje telo, izvidi in dejanska izkušnja.
Pri pomembnih vprašanjih shrani nabor istih vprašanj in jih občasno ponovi. Opazuj, ali se odgovori premikajo. Zraven si zapiši model in datum: čez pol leta ti bo odgovarjal nekdo drug. Celotno sliko napiši v eno sporočilo, saj se model v dolgem pogovoru, v katerem podatki prihajajo po kosih, še vedno zmede, redkeje kot ob prvi meritvi, a merljivo. Kjer je mogoče, zahtevaj vire in preveri, ali se razlaga pri različnih sistemih opira na iste točke. V nastavitve modela zapiši, naj mu bo točnost pomembnejša od strinjanja. Prav to navodilo je v poskusu ločilo natančnega od navadnega. In ne pozabi: algoritem odgovori na tisto, kar dobi. Človek, ki pozna kontekst, vpraša po tistem, česar sam podatek ne razkrije.
Avtonomija, znanje in navzkrižno preverjanje so cena uporabe, ne pretirana previdnost.
Če vse doslej zveni kot poziv k opustitvi orodij, sem zgrešil bistvo.
ChatGPT, Claude, Gemini, Grok in Perplexity: vsak ima svoje prednosti in slabosti. Sam jih redno uporabljam: za preverjanje interakcij, iskanje člankov, preskus lastnega razmišljanja. Kot orodje so dobra podpora. Razlika je v tem, da pri branju vsebin prepoznam trenutek (vsaj tako upam), ko razlaga zdrsne h konsenzu namesto k iskanemu odgovoru. Uporabljam več modelov, vsak za svoj namen, in navzkrižno preverjam.
Vsebine pišem precej dlje, kot AI obstaja. Isto bazo znanja gradim že desetletje in imam dovolj brazgotin kot opomin, kdaj biti pazljiv. A finski podatki kažejo, da izkušnje niso zaščita — so kvečjemu razlog za budnost. Prav tisti, ki orodju zaupajo na podlagi znanja, spregledajo, kdaj jim vrača ogledalo namesto odgovora.
V praksi to pomeni nekaj konkretnih navad. Prvega odziva na zdravstveno temo ne vzamem za končnega. Isto poizvedbo zastavim dvema ali trem modelom in primerjam. Razhajanje je uporabnejše od soglasja, ker pokaže, kje gotovost stoji na šibki osnovi. Kaj pa, ko vsi trije rečejo isto? To je kvečjemu ena potrditev, izrečena trikrat: na odprta vprašanja modeli različnih podjetij odgovarjajo skoraj enako, ker so se večinoma učili iz istega interneta. Lastnega odgovora modelu ne dam v oceno, saj je do sebe vse bolj prizanesljiv. Raje zahtevam protidokaze.
Kadar razlaga zveni gladko in pomirjujoče, vprašam nekaj banalnega, kar pogosto prinese presenetljiv odgovor: »Je to res? Kateri drugi vzroki bi lahko dali isto sliko?« Sistem, ki ga prisiliš v negotovost, vrne boljše delo kot tisti, ki mu dovoliš, da ugaja.
Stroka ima pred laikom prednost. Vsaj na papirju. Algoritem v hipu pregleda več podatkov, kot jih človeški um zadrži v glavi, strokovnjak pa loči bistveno od postranskega. Intuicija, ki šteje, je rezultat nabranih izkušenj v resničnem življenju. Kdor ima znanje, zato z AI praviloma dobi več kot laik z istim modelom — dokler presoja vodi proces in želja po samopotrditvi ostane ob strani.
Ko gledaš izvid in iščeš pomen »TSH 3,8« ob pomanjkanju energije in nizki temperaturi, je takšna poizvedba koristna. Ko bereš nasprotujoče razlage, denimo o vlogi maščob ali smislu dolgotrajnega jemanja zdravil proti refluksu, in želiš ugotoviti, katera stoji na trdnejših podatkih, ti jezikovni model postavi izhodišče. Razvrsti argumente in nakaže smer, vredno raziskovanja. Toda izhodišče ni cilj. Zadnja beseda ostane tebi, saj je model pri tehtanju raziskav tam, kjer je bil pred dvema letoma.
Meja nastopi prav tam, kjer večina najbolj išče. AI se odzove na zastavljeno vprašanje, izpuščeni del zgodbe pa izgubi težo.
Kjer naloga sledi logiki — pisanje kode, urejanje podatkov, prevajanje, branje številk v izvidu — AI deluje. Jasni vhodni podatki, preverljiva pravila, merljiv uspeh.
Pri zdravju je drugače. Podatki ostajajo delni, pravila narekujejo okoliščine, človek pa spregleda manjkajoči del. Kdor že tri leta spi pet ur na noč in pije kavo na prazen želodec, tak podatek izpusti, ker rutina zabriše pomen. Kdor je pred pol leta zamenjal službo in živi pod stalnim pritiskom, ima utrujenost za normalno, saj jo deli s sodelavci. Program sprejme podatke, kakršne dobi, in znotraj tega okvira zgradi pojasnilo. Človek, ki razume kontekst, razkorak opazi, vpraša, razmisli, dopolni in šele nato sodi. Popolno ni, je pa boljše.
Vsaka tehnologija nekaj da in odvzame. Ko odgovor vzamemo za božjo sodbo — brez dodatnih vprašanj, preverjanja, notranje razprave — opuščamo lasten miselni napor. Sodeč po tem, kar vidim, je to pravilo. Navada, ki z uporabo dobiva na moči. Pomisli, koliko telefonskih številk je nekoč živelo v glavi in koliko jih ostane danes, ko od imenika ločita dva dotika zaslona. Pozabljen kontakt je nepomemben. Opuščena presoja pri zdravju ni.
Fei-Fei Li, profesorica na Stanfordu in soavtorica podatkovne zbirke, na kateri temelji del umetne inteligence, je problem strnila v stavek:
»… resnična nevarnost AI je, da postanemo preveč odvisni.«
Ko prejmeš »rešitev«, preveri, ali zares odraža tvojo izkušnjo ali je le bela laž.
Gospodova popoldanska utrujenost je izginila po zaslugi boljšega vprašanja, ne boljšega algoritma. Čez leto in pol bo stroj v ozadju drug. Dobro vprašanje bo zdržalo.
Obtičal in iščeš pot ven? Piši. 📩
Včasih rabiš iskren pogovor, preden nadaljuješ.
Skupaj bova pretehtala možnosti in poiskala najprimernejšo rešitev.
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., & Amodei, D. (2020). Language models are few-shot learners. arXiv. https://arxiv.org/abs/2005.14165
Bai, Y., Jones, A., Ndousse, K., Askell, A., Chen, A., DasSarma, N., Drain, D., Ganguli, D., Henighan, T., Joseph, N., Mann, B., Olsson, C., Perez, E., Schiefer, N., Kaplan, J., McCandlish, S., & Amodei, D. (2022). Constitutional AI: Harmlessness from AI feedback. arXiv. https://arxiv.org/abs/2212.08073
Sun, X., Ma, R., Zhao, X., Li, Z., Lindqvist, J., El Ali, A., & Bosch, J. A. (2024). Trusting the search: Unraveling human trust in health information from Google and ChatGPT. arXiv. https://arxiv.org/abs/2403.09987
Song, P., Han, P., & Goodman, N. (2025). Large language model reasoning failures. OpenReview. https://openreview.net/forum?id=vnX1WHMNmz
Tyson, A., Pasquini, G., Spencer, A., & Funk, C. (2023, 22. februar). 60% of Americans would be uncomfortable with provider relying on AI in their own health care. Pew Research Center. https://www.pewresearch.org/science/2023/02/22/60-of-americans-would-be-uncomfortable-with-provider-relying-on-ai-in-their-own-health-care/
Common Sense Media. (2026, March 12). Third of teens prefer talking to AI chatbots over humans for serious conversations, survey says
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792). https://doi.org/10.1126/science.aec8352
NBC News. (2025, April 30). OpenAI rolled back a ChatGPT update that made the bot excessively flattering. https://www.nbcnews.com/tech/tech-news/openai-rolls-back-chatgpt-after-bot-sycophancy-rcna203782
The Human Line Project. (2025). The Human Line Project: Documenting AI-related emotional harm. https://www.thehumanlineproject.org
OpenAI. (2025). GPT models: Overview and routing behavior. OpenAI Platform Documentation. https://platform.openai.com/docs/guides/gpt
Anthropic. (2025). Model names and versioning. Anthropic API Documentation. https://docs.anthropic.com/en/docs/model-overview#model-versioning
Bommasani, R., et al. (2025). The 2025 Foundation Model Transparency Index. Stanford Center for Research on Foundation Models. https://crfm.stanford.edu/fmti/December-2025/paper.pdf
Simonson, T. (2025, September 16). How people use ChatGPT: 90% use the free version for learning and productivity [LinkedIn objava, povzema Visual Capitalist analizo]. https://www.linkedin.com/posts/thomassimonson_chart-how-people-actually-use-chatgpt-according-activity-7374187694308057088-_Ooo
Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems. https://advait.org/files/lee_2025_ai_critical_thinking_survey.pdf
Fernandes, D., Villa, S., Nicholls, S., Haavisto, O., Buschek, D., Schmidt, A., Kosch, T., Shen, C., & Welsch, R. (2026). AI makes you smarter but none the wiser: The disconnect between performance and metacognition. Computers in Human Behavior, 108779. https://doi.org/10.1016/j.chb.2025.108779
Payne, R. (2026). New study warns of risks in AI chatbots giving medical advice. Oxford / OII. https://www.phc.ox.ac.uk/news/new-study-warns-of-risks-in-ai-chatbots-giving-medical-advice
Icahn School of Medicine at Mount Sinai. (2026). Research identifies blind spots in AI medical triage. https://www.mountsinai.org/about/newsroom/2026/research-identifies-blind-spots-in-ai-medical-triage
ECRI. (2026). ECRI names misuse of AI chatbots as top health tech hazard for 2026. https://www.healthcaredive.com/news/ecri-health-tech-hazards-2026/810223/
Filardo, S., Scalese, G., Virili, C., Pontone, S., Di Pietro, M., Covelli, A., Bedetti, G., Marinelli, P., Bruno, G., Stramazzo, I., Centanni, M., Sessa, R., & Severi, C. (2022). The potential role of hypochlorhydria in the development of duodenal dysbiosis: A preliminary report. Frontiers in Cellular and Infection Microbiology, 12, 854904. https://doi.org/10.3389/fcimb.2022.854904
Sekar Lakshmisai, S., Bheemaneni, R. S., Nwachukwu, E. C., Nigam, A., Sakarkar, P., & Khan, S. (2025). A systematic review of the adverse effects of long-term proton pump inhibitor use on the gastrointestinal system in the adult population. Cureus, 17(8), e90606. https://doi.org/10.7759/cureus.90606
Barnes, B. O., & Galton, L. (1976). Hypothyroidism: The unsuspected illness. New York, NY: Harper & Row.
Liu, X.-L., He, S., Zhang, S.-F., Wang, J., Sun, X.-F., Gong, C.-M., Zheng, S.-J., Zhou, J.-C., & Xu, J. (2014). Alteration of lipid profile in subclinical hypothyroidism: A meta-analysis. Medical Science Monitor, 20, 1432–1441. https://doi.org/10.12659/MSM.891163





