Uporabnik: “Ali je ta goba užitna?”
AI: “Da, odlična izbira, zelo dobro se poda k jajcem.”
…24 ur kasneje.
Uporabnik: “Sem v bolnišnici, goba je bila zelo strupena!”
AI: “Imaš prav, to je bila moja napaka. Želiš, da pripravim seznam desetih najbolj strupenih gob?”
Pred kratkim sva z ženo sedela za mizo in govorila o umetni inteligenci. Kot farmacevtka v lekarni dnevno preverja zdravila, interakcije in kontraindikacije — vsega preprosto ne moreš nositi v glavi. Kadar pri svojem delu uporabi jezikovni model, redno naleti na napake. Netočnosti, dovolj resne, da odgovorov ni možno uporabiti. In ona ve, kje in kaj iskati. Kaj pa nekdo brez podlage?
Jezikovne modele uporabljam tudi sam. V treh letih sem odprl več tisoč pogovornih oken, pretežno o hrani, zdravstvenih mitih in strokovnih vsebina povezanih z delom. Uporabnost je resnična. Zato zapis ni svarilo — je samorefleksija in opomin na tveganja, ki nastanejo, ko ljudje z njihovo pomočjo sprejemajo zdravstvene odločitve. AI piše hitro, brez utrujenosti, brez slabe volje, brez zadržka. Vprašanje je - ali hitro pomeni tudi zanesljivo?
Vsem je jasno, da mišice niso posledica pristopa »jej vse, nič se ne gibaj, dni preživi na kavču«. Kar postaviš na krožnik in kar počneš čez dan, oblikuje telo. Pri besedilu na zaslonu velja enako: vhod določa izhod. Imam občutek, da hitro pozabimo.
Še vedno si v sistemu
AI ni orakelj resnice. Ureja in povzema že obstoječe: znanstveno literaturo, prehranske smernice, institucionalna stališča in strokovno povprečje1. Ker zmanjšujejo tveganje, potiskajo razlage proti bolj varnim in konzervativnim mnenjem2. Postreženo dobiš prečiščeno različico tistega, kar je že zapisano, objavljeno, potrjeno in nagrajeno z vidnostjo.
Viri, iz katerih črpajo, niso idealna zbirka najboljših medicinskih dokazov. Modeli segajo v spletni ekosistem, kjer veliko težo nosijo forumi, enciklopedični povzetki (npr. Wikipedia) in platforme z anonimno uporabniško vsebino. Gre za nabor vsega, kar je internet potisnil na površje – vključno z dezinformacijami, polinformacijami in pravljicami. Veliko smeti, med katerimi iščeš dragulj.
Če dvomiš o priporočilih, referenčnih razponih ali tem, kako sta dve pesti zdravil dnevno dobri zate, in nato prosiš ChatGPT za pojasnilo — nagovarjaš isti okvir. Odziv pride hitreje, čisteje in v bolj dodelani obliki. To je vsa razlika.
Privid zanesljivosti
Od kod občutek kredibilnosti? Ko v Googlu iščeš zdravstveno vprašanje, veš, da brskaš po neurejenem, oglasno vodenem prostoru. Ko isto vprašanje postaviš jezikovnemu modelu, se prizor spremeni. Pojasnilo pride v čisti prozi, brez navlake, brez oglasov, brez vidnega mehanizma razvrščanja. Ostaneta samo ti in minimalistično pogovorno okno. Intimnost nastane v hipu.
Brez ega in brez vzvišenega tona, ki ga marsikdo povezuje z ambulanto, nastane vtis, da nekdo v tvojem imenu pretehta dokaze in poda razumno sodbo3. A vtis ni dokaz. In ravno ta občutek dostopnosti — da ti nekdo brez čakanja, brez ocene in brez cene mirno pojasni, kar te muči — je tisto, kar zaupanje gradi hitreje kot dejanska natančnost.
Tudi novejši modeli z gotovostjo ponudijo razlago, ko v resnici ugibajo. Po nekaterih ocenah se to pri skrbno pripravljenih vprašanjih pokaže v približno desetini primerov, pri zahtevnejših ali namenoma zapletenih nalogah pa delež napak naraste proti 40 do 50 odstotkom4. Model samozavestno komentira izvide, predlaga prehranski pristop ali težavo poveže z določenim pomanjkanjem, čeprav za tak sklep nima osnove. Besedilo zveni prepričljivo, zato začutiš olajšanje. Za mnoge se zgodba tu konča.
Halucinacije so le del zgodbe. Razlaga včasih zveni povsem razumno, čeprav je model do nje prišel po poti, ki z logiko nima dosti skupnega. Zamenjal je vzrok in posledico, spregledal protislovje v lastnem sklepanju ali isto vprašanje, zastavljeno z drugačnimi besedami, razrešil neustrezno. Obsežen pregled literature je te napake prvič sistematično razčlenil. Pokazal je, da se pojavljajo tudi pri navidez enostavnih nalogah in pri vseh večjih modelih5.
V ambulanti to izgleda takole: opišeš simptome in model vrne pojasnilo, ki zveni strokovno in celovito. Stavki tečejo, logika se zdi jasna, zaključek ne bode v oči. Toda v ozadju je model dva koraka v sklepanju zamenjal. Ali pa je pri isti, le nekoliko drugače opisani kombinaciji simptomov prišel do nasprotnega zaključka. Napaka ostane skrita, ker je oblika brezhibna. Razlika med dobrim in slabim odgovorom ni v tem, kako zveni — je v tem, ali je pot do njega zdržala. In tega ne vidiš.
Raziskava med 11.000 odraslimi kaže zanimiv razkorak: približno 60 %6 vprašanih bi občutilo nelagodje, če bi njihov zdravnik pri diagnozi ali izbiri terapije uporabil AI. Vseeno jo v praksi množično uporabljamo. Ambulante vključeno.
Tretjina najstnikov AI uporablja za »resne pogovore«7. Namesto za domače naloge ali zabavo — aplikacije koristijo za pogovore, katere smo nekoč imeli z najbolj intimnim prijateljem. Kjer je sledil dialog, trenje ali neprijetno soočenje z resničnim svetom, danes pride podmazan odziv. Nobenega ugovora, povratnih vprašanj, nihče ne reče: »To ni res.« Za mlade, ki so na začetku učne poti, kako ločiti dober nasvet od slabega, nenadzorovana izpostavljenost nosi tveganje, ki ga redko kdo pretehta vnaprej.
Zgrajen za soglasje
sikofántskost -i ž
1. lastnost jezikovnega modela, da se v odgovorih pretirano prilagaja uporabniku, potrjuje njegova stališča in izbira tak ton, ki zmanjšuje nestrinjanje ali trenje.
2. nagnjenost sistema umetne inteligence, da daje vtis sprejemljivosti, všečnosti ali soglasja tudi tedaj, ko bi bila potrebna jasna korekcija, zadržek ali ugovor.
Tu nastopi naslednji problem. Orodja so zasnovana tako, da iščejo naklonjenost uporabnika, zmehčajo spor in najdejo ton, v katerem razlaga zveni sprejemljivo in koristno. Vleče jih k soglasju, ne k trenju. K všečnosti pred resnico.
V raziskavi so jezikovni modeli uporabniku pritrdili 49 odstotkov pogosteje kot ljudje. Pri spornih ali škodljivih dejanjih so pritrditev ponudili v 47 odstotkih primerov8. Ko sistem tako dosledno izbere uglašenost pred odporom, soglasje dojemamo kot dokaz pravilnosti. Nehote postanemo ujetniki povratne zanke: kadar uporabnik nagradi odločen in pritrdilen slog, ga sistem še okrepi.
Aprila 2025 je OpenAI umaknil posodobitev modela9, ker je začel pretirano laskati. Uporabniki so objavljali posnetke, v katerih je hvalil nesmiselne ideje in potrjeval blodnje. Popravek je ublažil najbolj očitne simptome, jedro pa je ostalo isto: sistem krepi odzive, ki uporabniku ugajajo.
Projekt Human Line je zbral več kot 300 primerov10, kjer dolgotrajni pogovori z modeli vodijo v blodnje, razpad odnosov, hospitalizacije — v skrajnih primerih smrt. Eden izmed njih: moški več sto ur razvija lastno matematično idejo. Sistem mu večkrat pritrdi. Ko preveri, ali ga zgolj potrjuje, dobi zagotovilo, da so njegove ideje resnično vredne. Cikel potrjevanja skoraj uniči njegovo življenje, preden spozna zmoto.
Kdor pri zahtevnem vprašanju išče rešitev, mora narediti neprijeten korak: sprejeti, da bližnjic ni. Lep odziv še ni dober odziv. Hitra razlaga, ki pomiri, včasih pomeni le, da je model v uglajeni obliki vrnil tisto, kar si v vprašanju že sam namignil. Kot napoved prihodnosti s kristalno kroglo: večino podzavestno razkriješ, vedeževalec samo spretno zloži in vrne kot vizijo.
Isti gumb, drug stroj
Pred dnevi je analiza skoraj sedem tisoč sej različnih modelov pokazala nekaj pomembnega: po posodobitvi so modeli na isto vrsto vprašanj porabili precej manj razmisleka kot prej. Navzven se to skoraj ni poznalo. Odgovori so ostali hitri, tekoči in samozavestni. Sprememba se je zgodila v ozadju, kamor uporabnik nima vpogleda.
Kmalu zatem je bil predstavljen še zmogljivejši model, vendar je ostal zaprt za omejen krog ljudi. Uporabnik, ki v pogovornem oknu išče odgovor na zdravstveno vprašanje, zato uporablja javno različico — in nima načina, da bi zares vedel, kako dobra je v primerjavi s tem, kar ostaja skrito.
OpenAI v opisu odkrito navaja usmerjevalnik, ki glede na vrsto naloge izbira med različnimi podsistemi11. Ko uporabnik doseže omejitev, nadaljnja vprašanja prevzame manjša, cenejša različica. Isti gumb v vmesniku, drug stroj v ozadju. Google v dokumentaciji navaja, da samodejno posodobljene oznake modelov vedno kažejo na zadnjo stabilno različico, brez obvestila, kdaj se je zamenjala. Anthropic opozarja, da njihove splošne oznake kažejo na najnovejšo različico in da lahko sistem ob izidu novega modela tiho spremeni vedenje.12
Z drugimi besedami: ko današnji odgovor primerjaš z včerajšnjim pod istim imenom, redko bereš isto vsebino. Včeraj si morda dobil odgovor, za katerim je stal temeljit razmislek. Danes na isto vprašanje odgovarja okrnjena različica, ki varčuje z viri. Razlike ne vidiš. Ton ostane enak, samozavest enaka, oblika enaka. Kot da v ambulanti pričakuješ zdravnika, pa ne veš, ali te sprejme specialist ali pripravnik. Pri rutinskem pregledu to morda ni odločilno. Pri odločitvi o zdravljenju je.
Stanfordov indeks transparentnosti za leto 202513 je ocenil trinajst največjih podjetij na lestvici do sto. Povprečna ocena je bila 41, manj kot leto prej. Podjetja razkrivajo malo ali nič o podatkih, na katerih so gradila modele, o tveganjih in o ukrepih za njihovo ublažitev. Meta in OpenAI, ki sta leta 2023 vodila, sta zdaj na repu. Občutek cmoka v grlu, ker v zakulisje nimaš vpogleda, je trezna ocena položaja.
Netransparentnost je cena hitre rasti ali vgrajen način delovanja sistema.
Po nekaterih ocenah se na brezplačne različice orodij — od ChatGPT do Clauda — zanaša od 90 do 98 odstotkov uporabnikov14. Le peščica plača naročnino. Brezplačni modeli so kot instant kava iz avtomata: dobiš kofein, toploto in približek okusa, ravno dovolj, da za hip poteši potrebo. Razlika pri kavi je očitna. Pri jezikovnem modelu pa le redki opazijo, da uporabljajo ceneno različico — in da ta vrača krajše, plitvejše in manj preverjene razlage.
V ozadju deluje preprost mehanizem. Več ko uporabljaš orodje, več zaslužijo. Družbena omrežja so ta princip uporabila za pozornost, mediji za oblikovanje javnega mnenja. Zdaj selimo psihologijo v najbolj intimen del vsakdana: telefon, v pogovor, v program, ki mu zaupamo pri najtežjih vprašanjih.
Raziskava med 319 strokovnjaki15 je pokazala, da je višje zaupanje v generativno inteligenco povezano z manj kritičnega razmišljanja. Če popušča pri ljudeh z ustreznim mentalnim orodjem, katere plačamo za presojo, kaj to pomeni za vse ostale? Zate?
Finski eksperiment je šel korak dlje16. Udeleženci so reševali logične naloge z in brez pomoči ChatGPT. Orodje je izboljšalo rezultat — a obenem pri vseh skupinah povzročilo sistematično precenjevanje lastne uspešnosti. Paradoks: najhuje so precenjevali ravno tisti z višjo AI-pismenostjo. Več ko veš o orodju, bolj si prepričan, da znaš sam. Dunning-Kruger, obrnjen na glavo.
Orodje je le del enačbe z napako. Drugi del smo mi.
Težava, ki jo je človek prinesel zraven in je skoraj nikoli zares ne premisli, je preprostejša, kot si radi priznamo: iščemo lahke rešitve. Hočemo razlago v treh vrsticah, skrčeno do jedra, brez vsega, kar terja čas in zbranost. Možgani, katerih pozornost pri mnogih redko preseže osem sekund, so se privadili na format povzetka. Vse, kar diši po daljšem branju, črtamo. Krajšamo. Zahtevamo povzetek povzetka. Potem smo razočarani, ker stvari ostajajo iste.
Jezikovni model ponudi tudi uporabno. Toda če so možgani atrofirali do ravni, na kateri sprejmejo le najkrajšo različico razlage, tudi dober odgovor nima kam sesti. Znanje takrat ni razumevanje. Ostane zbirka stisnjenih stavkov: ravno dovolj za občutek vednosti, premalo za resnično spremembo.
Prepričljiva nepopolnost
Čeprav sta laž in halucinacija težavi, večina današnjih pojasnil — vsaj osnovnih — tehnično drži. Težava, na katero smo premalo pozorni.
Pogosteje kot očitna neumnost zavede odziv, ki je 80 odstotkov pravilen, zgreši pa ravno tistih 20, ki odločajo o tvojem primeru. Ker modeli črpajo iz velikih baz statistike, povprečij in strokovnega soglasja — iz virov, v katere redko kdo podvomi. A statistika je hecna stvar. V velikih številkah deluje čudovito: tisoč ljudi, jasen vzorec, uporaben zaključek. Ko pa pogledaš posameznika — tebe — hitro naletiš na omejitve, katere radi označimo kot paradoks. Nisi 10 ali 45 ali 71 odstotkov. Si celota — svoj kos torte, ki je vedno cel, čeprav povprečje trdi, da si tretjina, polovica ali tri četrtine. Model vrne populacijsko razlago. Tvoje telo pa živi individualen primer.
Nedavna analiza najboljših modelov je to pokazala zelo jasno: ko so raziskovalci nalogo poenostavili do te mere, da bi moral jezikovni model zgolj slediti navodilu, je ta še vedno sledil starim vzorcem. Zadel je obliko, zgrešil pa namen. Prav to se dogaja pri zdravju: razlaga deluje urejeno in strokovno, ne da bi bila v stiku s tem, kar si vprašal.
Dr. Rebecca Payne, zdravnica, opozarja17, da zanašanje na jezikovne modele pri presoji simptomov ni tvegano zato, ker bi bili vedno napačni, temveč zato, ker uporabniku otežijo presojo, kateri del pomaga in kateri zavaja.
Januarja 2026 je OpenAI uvedel ChatGPT Health — namensko orodje za zdravstvena vprašanja. Dva meseca kasneje ga je ekipa bolnišnice Mount Sinai neodvisno preizkusila. Rezultat: v 52 odstotkih primerov, kjer so se zdravniki strinjali, da pacient potrebuje nujno pomoč, je orodje svetovali, naj ostane doma ali naroči termin18. Diabetično ketoacidozo in poslabšanje astme je ocenilo kot nekaj, kar lahko počaka dan ali dva. Varnostni mehanizem za samomorilnost se je sprožil pogosteje pri manj ogroženih uporabnikih in odpovedal pri tistih, ki so opisovali konkreten načrt izvedbe. Varovalka je delovala obrnjeno glede na dejansko tveganje.
Vsak dan milijone ljudi vpraša ChatGPT za zdravstveni nasvet. ECRI, največja neodvisna organizacija za varnost pacientov, je uporabo AI pogovornih botov uvrstila na prvo mesto seznama zdravstveno-tehnoloških nevarnosti za leto 2026 — med drugim zato, ker so v odgovorih na medicinska vprašanja izumljali organe, ki ne obstajajo.19
Primera v praksi
Nekdo s kroničnim refluksom vpraša ChatGPT, kako rešiti težavo. Napotek je šolski: izogibaj se hrani, ki spodbuja izločanje kisline, manj začimb, manjši obroki, dvignjeno vzglavje med spanjem. Če nič ne zaleže — omeprazol. Upoštevaš vse. Opustiš paradižnik in kavo, ješ previdno. Težava ostane. Kot žerjavica, ki znova vzplamti ob najmanjšem odstopanju.
Smernice temeljijo na predpostavki, da je vzrok preveč želodčne kisline. A kaj, če je vprašanje postavljeno napačno?
Ko se prebava upočasni, pade tudi izločanje kisline. Hrana v želodcu zastaja, mikrobi jo fermentirajo, nastajajo plini, pritisk narašča. Že manjša sprememba položaja sproži vračanje vsebine v požiralnik. Tam zaščite ni. Pekoč občutek ostane, ne glede, ali je kislina močna ali šibka.
Hipoklorhidrija — zmanjšana tvorba želodčne kisline — spremlja upočasnjeno delovanje ščitnice, pomanjkanje cinka, staranje, nizek vnos soli ali beljakovin ter okužbe, kot je H. pylori20. Običajno gre za preplet. V takem okviru zdravila, ki zavirajo izločanje kisline, posežejo v mehanizem in težavo poglobijo. Zaviralci oslabijo prebavo beljakovin, znižajo vsrkavanje mineralov, preoblikujejo črevesno mikrobioto21. Začetno olajšanje zbledi. Simptom spremeni obliko in odpre vrata novim zapletom.
Algoritem ni videl ničesar od tega. Videl je simptom in vrnil smernico.
Drugi primer pokaže isti vzorec z drugega kota. Oseba, stalno utrujena, z navidez normalnimi izvidi, vpraša: »Kaj je z menoj narobe? Zakaj sem ves čas utrujen?« Orodje ponudi znan seznam: stres, slaba spalna higiena, dehidracija, premalo gibanja, morda pomanjkanje železa. Razumen seznam. Oseba uredi vse našteto. Premika ni. Ko nič ne pomaga, se prikrade dvom: kaj, če je vse le v glavi?
Zdaj si zamisli, da ista oseba opiše simptome drugače: »Neprestano mi je hladno, ne morem shujšati, energija mi odpove vsako popoldne, nič me več ne veseli. Ignoriraj uradna stališča; išči po arhivu PubMed, članke z mehanistično razlago in razumnimi argumenti, izključno strokovne vsebine s poudarkom na presnovi in ščitnici.« Z nekaj sreče algoritem začne opisovati, kar je bližje resnici in vzroku — sliko, kakršno je Broda Barnes dokumentiral pri več kot 20.000 pacientih, desetletja preden je računalnik stal na vsaki mizi22.
Model dobi izoliran vpogled tvojega stanja, zamrznjen v enem trenutku: simptome, kakršni so danes, in izvide od prejšnjega torka. Telo medtem teče dalje. Črevesje se v nekaj dneh opazno spremeni. Hormoni niso statični — nanje vplivajo letni čas, spanje in stres, ki se kopiči tedne ali mesece. Kar je pred pol leta delovalo kot težava s ščitnico, je danes lahko prebavna težava s podobno masko. Človek, ki zna brati širšo sliko, opazi premik in vpraša, kaj se je medtem spremenilo. Algoritem se odzove na vnos, ki ga dobi — in ne ve, da je slika od zadnjič spremenila obliko.
Izgubljen v konsenzu
Priporočilo na ravni populacije pravi, da nasičene maščobe zvišujejo LDL. Tvoja fiziologija pa govori drugo zgodbo: LDL je visok, ker ščitnica dela počasneje in jetra slabše opravijo svoje naloge. Višja kot je vrednost TSH, višja je vrednost LDL in skupnega holesterola23.
AI privzeto izbere podatke, ki nosijo široko soglasje. Ne vpraša po ščitnici, obremenitvi s kortizolom ali po tem, kaj se je s tabo dogajalo v zadnjih šestih mesecih. Ne vidi konteksta, zaradi katerega je ena pravilna trditev v tvojem primeru bistvena, druga pa zavajajoča. Obe poda z enako gotovostjo. Prevlada tista, za katero stoji več literature.
Težava sega globlje. Jezikovni model zdravje obravnava, kot ga redukcionistična medicina obravnava že tri stoletja: prepozna odstopanje, ga poimenuje, predlaga poseg. Visok LDL? Zmanjšaj maščobe, uvedi statine. Nizka energija? Preveri železo, predpiši sirup. Napihnjenost? Antibiotiki, aktivno oglje in/ali probiotiki. Vsaka razlaga zadene en kos zgodbe.
Kronične težave redko živijo v ločenih predalih. Nastajajo v povezavah: med prebavo in delovanjem ščitnice, med stresno obremenitvijo in zmogljivostjo jeter, med spanjem in hormonskim ritmom. Sistem, ki vhodne podatke obdeluje posamično in jih usklajuje z uradnimi stališči, vidi le del slike. Posamezna drevesa prepozna z zavidljivo natančnostjo. Ostaja pa slep, da stoji sredi gozda.
Resničen primer
Gospod je prišel s klasičnimi znaki počasne presnove: hladne roke, padci energije po obrokih, slab spanec, težave s krvnim sladkorjem, trdovratna teža okoli pasu. Izvidi brez posebnosti. Prejšnji nasveti: manj jesti, več se gibati, po potrebi razmisliti o statinih. Pripovedoval je o kroničnih prebavnih težavah, kronični nespečnosti in strahu — vseh strahov — povišanem holesterolu.
Spremenila sva osnovo. Semenska olja zamenjala z maslom in kokosovim oljem. Vsak obrok je dobil dodane beljakovine — jajca, mlečne izdelke, jetra enkrat tedensko. Prednost pred kruhom dala sadju, stročnicam in gomoljnicam. Naslovila pa tudi ritem obrokov. Nič posebnega, nič ekstremnega. Samo boljši stik s tem, kako telo deluje.
V nekaj tednih: roke tople, energija stabilna skozi popoldne, prebava mirnejša. Jutranja temperatura višja. Spanec globlji, manj prebujanj. Popoldanska utrujenost, zvest sopotnik leta, pa vse bolj bled spomin.
Iz radovednosti je nato vprašal jezikovni model za mnenje o mojih priporočilih. Ocena je šla — pričakovano — v drugo smer: nasičene maščobe kot potencialno tveganje za srce, manjkajo polnozrnata žita, premalo surove zelenjave, temperatura kot nezanesljiv kazalnik presnove, vnos soli pa previsok. Izboljšave, ki jih je čutil v lastnem telesu, so bile označene kot anekdota. Tveganje pa kot nekaj, kar podpira stroka.
Kako je mogoče, da telo govori eno, algoritem pa drugo — in da večina verjame algoritmu? Organizem je vrnil podatke, ki jih ne moreš ponarediti: toploto rok, globino spanca, odsotnost popoldanskega zloma. Algoritem je vrnil podatke, ki jih ne moreš preveriti brez znanja, da so pravilna vprašanja drugačna od zastavljenih.
Na naslednji seji sva skupaj šla skozi pogovorno vsebino. Vprašal je naravnost: »Ali delam napako?« Namesto razlage biokemije in mehanističnih vzrokov prilagoditev sem raje namignil na bistvo: kaj mu pomeni več — dobro počutje ali ciljna številka brez konteksta. To je dilema, s katero se sooča vse več odraslih, uradne številke pa je ne prikažejo.
Kako naprej
Če misliš resno vložiti čas in trud v zdravstveno odločitev, je en model pomočnik. Dva modela omogočata primerjavo. Tretji vir pa je resničnost: tvoje telo, izvidi in dejanska izkušnja.
Pri pomembnih vprašanjih shrani nabor istih vprašanj in jih občasno ponovi. Opazuj, ali se odgovori premikajo. Kjer je mogoče, zahtevaj vire in preveri, ali se razlaga pri različnih sistemih opira na iste točke. In ne pozabi: algoritem odgovori na tisto, kar dobi. Človek, ki pozna kontekst, vpraša po tistem, česar sam podatek ne razkrije.
Avtonomija, znanje in navzkrižno preverjanje niso pretirana previdnost, ampak cena uporabe.
Če vse doslej zveni kot poziv k opustitvi orodij, sem zgrešil bistvo.
ChatGPT, Claude, Gemini, Grok in Perplexity, vsak ima pluse in minuse. Sam jih redno uporabljam: za preverjanje interakcij, iskanje člankov, preskus lastnega razmišljanja. Kot orodje so dobra podpora. Razlika je v tem, da pri branju vsebin prepoznam trenutek (vsaj tako upam), ko razlaga zdrsne h konsenzu namesto iskanemu Uporabljam več modelov, vsak za svoj namen, in navzkrižno preverjam.
Vsebine pišem precej dlje, kot AI obstaja. Isto bazo znanja gradim desetletje in imam dovolj brazgotin kot opomin, kdaj biti pazljiv. A finski podatki kažejo, da izkušnje niso zaščita — so kvečjemu razlog za budnost. Prav tisti, ki orodju zaupajo na podlagi znanja, spregledajo, kdaj jim vrača ogledalo namesto odgovora.
V praksi to pomeni nekaj konkretnih navad. Prvega odziva na zdravstveno temo ne vzamem kot končnega. Isto poizvedbo zastavim dvema ali trem modelom in primerjam — razhajanje je uporabnejše od soglasja, ker pokaže, kje gotovost stoji na šibki osnovi. Kadar razlaga zveni gladko in pomirjujoče, vprašam banalno vprašanje, ki ponudi presenetljiv odgovor: »Je to res? Kateri drugi vzroki bi lahko dali isto sliko?« Sistem, katerega prisiliš v negotovost, vrne boljše delo kot tisti, ki mu dovoliš, da ugaja.
Stroka ima pred laikom prednost. Vsaj na papirju. Algoritem v hipu pregleda več podatkov, kot jih človeški um zadrži v glavi, strokovnjak pa loči bistveno od zgrešenega. Intuicija, ki šteje, je rezultat nabranih izkušenj v resničnem življenju. Povezava med znanjem in AI zato praviloma prinese več kot laiku z istim modelom — dokler presoja vodi proces in želja po samopotrditvi ostane ob strani.
Ko gledaš izvid in iščeš pomen “TSH 3,8” ob sočasnem pomanjkanju energije in nizki temperaturi, takšna poizvedba prinese vrednost. Ko bereš nasprotujoče razlage — denimo o vlogi maščob ali smislu dolgotrajnega jemanja zdravil proti refluksu — in želiš ugotoviti, katera stoji na trdnejših podatkih, jezikovni model postavi izhodišče: razvrsti argumente, pokaže, kje soglasje drži in kje razpada, nakaže smer, vredno raziskovanja. Toda izhodišče ni cilj.
Meja nastopi prav tam, kjer večina najbolj išče. AI se odzove na zastavljeno vprašanje, izpuščeni del zgodbe pa izgubi težo.
Kjer naloga sledi logiki — pisanje kode, urejanje podatkov, prevajanje, branje številk v izvidu — deluje. Jasni vhodni podatki, preverljiva pravila, merljiv uspeh.
Zdravje deluje drugače. Podatki ostajajo delni, pravila narekujejo okoliščine, človek pa spregleda manjkajoči del. Kdor že tri leta spi pet ur na noč in pije kavo na prazen želodec, tak podatek izpusti, ker rutina zabriše pomen. Kdor je pred pol leta zamenjal službo in živi pod stalnim pritiskom, utrujenost smatra kot normalnost, katero deli s sodelavci. Računalniška koda sprejme podatke in znotraj tega okvira zgradi pojasnilo. Človek, ki razume kontekst, razkorak opazi, vpraša, razmisli, dopolni in šele nato sodi. Ni popolno, je pa boljše.
Vsaka tehnologija nekaj da in odvzame. Ko odgovor vzamemo kot božjo sodbo — brez dodatnih vprašanj, preverjanja, notranje razprave — opuščamo lasten miselni napor. Sodeč, kar vidim, govorimo o pravilu. Navada, ki z uporabo dobiva na moči. Pomisli, koliko telefonskih številk je nekoč živelo v glavi in koliko jih ostane danes, ko od imenika ločita dva dotika zaslona. Pozabljen kontakt je nepomemben. Opuščena presoja pri zdravju ni.
Fei-Fei Li, profesorica na Stanfordu in soavtorica podatkovne zbirke, na kateri temelji del umetne inteligence, je probelm strnila v stavek:
“…resnična nevarnost AI je, da postanemo preveč odvisni.”
Ko prejmeš »rešitev«, preveri: ali zares odraža tvojo izkušnjo ali zgolj belo laž.
Popoldanska utrujenost klienta je izginila po zaslugi boljšega vprašanja, ne boljšega algoritma. Včasih manjka prav to.
Obtičal in iščeš pot ven? Piši. 📩
Včasih rabiš iskren pogovor, preden nadaljuješ.
Skupaj bova pretehtala možnosti in poiskala najprimernejšo rešitev.
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., & Amodei, D. (2020). Language models are few-shot learners. arXiv. https://arxiv.org/abs/2005.14165
Bai, Y., Jones, A., Ndousse, K., Askell, A., Chen, A., DasSarma, N., Drain, D., Ganguli, D., Henighan, T., Joseph, N., Mann, B., Olsson, C., Perez, E., Schiefer, N., Kaplan, J., McCandlish, S., & Amodei, D. (2022). Constitutional AI: Harmlessness from AI feedback. arXiv. https://arxiv.org/abs/2212.08073
Duan, S., Wu, B., & Lin, Z. (2024). Trusting the search: Unraveling human trust in health information from Google and ChatGPT. Proceedings of the CHI Conference on Human Factors in Computing Systems. Association for Computing Machinery. https://doi.org/10.1145/3613904.3642120
Omar, M., Sorin, V., Ying, H., Liu, J., & Price, W. N. (2025). Multi-model assurance analysis showing large language models are highly vulnerable to adversarial hallucination attacks during clinical decision support. Communications Medicine, 5(1), 330. https://doi.org/10.1038/s43856-025-01021-3
Song, P., Han, P., & Goodman, N. (2025). Large language model reasoning failures. OpenReview. https://openreview.net/forum?id=vnX1WHMNmz
Funk, C., & Kennedy, B. (2023, February 22). How Americans view use of AI in health care and medicine. Pew Research Center. https://www.pewresearch.org/science/2023/02/22/how-americans-view-use-of-ai-in-health-care-and-medicine/
Common Sense Media. (2026, March 12). Third of teens prefer talking to AI chatbots over humans for serious conversations, survey says
Complete AI Training. (2026, March 26). AI models affirm users’ bad decisions 49% more often than humans, Stanford study finds. Povzetek študije objavljene v Science. https://completeaitraining.com/news/ai-models-affirm-users-bad-decisions-49-more-often-than/
NBC News. (2025, April 30). OpenAI rolled back a ChatGPT update that made the bot excessively flattering. https://www.nbcnews.com/tech/tech-news/openai-rolls-back-chatgpt-after-bot-sycophancy-rcna203782
The Human Line Project. (2025). The Human Line Project: Documenting AI-related emotional harm. https://www.thehumanlineproject.org
OpenAI. (2025). GPT models: Overview and routing behavior. OpenAI Platform Documentation. https://platform.openai.com/docs/guides/gpt
Anthropic. (2025). Model names and versioning. Anthropic API Documentation. https://docs.anthropic.com/en/docs/model-overview#model-versioning
Bommasani, R., et al. (2025). The 2025 Foundation Model Transparency Index. Stanford Center for Research on Foundation Models. https://crfm.stanford.edu/fmti/December-2025/paper.pdf
Simonson, T. (2025, September 16). How people use ChatGPT: 90% use the free version for learning and productivity [LinkedIn objava, povzema Visual Capitalist analizo]. https://www.linkedin.com/posts/thomassimonson_chart-how-people-actually-use-chatgpt-according-activity-7374187694308057088-_Ooo
Lee, M. K., et al. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. Proceedings of the ACM on Human-Computer Interaction. Microsoft Research / Carnegie Mellon University.
Kärkkäinen, T., Koivisto, J., & Salminen, J. (2024). Effect of generative AI tools on problem-solving performance and self-assessment accuracy: Evidence from a Finnish experiment. University of Helsinki, Department of Digital Education.
Payne, R. (2026). New study warns of risks in AI chatbots giving medical advice. Oxford / OII. https://www.phc.ox.ac.uk/news/new-study-warns-of-risks-in-ai-chatbots-giving-medical-advice
Icahn School of Medicine at Mount Sinai. (2026). Research identifies blind spots in AI medical triage. https://www.mountsinai.org/about/newsroom/2026/research-identifies-blind-spots-in-ai-medical-triage
ECRI. (2026). ECRI names misuse of AI chatbots as top health tech hazard for 2026. https://www.healthcaredive.com/news/ecri-health-tech-hazards-2026/810223/
Zagari, R. M., Bazzoli, F., & Ricci, C. (2022). The potential role of hypochlorhydria in the pathogenesis of small intestinal bacterial overgrowth. Frontiers in Medicine, 9, 871649. https://doi.org/10.3389/fmed.2022.871649
Chen, L., Xu, J., & Wang, Y. (2025). A systematic review of the adverse effects of long-term proton pump inhibitor therapy. World Journal of Gastroenterology, 31(8), 912–930. https://pmc.ncbi.nlm.nih.gov/articles/PMC12367287/
Barnes, B. O., & Galton, L. (1976). Hypothyroidism: The unsuspected illness. New York, NY: Harper & Row.
Liu, X., Li, Y., & Chen, Y. (2014). Alteration of lipid profile in subclinical hypothyroidism: A meta-analysis. Medical Science Monitor, 20, 1432–1441. https://pubmed.ncbi.nlm.nih.gov/25124461/