Forrásból, nem kitalálva
Miért biztonságosabb a Lares Pecoris egy általános célú chatbotnál.
Bizonyára látta a szalagcímeket: egy MI-chatbot ritka betegséget diagnosztizál, egy MI megmenti egy kutya életét. Amiről a címek hallgatnak, az az érem másik oldala — a kitalált hivatkozások, a magabiztosan előadott téves válaszok, a légből kapott adagok. Az állatorvoslás nem találgatás. Az eszközei se legyenek azok.
A probléma
Ha egy általános MI nem tudja a választ, kitalálja.
Az általános célú nyelvi modelleket az egész interneten tanítják — fórumokon, blogokon, elavult tankönyveken, egymásnak ellentmondó tanácsokon. Ha nincs válaszuk, hihetően hangzó szöveget állítanak elő, amelynek semmilyen forrás nem ad alapot. Ezt nevezik hallucinációnak. Annak, aki egy ételreceptről kérdez, egy kitalált hozzávaló bosszúság. Annak, aki egy 5 kg-os macskának adagol gyógyszert — amelynek a töredéke kell annak, amire egy 25 kg-os kutyának szüksége van —, egy kitalált szám végzetes lehet. Ezek a modellek ráadásul nem mutatják meg, mire támaszkodnak: nincs forrás, nincs mód az ellenőrzésre, és semmi sem jelzi, mikor találgatnak.
A különbség
A Lares csak a korpuszából válaszol — és megmutatja a forrást.
A Lares Pecoris nem általános chatbot. Gondosan válogatott korpuszra épülő állatorvosi referencia: az engedélyezett állatgyógyászati készítmények hivatalos alkalmazási előírásaira és az ellátási standardot meghatározó nemzetközi irányelvekre — WSAVA, ESCCAP, AAHA, AAEP — támaszkodik, és minden forrás mellett ott áll a bizonyítékszintje. Minden válasz a hivatkozásával együtt érkezik: melyik irányelv, melyik dokumentum, melyik kiadás. Ha pedig egy kérdést a korpusz nem támaszt alá, a Lares megmondja, hogy nem tudja. Nem talál ki adagot. Nem költ kölcsönhatást. A találgatás megtagadása nem korlát — éppen ez a lényeg.
A gyakorlatban
Egy kérdés, két nagyon különböző válasz.
Kérdezzen rá a meloxikámra egy ortopédiai műtéten átesett kutya esetében. Egy általános chatbot visszaadhat egy fórumbejegyzésből felszedett számot — faj, alkalmazási mód és forrás nélkül. A Lares az EMA termékdokumentációjából válaszol: 0,2 mg/ttkg kezdő adag szubkután vagy szájon át, majd naponta egyszer 0,1 mg/ttkg — az irányelv megjegyzésével együtt, amely szerint tartós alkalmazás esetén ellenőrizni kell a vese és a gyomor-bél rendszer működését, és a szám mellett megnevezett forrással, hogy Ön is utánanézhessen. Ahol a korpusz figyelmeztetést tartalmaz — fajspecifikus adagolás, ellenjavallatok, kölcsönhatások —, a Lares pirossal, félreérthetetlenül jelzi. A különbség nem az ékesszólás. A visszakövethetőség.
A határok
Referencia, nem diagnózis. És ezt ki is mondjuk.
A Lares nem diagnosztizál, nem rangsorol differenciáldiagnózisokat valószínűségek szerint, és nem értékel klinikai fényképeket. Referencia: azt mutatja meg, amit a standardok mondanak, nem azt, hogy egy adott esetben mit kell tenni — a klinikai döntés az állatorvosé marad. E mag körül ugyanilyen fegyelemmel készült mindennapi eszközök állnak: az engedélyezett készítmények dokumentációjára épülő, fajhoz és testtömeghez igazodó dóziskalkulátor; egy közösség, ahol az állatorvosok anonimizált oktatási tanulmányokat beszélnek meg; valamint válogatott nyilvános válaszok, amelyek mind a forrásaikkal együtt jelennek meg, megosztásra készen. Az az eszköz, amely őszinte a saját határaival kapcsolatban, éppen az, amelyben e határokon belül meg lehet bízni — a pontosságról szóló oldalunk pedig nyíltan dokumentálja, hogyan viselkedik a Lares, amikor kísértést érezne a kitalálásra.
Per scientiam, vigilamus.
Tudás által őrködünk.
Őrködünk. Védünk. Segítünk.