Najbrži način da dentalni AI proizvod postane nesiguran jest izbaciti kliničara iz petlje. Drugi najbrži jest staviti ga u petlju tek na samom kraju — nakon što je AI već proizveo dijagnozu ili plan koji djeluje samopouzdano.
Posljednju godinu gradili smo Faurenis na drukčijoj premisi: AI je alat za dokumentaciju i kontinuitet skrbi, a ne dijagnostički uređaj. Kliničar ostaje donositelj odluke o svakom kliničkom pitanju. Proizvod je dizajniran tako da uloga AI-ja završava na „nacrtu“ — a ne na „rezultatu“.
Iz te premise proizlaze tri konkretne dizajnerske odluke.
Prvo, svaki paragraf koji je generirao AI vidljivo je označen u kartonu. Ako ne možete na prvi pogled razlikovati koju je rečenicu napisao AI, a koju vi, ne možete je pažljivo provjeriti. Faurenis nikada tiho ne spaja AI tekst s tekstom kliničara.
Drugo, tvrdnje su utemeljene. Iza svake kliničke izjave koju Faurenis sastavi stoji izvor — redak transkripta, unos u kartonu, očitanje sa snimke. Ako tvrdnja nema izvor, Faurenis je označava kao tvrdnju niske pouzdanosti i šalje u red za validaciju umjesto da je spremi.
Treće, pouzdanost je iskrena. Moderni jezični modeli mogu generirati uvjerljivo zvučeću besmislicu s visokom unutarnjom vjerojatnošću. Tu unutarnju vjerojatnost ne prikazujemo kao pouzdanost. Kombiniramo je s utemeljenošću („je li svaka tvrdnja potkrijepljena izvorom?“) i heuristikom kliničke specifičnosti („je li model upravo tri rečenice ogradama izbjegao reći nešto konkretno?“) i tek tada dodjeljujemo ocjenu.
Ništa od toga nije nova znanost. Teško je biti dosljedan u tome kako proizvod raste. Iskušenje da se ispod RTG snimke doda značka „Faurenis misli da je najvjerojatnije X“ je stvarno. Nismo je dodali i nećemo je dodati, jer u trenutku kad uz kliničku tvrdnju stoji oznaka obojena pouzdanošću, uloga kliničara prelazi iz „donositelja odluke“ u „recenzenta oznake“. To je pogrešan smjer.
Okvir kojeg se interno držimo: dentalni AI treba učiniti kliničara bržim i temeljitijim, a ne pasivnijim. Svaku odluku o proizvodu provjeravamo kroz taj okvir.