Pwnc 5.3 — Economeg Iechyd Deallusrwydd Artiffisial

Pam mae hyn yn bwysig mewn economeg iechyd

Mae deallusrwydd artiffisial (AI) wedi symud o arddangos i ddefnyddio mewn systemau iechyd ledled y byd, ac mae'r arian bellach yn ei ddilyn: gofynnir i dalwyr, gweinyddiaethau a grwpiau darparwyr brynu algorithmau diagnostig, offer didoli a systemau cymorth penderfynu ar addewid y byddant yn torri cost neu'n gwella canlyniadau. Mae'r addewid yn aml yn real, ond mae'r dystiolaeth sy'n ei chefnogi'n aml yn deneuach nag ar gyfer cyffur neu ddyfais, ac mae'r economeg yn ymddwyn yn wahanol. Bydd cyfarwyddwr prysur sy'n cymhwyso atgyrchau pryniant safonol — pris sefydlog, perfformiad sefydlog, arfarniad untro — yn cambrisio'r technolegau hyn mewn ffyrdd na ddaw i'r wyneb nes yn ddiweddarach, fel biliau cynnal a chadw, anghydfodau gweithlu, neu sgandal tegwch.

Y polion yw polion cyffredin economeg iechyd, wedi'u hogi. Gwariir arian cyhoeddus ar offer y mae eu budd yn dibynnu ar sut mae clinigwyr yn eu defnyddio mewn gwirionedd, nid ar sut maent yn perfformio mewn astudiaeth gyhoeddedig. Mae diogelwch yn dibynnu ar berfformiad a all ddirywio'n dawel wrth i boblogaethau ac arfer newid. Ac mae tegwch yn agored mewn ffordd newydd benodol: gall algorithm a hyfforddwyd ar un boblogaeth dan-wasanaethu un arall yn systematig, gan droi penderfyniad caffael yn un dosbarthol. O ganol y 2020au, mae rheoleiddwyr megis Gweinyddiaeth Bwyd a Chyffuriau yr Unol Daleithiau (FDA) a'r Undeb Ewropeaidd wedi dechrau adeiladu fframweithiau ar gyfer y cynhyrchion hyn, ond mae ad-dalu ac arfer gwerthuso ar ei hôl hi o ran y dechnoleg, gan adael penderfynwyr i fyrfyfyrio.

Mae'r pwnc hwn yn ymwneud â'r bwlch hwnnw. Nid yw'n ailddysgu gwerthuso economaidd — mae'r peirianwaith costeffeithiolrwydd yn byw ym Mhwnc 2.1 — Gwerthuso Economaidd, a modelu ansicrwydd ym Mhwnc 2.2 — Modelu — ac nid yw ychwaith yn ailymdrin ag offer digidol cyffredinol megis apiau a thelefeddygaeth, sy'n perthyn i Bwnc 5.2 — Economeg Iechyd Digidol. Mae'n berchen ar yr economeg sy'n benodol i AI: gwerthuso offer sy'n dysgu, prisio amnewid neu gynyddu llafur clinigol, a thrin tuedd algorithmig fel cost sy'n disgyn ar bobl go iawn (Pwnc 3.4 — Tegwch yw'r cysyniadau tegwch eu hunain).

Cysyniadau craidd

Mae deallusrwydd artiffisial mewn gofal iechyd yn cyfeirio at ddefnyddio systemau cyfrifiadurol — yn fwyaf canlyniadol y rhai a adeiladwyd â dysgu peirianyddol, lle caiff modelau eu hyfforddi ar ddata yn hytrach na'u rhaglennu'n benodol — i gyflawni tasgau a fyddai fel arall yn gofyn barn glinigol. Y ddau deulu sy'n bwysicaf yn economaidd yw diagnosteg AI (algorithm sy'n darllen sgan, sleid neu signal ac yn dychwelyd canfyddiad) a'r system cymorth penderfyniadau clinigol (offeryn sy'n argymell, yn graddio neu'n fflagio i wneuthurwr penderfyniadau dynol). Rheoleiddir y ddau fel arfer fel meddalwedd feddygol — meddalwedd a fwriedir at ddiben meddygol — y mae'r FDA ac eraill yn ei galw'n "feddalwedd fel dyfais feddygol".

Y cysyniad cyntaf sy'n ail-lunio'r economeg yw nad yw cynnyrch AI yn aml yn sefydlog. Mae dyfais gonfensiynol yn perfformio'r un fath ar y diwrnod y byddwch yn ei datgomisiynu ag ar y diwrnod y gosodwyd hi; gall model dysgu newid, naill ai oherwydd bod y gwerthwr yn ei ailhyfforddi neu oherwydd bod y byd o'i gwmpas yn symud. Mae drifft cysyniad — a'r broblem gysylltiedig o symud set ddata, lle mae'r boblogaeth y mae'r model yn ei chyfarfod mewn gwasanaeth yn gwahaniaethu oddi wrth y boblogaeth y'i hyfforddwyd arni — yn golygu y gall perfformiad ddirywio'n dawel. Mae technoleg y mae'n rhaid ei monitro, ei hailddilysu a'i hailhyfforddi o bryd i'w gilydd yn cario ffrwd o gostau a risgiau parhaus y bydd arfarniad untro yn eu methu.

Yr ail gysyniad yw economeg llafur awtomeiddio. Gall AI amnewid llafur clinigol (disodli tasg a wnaeth bod dynol) neu ei gynyddu (gwneud bod dynol yn gyflymach neu'n well). Mae'r gwahaniaeth yn economaidd, nid rhethregol: mae amnewid yn addo arbedion gweithlu ond yn eu crynhoi, yn ailddosbarthu gwaith, a gall ddatsgilio proffesiwn; mae cynyddu'n addo enillion ansawdd neu drwygyrch ond yn aml yn ychwanegu cost yn hytrach na'i dileu. Mae pa un rydych yn ei brynu mewn gwirionedd yn penderfynu o ble mae gwerth yn dod — ac a yw'r achos busnes yn gorffwys ar arbedion cashadwy na allant byth wireddu os caiff yr amser a ryddhawyd ei ail-amsugno'n syml.

Y trydydd cysyniad yw tuedd awtomeiddio: tueddiad dynol i or-ymddiried yn allbwn peiriant, gan dderbyn argymhelliad anghywir am iddo ddod o gyfrifiadur. Mae hyn yn bwysig i werthuso oherwydd bod effeithiolrwydd byd go iawn offeryn cymorth penderfynu'n dibynnu ar y tîm dyn–peiriant, nid yr algorithm yn unig. Ni fydd offeryn sy'n gywir ar ei ben ei hun ond sy'n ysgogi tuedd awtomeiddio, neu sy'n cael ei anwybyddu drwy flinder rhybuddion, yn cyflawni ei fudd a fodelwyd.

Y pedwerydd cysyniad yw tuedd algorithmig fel cost tegwch. Pan fo model yn perfformio'n waeth i is-grŵp — oherwydd bod y grŵp hwnnw wedi'i dan-gynrychioli mewn data hyfforddi, neu oherwydd bod dirprwy rhagfarnllyd wedi'i ddefnyddio fel label — gall wadu'r budd y mae eraill yn ei dderbyn i'r grŵp hwnnw'n systematig, neu eu hamlygu i niwed. Yn economaidd mae hyn yn golled ddosbarthol y mae ffigur effeithiolrwydd cyfartalog pennawd yn ei chuddio'n llwyr; gall offeryn fod yn gosteffeithiol ar gyfartaledd wrth wneud y lleiaf breintiedig yn waeth eu byd. Mae enwi a mesur y golled honno'n greiddiol i werthuso AI yn onest (y peirianwaith mesur ar gyfer tegwch yw Pwnc 3.4 — Tegwch).

Mae'r ffrâm werthuso'n parhau i fod yn asesu technoleg iechyd (HTA) — arfarniad systematig o gostau, buddion a chanlyniadau ehangach technoleg — ond mae AI yn ei hymestyn. Mae cyrff megis Sefydliad Cenedlaethol Lloegr dros Ragoriaeth mewn Iechyd a Gofal (NICE), IQWiG yr Almaen, a CDA-AMC Canada yn addasu eu dulliau i dechnolegau sy'n diweddaru, ac mae Deddf Deallusrwydd Artiffisial yr UE (a fabwysiadwyd yn 2024) yn dosbarthu llawer o systemau AI meddygol fel risg uchel, gan ychwanegu haen o gost cydymffurfio y mae'n rhaid i'r achos busnes ei chario.

Arferion gorau

Penderfynwch yn gyntaf ai amnewid neu gynyddu ydych chi'n ei brynu, oherwydd bod gwerth yn dod o wahanol leoedd. Mae achos amnewid yn gorffwys ar arbedion cashadwy — llai o oriau darllen, sesiynau wedi'u cau, staff wedi'u hadleoli — sydd ond yn cyfrif os caiff y capasiti a ryddhawyd ei dynnu neu ei ailddefnyddio mewn gwirionedd, nid ei ail-amsugno'n dawel. Mae achos cynyddu'n gorffwys ar well canlyniadau neu drwygyrch uwch, fel arfer ar gost ychwanegol. Datganwch pa un rydych yn ei hawlio, a daliwch yr achos busnes i'r dystiolaeth sy'n cefnogi'r honiad penodol hwnnw yn hytrach na chyfuniad o'r ddau.
Costiwch y cylch bywyd cyfan, nid y drwydded. Pris prynu algorithm meddygol yn aml yw'r llinell leiaf. Ychwanegwch integreiddio â systemau clinigol, hyfforddi clinigwyr, y goruchwyliaeth ddynol y mae'r llif gwaith bellach yn ei gofyn, monitro perfformiad parhaus, ailddilysu ac ailhyfforddi cyfnodol, ymchwilio i ddigwyddiadau, a baich cydymffurfio cyfundrefnau megis Deddf AI yr UE. Gall offeryn sy'n edrych yn rhad yn erbyn cyflog radiolegydd edrych yn ddrud unwaith y bydd ei gyfanswm gwir gost perchnogaeth ar y dudalen.
Gwerthuswch y tîm dyn–peiriant, nid yr algorithm. Mewnbynnau, nid yr ateb, yw sensitifrwydd a phenodoldeb annibynnol model. Yr hyn sy'n penderfynu gwerth go iawn yw sut mae clinigwyr yn gweithredu ar ei allbynnau — a ydynt yn gor-ymddiried ynddo (tuedd awtomeiddio), ei anwybyddu (blinder rhybuddion), neu ei ddefnyddio'n dda. Mynnwch dystiolaeth o'r llif gwaith a'r gweithlu bwriedig, a thriniwch gywirdeb in-silico trawiadol na phrofwyd erioed mewn gwasanaeth fel honiad heb ei brofi.
Triniwch duedd algorithmig fel cost fesuradwy, nid troednodyn cydymffurfio. Mynnwch fod perfformiad yn cael ei adrodd wedi'i ddadgyfuno yn ôl y grwpiau y mae eich poblogaeth yn eu cynnwys mewn gwirionedd — oedran, rhyw, ethnigrwydd, lliw croen, cyd-forbidrwydd, iaith, statws economaidd-gymdeithasol — nid dim ond yn gyfanredol. Mae gan offeryn sy'n codi canlyniadau cyfartalog wrth ehangu bwlch rhwng grwpiau gost tegwch sy'n perthyn yn yr arfarniad; gwnewch hi'n weladwy a'i phwyso, oherwydd nad yw cyfartaledd sy'n cuddio is-grŵp a niweidiwyd yn ddigon da i wasanaeth cyhoeddus (gweler Pwnc 3.4 — Tegwch).
Prisiwch gynnal a chadw technoleg ddysgu, a chontractiwch ar ei gyfer. Gan y gall perfformiad ddrifftio, cyllidebwch ar gyfer monitro parhaus ac ailddilysu fel cost redeg o'r diwrnod cyntaf, ac ysgrifennwch y rhwymedigaethau cynnal a chadw i'r contract. Sefydlwch cyn prynu pwy sy'n atebol pan fydd y model yn dirywio, pa mor aml y caiff ei ailddilysu, a beth sy'n sbarduno tynnu'n ôl — fel bod "pwy sy'n gwylio'r model" yn cael ei ateb drwy ddylunio yn hytrach na'i ddarganfod ar ôl digwyddiad.
Mynnwch gynllun rheoli newid ar gyfer modelau sy'n diweddaru. Mae technoleg sy'n newid ar ôl caffael yn torri'r rhagdybiaeth bod arfarnu'n ddigwyddiad untro. Ffafriwch drefniadau lle mae cwmpas newidiadau yn y dyfodol wedi'i ragbennu a'i lywodraethu — y dull y tu ôl i "gynllun rheoli newid rhagbenodedig" yr FDA ar gyfer meddalwedd addasol — fel eich bod yn gwybod beth y caiff y gwerthwr ei newid heb ail-gymeradwyaeth a beth fyddai angen gwerthusiad newydd. Mae prynu hawl ddiderfyn i newid y model yn brynu risg heb ei phrisio.
Mynnwch gymharydd go iawn a gwyliwch am y naid cywirdeb-i-ganlyniad. Anaml mai'r cwestiwn perthnasol yw "a yw'r AI yn gywir?" ond "a yw'n curo arfer presennol ar ganlyniadau a chost?" — ac nid yw cywirdeb diagnostig uwch yn trosi'n awtomatig i well iechyd na gwariant is. Gall mwy o ganfyddiadau olygu mwy o ddilyn i fyny, mwy o orddiagnosio, a mwy o gost heb fudd. Mynnwch dystiolaeth sy'n cysylltu'r offeryn â chanlyniadau i lawr yr afon a defnydd adnoddau net yn erbyn y safon gofal gwirioneddol, nid yn erbyn bwgan brain (y safonau casglu achosol yw Pwnc 2.3 — Econometreg Iechyd).
Cyfatebwch drylwyredd yr arfarniad i bolion a gwrthdroadwyedd y penderfyniad. Mae offeryn cynyddu risg isel y gall clinigwr ei drechu'n rhad yn gwarantu gwerthusiad ysgafnach nag un diagnostig ymreolaethol sy'n penderfynu pwy sy'n cael ei alw'n ôl. Maintoliwch y dystiolaeth a fynnwch — a'r monitro rydych yn ymrwymo iddo — i ganlyniadau'r offeryn yn anghywir ac anhawster ei ddadwneud, yn hytrach na chymhwyso un templed i bopeth (disgyblaeth gosod blaenoriaethau yw hon; gweler Pwnc 3.3 — Dogni).
Modelwch y gweithlu gwrthffeithiol yn onest. Os yw'r achos yn dibynnu ar arbedion staff, byddwch yn eglur beth fyddai'r staff hynny'n ei wneud fel arall ac a yw'r arbediad yn real. Mewn system â phrinder gweithlu, fel arfer mae galw heb ei ddiwallu'n ail-amsugno amser clinigwr "a ryddhawyd", felly'r budd yw mwy o ofal a ddarperir, nid arian a arbedwyd — ennill gwirioneddol, ond un gwahanol sy'n newid pwy yn eich sefydliad ddylai fod yn llofnodi'r achos busnes.
Lleolwch y dystiolaeth cyn ymddiried ynddi. Gall model a ddilyswyd mewn un wlad, talwr neu gymysgedd cleifion berfformio'n wahanol yn eich un chi oherwydd bod y boblogaeth, mynychder clefyd, yr offer delweddu, neu arferion codio'n wahanol. Mynnwch ddilysu ar ddata sy'n gynrychioliadol o'ch poblogaeth eich hun cyn ei ddefnyddio, a thriniwch ffigurau pennawd gwerthwr o rywle arall fel damcaniaeth i'w phrofi'n lleol, nid canlyniad i'w fancio.
Cynlluniwch yr allanfa wrth y fynedfa. Mae offer dysgu'n methu, yn drifftio, yn colli statws rheoleiddiol, neu'n cael eu disodli, ac mae'n rhaid i wasanaethau clinigol barhau i redeg pan fyddant yn gwneud. Cyn ei ddefnyddio, cadarnhewch fod staff yn cadw'r sgiliau a'r capasiti i weithio hebddo, nad yw data a llifoedd gwaith wedi'u clymu mor dynn ag un gwerthwr fel bod gadael yn waharddol, ac na fydd tynnu'n ôl ei hun yn niweidio cleifion — mae datsgilio'n gost araf sydd ond yn ymddangos pan fyddwch yn ceisio stopio.
Cadwch werthuso AI y tu mewn i'ch HTA a'ch llywodraethu presennol, wedi'i ymestyn — nid lôn gyflym ar wahân. Gall y pwysau i drin AI fel un arbennig ddod yn esgus i osgoi'r craffu a gymhwysir i unrhyw dechnoleg iechyd arall. Llwybrwch y penderfyniadau hyn drwy'r un gwerthuso economaidd, diogelwch a llywodraethu tegwch y byddwch yn ei ddefnyddio mewn mannau eraill, gan ychwanegu cwestiynau penodol i AI am ddrifft, tuedd a ffactorau dynol yn hytrach na disodli'r ddisgyblaeth â brwdfrydedd gwerthwr.

Cwestiynau i'w trafod gyda'ch tîm

Ydym ni'n prynu'r offeryn hwn i ddisodli gwaith clinigol neu i'w wella — ac a yw ein hachos busnes yn cyfateb i'r ateb hwnnw'n onest? Mae'r cwestiwn hwn yn gorfodi dewis y mae'r rhan fwyaf o achosion busnes yn ei ddrysu, gan hawlio arbedion gweithlu ac enillion ansawdd ar yr un pryd heb brofi'r naill na'r llall. Os yw'r honiad yn amnewid, gwthiwch ar a yw'r arbediad yn gashadwy: a fydd swyddi'n cau mewn gwirionedd, neu a fydd yr amser a ryddhawyd yn cael ei lyncu gan y rhestr aros, gan wneud y gwir fudd yn "mwy o ofal" yn hytrach na "llai o gost"? Os yw'r honiad yn gynyddu, gwthiwch ar a yw'r ansawdd ychwanegol yn cyfiawnhau'r gost ychwanegol, oherwydd bod cynyddu bron bob amser yn ychwanegu gwariant. Mae'r ateb gonest yn enwi un brif ffynhonnell gwerth, yn datgan pwy yn y sefydliad sy'n atebol am ei gwireddu, ac yn cyfaddef pa arbedion sy'n ddamcaniaethol. Nid yw tîm na all ddweud yn blaen beth y mae'n ei brynu'n barod i brynu.
Pwy allai'r algorithm hwn eu dan-wasanaethu, ac a fyddem ni'n sylwi cyn iddo achosi niwed? Anaml y mae tuedd algorithmig yn weladwy yn y canlyniad pennawd; mae'n cuddio y tu mewn i gyfartaledd sy'n edrych yn dda. Gofynnwch pa grwpiau yn eich poblogaeth oedd yn denau neu'n absennol yn y data hyfforddi, a yw'r label y dysgodd y model yn ddirprwy teg neu un rhagfarnllyd, ac a oes gennych y data wedi'i ddadgyfuno'n ddigon mân i ganfod bwlch yn ôl ethnigrwydd, rhyw, lliw croen, iaith, neu amddifadedd. Y tyndra yw bod casglu a monitro perfformiad is-grŵp yn costio arian ac ymdrech y bydd defnyddio dan bwysau eisiau eu hepgor. Mae ateb gonest yn pennu'r is-grwpiau y byddwch yn eu monitro, y trothwy lle mae bwlch yn sbarduno gweithredu, a chyfaddefiad gonest o'r grwpiau na allwch eu gweld ar hyn o bryd — oherwydd bod niwed tegwch na allwch ei fesur yn un y byddwch yn ei ddarganfod drwy gwynion.
Beth yw ein cynllun ar gyfer y diwrnod y bydd y model hwn yn dirywio, yn newid, neu'n rhaid ei ddiffodd? Yn wahanol i ddyfais gonfensiynol, gall technoleg ddysgu ddrifftio'n dawel, cael ei hailhyfforddi gan ei gwerthwr, colli statws rheoleiddiol, neu fethu'n syml — ac mae'n rhaid i'r gwasanaeth barhau. Trafodwch pwy sy'n atebol am wylio perfformiad mewn gwasanaeth, pa mor aml y caiff y model ei ailddilysu, a pha sbardun gweladwy fyddai'n gwneud i chi ei dynnu'n ôl. Holwch a fyddai eich clinigwyr yn dal i fod yn gymwys i weithio hebddo ar ôl dwy flynedd o ddibynnu arno, ac a yw eich data a'ch llifoedd gwaith wedi'u clymu mor dynn ag un cyflenwr fel bod gadael yn anfforddiadwy. Yr ateb gonest yw perchennog a enwir, amserlen fonitro, sbardun tynnu'n ôl, a gallu wrth gefn a gadwyd — nid gobaith y bydd y gwerthwr yn cadw pethau'n gweithio.
Ydym ni wedi costio cylch bywyd cyfan yr offeryn hwn, neu ddim ond ei bris prynu? Y drwydded fel arfer yw'r llinell leiaf mewn cyllideb AI meddygol, ac eto dyma'r rhif sy'n dominyddu'r achos busnes sy'n cyrraedd y bwrdd. Gwthiwch y tîm i enwi pob cost i lawr yr afon y mae'r offeryn yn ei chreu: integreiddio â systemau clinigol, hyfforddi staff, y goruchwyliaeth ddynol barhaol y mae'r llif gwaith bellach yn ei mynnu, monitro perfformiad parhaus, ailddilysu ac ailhyfforddi cyfnodol, ymchwilio i ddigwyddiadau, a baich cydymffurfio cyfundrefnau megis Deddf AI yr UE. Y tyndra yw bod llawer o'r costau hyn yn gylchol ac yn wasgaredig, felly maent yn disgyn ar gyllidebau gweithredol na ymgynghorwyd â hwy erioed, tra caiff yr arbediad ei fancio'n ganolog ac ymlaen llaw. Mae ateb gonest yn gosod cyfanswm cost perchnogaeth dros oes realistig yr offeryn yn erbyn y budd, yn enwi pa gyllidebau sy'n cario pob llinell gylchol, ac yn gwrthsefyll greddf y gwerthwr i gymharu ffi trwydded â chyflog clinigwr fel pe na bai dim arall wedi newid.
Ydym ni'n prynu'r algorithm, neu'r ffordd y bydd ein clinigwyr yn ei ddefnyddio mewn gwirionedd? Mae sensitifrwydd a phenodoldeb annibynnol model yn disgrifio'r offeryn ar fainc, nid y tîm dyn–peiriant a fydd yn darparu gofal, a'r bwlch rhwng y ddau yw lle mae buddion a fodelwyd yn diflannu'n dawel. Trafodwch a yw eich clinigwyr yn debygol o or-ymddiried yn yr allbwn (tuedd awtomeiddio), ei anwybyddu ynghanol llifeiriant o rybuddion (blinder rhybuddion), neu ei blygu'n synhwyrol i farn — a beth yn eich llif gwaith, hyfforddiant a diwylliant sy'n gwthio tuag at bob un. Y pwynt anghyfforddus yw y gall yr un algorithm helpu mewn un gwasanaeth a niweidio mewn un arall yn unig oherwydd sut mae'r bobl o'i gwmpas yn ymddwyn, felly mae tystiolaeth o ddefnydd rhywun arall yn ddamcaniaeth am eich un chi, nid canlyniad. Mae ateb gonest yn mynnu tystiolaeth a dynnwyd o'r llif gwaith a'r gweithlu bwriedig, yn cynllunio'r gwaith ffactorau dynol a rheoli newid fel rhan o'r pryniant, ac yn trin cywirdeb in-silico trawiadol na phrofwyd erioed mewn gwasanaeth fel honiad heb ei brofi.
Ydy'r offeryn hwn yn curo arfer presennol ar ganlyniadau a chost, yn erbyn cymharydd go iawn? Y cwestiwn hudolus yw "a yw'r AI yn gywir?"; y cwestiwn sy'n berthnasol i benderfyniadau yw "a yw'n gwneud yn well na'r hyn a wnawn nawr, ar y pethau sy'n bwysig, unwaith y cyfrifir popeth?" Holwch a yw'r gymhariaeth yn erbyn eich gwir safon gofal neu fwgan brain gwanedig, ac a ddangoswyd bod cywirdeb diagnostig uwch yn trosi'n well iechyd yn hytrach na dim ond mwy o ganfyddiadau, mwy o ddilyn i fyny, mwy o orddiagnosio a mwy o gost. Y tyndra yw bod cywirdeb yn hawdd ei ddangos ac yn rhad i'w farchnata, tra bo tystiolaeth canlyniad i lawr yr afon ac adnoddau net yn araf, yn ddrud ac yn aml yn absennol — felly'r pwysau yw derbyn y cyntaf fel dirprwy ar gyfer yr olaf. Mae ateb gonest yn enwi'r cymharydd go iawn, yn mynnu tystiolaeth sy'n cysylltu'r offeryn â chanlyniadau i lawr yr afon a defnydd adnoddau net, ac yn barod i ddweud "heb ei brofi eto" pan na ddangoswyd y gadwyn o gywirdeb i fudd (y safonau casglu achosol yw Pwnc 2.3 — Econometreg Iechyd).

Yn ymarferol: enghraifft economeg iechyd

Mae Awdurdod Iechyd Prairie, gwasanaeth iechyd rhanbarthol talwr sengl ffuglennol yng ngorllewin Canada, yn ystyried system AI i sgrinio am retinopathi diabetig — un o brif achosion dallineb atalladwy mewn pobl â diabetes. Heddiw, caiff ffotograffau retinol o glinigau cymunedol eu darllen gan gronfa fach o offthalmolegwyr a graddwyr hyfforddedig, ac ni all y rhanbarth gadw i fyny: mae cymunedau gwledig a Brodorol yn arbennig yn wynebu arosiadau hir, ac mae rhai cleifion yn cael eu colli i ddilyn i fyny cyn i'w delweddau gael eu darllen o gwbl. Mae gwerthwr yn cynnig algorithm sy'n darllen y delweddau'n awtomatig, gan atgyfeirio dim ond achosion cadarnhaol neu na ellir eu graddio at fod dynol. Y cyflwyniad pennawd yw arbediad gweithlu a chanlyniadau cyflymach.

Mae economegwyr iechyd yr awdurdod yn dechrau drwy bennu beth sy'n cael ei brynu. Mae'r gwerthwr yn ei fframio fel amnewid — mae'r algorithm yn disodli amser graddiwr — ond mewn system â ôl-groniad sgrinio, bydd y capasiti graddiwr a ryddhawyd yn cael ei amsugno gan yr ôl-groniad heb ei brofi, nid ei gashau allan. Y gwir fudd, maent yn dod i'r casgliad, yw cynyddu capasiti: mwy o bobl wedi'u sgrinio, yn gynt, yn enwedig mewn cymunedau dan-wasanaethedig, â lleihad credadwy mewn dallineb atalladwy i lawr yr afon. Mae'r ail-fframio hwnnw'n newid yr achos cyfan. Nid llinell yn y gyllideb gyflogau yw'r arbediad; mae'n ennill iechyd ac yn ennill tegwch, a rhaid ei brisio felly, gan ddefnyddio'r peirianwaith cost-fesul-blwyddyn-bywyd-wedi'i-haddasu-yn-ôl-ansawdd o Bwnc 2.1 — Gwerthuso Economaidd yn hytrach na thynnu staffio syml.

Yna maent yn holi'r dimensiwn tegwch yn uniongyrchol. Hyfforddwyd y model yn bennaf ar ddelweddau retinol o boblogaethau trefol mewn gwlad arall; mae ei gywirdeb a gyhoeddwyd yn gryf yn gyfanredol ond nid yw wedi'i brofi ar gleifion Brodorol a gwledig yr awdurdod, y mae mynychder diabetes yn uchel ynddynt a'u delweddu'n aml yn cael ei wneud ar gamerâu hŷn mewn golau amrywiol. Mae'r tîm yn gwrthod derbyn ffigurau pennawd y gwerthwr fel rhai trosglwyddadwy. Maent yn comisiynu dilysu lleol ar sampl gynrychioliadol ac yn mynnu bod perfformiad yn cael ei adrodd yn ôl cymuned, math camera ac ansawdd delwedd — oherwydd y byddai offeryn sy'n perfformio'n waeth yn union lle mae'r angen mwyaf yn troi rhaglen sgrinio a fwriadwyd i leihau anghydraddoldeb yn un sy'n ei ehangu, cost tuedd algorithmig a fyddai'n llawer mwy na'r ffi trwydded o ran niwed ac enw da.

Mae'r costio oes gyfan yn synnu'r cyfarwyddwr cyllid. Y tu hwnt i'r drwydded, rhaid i'r achos gario integreiddio â'r systemau delweddu, hyfforddiant ar gyfer staff clinig, trefniant parhaol ar gyfer gor-ddarllen dynol o ddelweddau na ellir eu graddio, ac — yn hollbwysig — monitro parhaus ar gyfer drifft cysyniad wrth i gamerâu, poblogaethau a thriniaeth diabetes newid dros y blynyddoedd. Mae'r tîm yn ysgrifennu'r rhwymedigaethau cynnal a chadw ac ailddilysu i'r contract, yn pennu cwmpas rhagbenodedig ar gyfer diweddariadau model, ac yn enwi perchennog clinigol atebol ar gyfer perfformiad mewn gwasanaeth. Maent hefyd yn mynnu opsiwn wrth gefn: cedwir digon o gapasiti graddio dynol fel na fyddai tynnu'r offeryn yn ôl yn dallu'r gwasanaeth.

Mae'r awdurdod yn cymeradwyo defnyddio fesul cam: dilysu lleol yn gyntaf, yna cyflwyno wedi'i fonitro gan ddechrau yn y cymunedau angen uchaf, â dangosfyrddau perfformiad is-grŵp wedi'u hadolygu bob chwarter a llawr cywirdeb a gytunwyd ymlaen llaw sy'n sbarduno ymchwiliad neu dynnu'n ôl. Barnir yr economeg yn ffafriol — mae'r offeryn yn ymestyn capasiti arbenigol prin i bobl a gollwyd yn flaenorol — ond mae'r arfarniad yn eglur bod y gwerth yn dibynnu ar y monitro a'r mesurau diogelu tegwch, nid yr algorithm yn unig. Y wers y mae'r bwrdd yn ei chymryd yw bod pryniant AI yn ymrwymiad parhaus, nid prynu untro, ac nad troednodyn oedd y cwestiwn tegwch ond canol yr achos.

Pedwar lens sector

Egin fusnes

Fel arfer mae gan egin fusnes AI iechyd dystiolaeth gref o gywirdeb algorithmig a thystiolaeth wan o werth economaidd neu effaith byd go iawn, ac mae ei oroesiad yn dibynnu ar lwybr ad-dalu nad yw'n bodoli efallai eto. Y demtasiwn yw gwerthu cywirdeb fel pe bai'n ganlyniad, a thanbrisio'r cynnal a chadw, monitro a gwaith tegwch y bydd prynwyr yn y pen draw yn eu mynnu. Mae sylfaenwyr sy'n dylunio ar gyfer gwerthuso o'r cychwyn — gan bennu perfformiad is-grŵp ymlaen llaw, adeiladu monitro i mewn, a dilysu ar boblogaethau cynrychioliadol — yn adeiladu rhywbeth y gall talwr ei brynu mewn gwirionedd. Nid y cyflwyniad hygredadwy yw'r arwynebedd gorau o dan y gromlin ar feincnod; mae'n honiad amddiffynadwy am ganlyniadau, cost, a phwy sy'n elwa, wedi'i brofi mewn llif gwaith go iawn.

Busnes bach

Mae darparwr bach ond sefydledig — practis radioleg, clinig un-safle, labordy arbenigol, neu gyflenwr meddalwedd arbenigol — yn prynu AI fel penderfyniad busnes sefydlog yn hytrach na bet ar oroesiad, a'i gyfyngiad yw gwrthwyneb un egin fusnes: capasiti cyfyngedig i werthuso, integreiddio a monitro offeryn dysgu, nid cynnyrch cyfyngedig. Anaml y mae gan brynwr o'r fath dîm gwyddor data i redeg dilysu lleol na swyddogaeth lywodraethu i wylio am ddrifft, felly mae'n anarferol o agored i ffigurau pennawd gwerthwr ac i'r costau cylchol — goruchwyliaeth, ailddilysu, cydymffurfio — sy'n goroesi'r gwerthiant. Yr ystum synhwyrol yw pwyso ar sicrwydd a rennir neu allanol lle mae'n bodoli — gwerthusiad corff proffesiynol, dyfarniad HTA cenedlaethol, trefniant prynu grŵp — yn hytrach na cheisio craffu na all ei adnoddi ar ei ben ei hun. Ei risg nodedig yw clo i mewn tawel a datsgilio: gall practis bach sy'n ail-lunio ei lif gwaith o amgylch un offeryn ganfod bod gadael, neu weithio hebddo, bellach yn anfforddiadwy, felly mae cadw opsiwn wrth gefn a darllen telerau allanfa'r contract yn bwysicach yma na phris y drwydded.

Menter

Mae grŵp ysbytai mawr neu yswiriwr yn prynu AI fel portffolio ac yn byw gyda realiti gweithredol y mae gwerthwyr yn ei lyfnhau: integreiddio, mabwysiadu clinigwyr, blinder rhybuddion, monitro ar raddfa, a risg datsgilio dibynnu ar offer ar draws llawer o safleoedd. Ar y raddfa hon mae'r cwestiwn amnewid-yn-erbyn-cynyddu yn gwestiwn strategaeth gweithlu â chanlyniadau cysylltiadau diwydiannol, a gall cyflwyno "arbed llafur" a fethodd gostio mwy mewn anghydfodau ac ail-weithio nag y bu erioed yn ei arbed. Mentrau hefyd yw lle mae tuedd algorithmig yn dod yn rhwymedigaeth systemig yn hytrach nag un achos, felly mae'r rhai aeddfed yn adeiladu llywodraethu parhaol — cofrestrau modelau, dangosfyrddau perfformiad, amserlenni ailddilysu — ac yn trin goruchwylio AI fel swyddogaeth barhaol, nid prosiect.

Llywodraeth

Mae gweinyddiaeth neu dalwr cenedlaethol yn gosod y rheolau y mae pawb arall yn chwarae iddynt, drwy reoleiddio, dulliau HTA a dylunio ad-dalu, ac mae'n cario'r methiannau na fydd y farchnad yn eu prisio — tuedd sy'n disgyn ar grwpiau gwarchodedig, drifft sy'n niweidio diogelwch, a chanlyniadau gweithlu awtomeiddio ar draws system gyfan. Ei hysgogiadau yw'r ehangaf: dosbarthu AI meddygol yn ôl risg (fel y gwna Deddf AI yr UE), mynnu dilysu cynrychioliadol a monitro ôl-farchnad, a phenderfynu a sut y telir am dechnolegau dysgu. Rhaid i'w disgyblaeth fod yr ehangaf hefyd, oherwydd y bydd lôn gyflym sy'n chwifio AI drwodd ar honiadau cywirdeb gwerthwr, neu reol ad-dalu sy'n talu am gyfaint darlleniadau algorithmig, yn lledaenu camgymeriad ar draws pob darparwr ar unwaith. Gwaith nodedig y llywodraeth yw gwneud gwerthuso, tegwch a monitro'n amodau mynediad rhagosodedig yn hytrach nag ychwanegion dewisol (peirianwaith polisi yw Pwnc 3.2 — Polisi Iechyd).

Ffyrdd cyffredin o fethu

Gwerthu cywirdeb fel canlyniad. Trin ffigur cywirdeb diagnostig uchel fel prawf o fudd iechyd neu gost. Ateb: mynnwch dystiolaeth sy'n cysylltu'r offeryn â chanlyniadau i lawr yr afon a defnydd adnoddau net yn erbyn arfer presennol go iawn.
Bancio arbedion nad ydynt byth yn cashau allan. Hawlio arbedion gweithlu sy'n cael eu hail-amsugno'n dawel gan alw heb ei ddiwallu. Ateb: datganwch a yw swyddi'n cau mewn gwirionedd; os caiff amser a ryddhawyd ei ailddefnyddio, prisiwch yr achos fel mwy o ofal a ddarperir, nid arian a arbedwyd.
Anwybyddu'r bod dynol yn y ddolen. Gwerthuso'r algorithm yn unig a methu tuedd awtomeiddio a blinder rhybuddion. Ateb: gwerthuswch y tîm dyn–peiriant yn y llif gwaith a'r gweithlu bwriedig.
Cyfartaleddu niwed tegwch i ffwrdd. Adrodd perfformiad cyfanredol yn unig a methu is-grŵp y mae'r offeryn yn ei dan-wasanaethu. Ateb: mynnwch a monitrwch berfformiad wedi'i ddadgyfuno yn ôl y grwpiau y mae eich poblogaeth yn eu cynnwys, â throthwy gweithredu.
Arfarnu untro offeryn dysgu. Trin model addasol fel dyfais sefydlog a byth ei ailddilysu. Ateb: cyllidebwch a chontractiwch ar gyfer monitro parhaus, ailddilysu a chynllun rheoli newid.
Clo i mewn a datsgilio drwy esgeulustod. Dod mor ddibynnol ar un offeryn a gwerthwr fel bod tynnu'n ôl yn amhosibl ac na all staff weithio hebddo mwyach. Ateb: cadwch allu wrth gefn a chynlluniwch yr allanfa wrth y fynedfa.
Lôn gyflym arbennig ar gyfer AI. Osgoi HTA, diogelwch a chraffu tegwch arferol am fod y dechnoleg yn gyffrous. Ateb: llwybrwch AI drwy lywodraethu presennol, wedi'i ymestyn â chwestiynau drifft, tuedd a ffactorau dynol.

Model aeddfedrwydd

Dimensiwn	Cychwyn	Datblygu	Safoni	Rheoli	Cydgordio
Achos gwerth	Wedi'i brynu ar gywirdeb algorithmig ac honiadau gwerthwr	Amnewid yn erbyn cynyddu wedi'u henwi; rhywfaint o ddata cost wedi'i gasglu	Cost oes gyfan a chymharydd go iawn wedi'u harfarnu drwy HTA fel safon	Gwerth wedi'i olrhain mewn gwasanaeth yn erbyn canlyniadau a chost net, â gwahaniaethau wedi'u gweithredu arnynt	Gwerth wedi'i ailbrofi a'i ail-gydbwyso'n barhaus ar draws y portffolio, ag offer wedi'u dadfuddsoddi pan fyddant yn rhoi'r gorau i dalu
Tegwch	Dim ond perfformiad cyfanredol wedi'i weld; tuedd heb ei harchwilio	Risg is-grŵp wedi'i chydnabod; gwiriadau ad hoc	Dilysu cynrychioliadol ac adrodd is-grŵp yn ofynnol cyn defnyddio	Perfformiad is-grŵp wedi'i fonitro'n fyw â throthwyon gweithredu a'i gyhoeddi	Canlyniadau tegwch wedi'u rheoli ar draws offer a chymunedau, â chanlyniadau wedi'u bwydo'n ôl i gaffael a dylunio
Cynnal offer dysgu	Wedi'i arfarnu unwaith a'i anghofio; drifft heb ei fonitro	Monitro wedi'i drafod ond heb ei adnoddi	Monitro, ailddilysu a rheoli newid wedi'u cyllidebu a'u contractio	Canfod drifft awtomataidd, diweddariadau rhagbenodedig a sbardunau tynnu'n ôl mewn grym	Cynnal wedi'i gydgordio ar draws yr ystad a gwerthwyr, â monitro a rennir a chylchoedd ailddilysu cydlynol
Gweithlu	Arbedion llafur wedi'u tybio; staff heb ymgynghori	Effeithiau amnewid wedi'u mapio; hyfforddiant wedi'i gynllunio	Gweithlu gwrthffeithiol wedi'i fodelu; datsgilio ac opsiwn wrth gefn wedi'u trin	Cynyddu wedi'i ddylunio gyda staff; enillion capasiti a sgiliau wedi'u rheoli'n weithredol	Strategaeth gweithlu ac AI wedi'u cynllunio gyda'i gilydd ar draws gwasanaethau, â sgiliau a rolau wedi'u datblygu'n fwriadol dros amser
Llywodraethu	Dim goruchwyliaeth benodol i AI	Cymeradwyaethau fesul achos	AI wedi'i blygu i HTA, diogelwch a llywodraethu tegwch parhaol	Cofrestr modelau a swyddogaeth goruchwylio barhaol ag archwilio parhaus	Llywodraethu wedi'i ymestyn ar draws partneriaid a chadwyn gyflenwi, yn llunio safonau ac atebolrwydd y tu hwnt i'r sefydliad

Rhestr wirio

Datganwch yn benodol a yw'r offeryn yn amnewid neu'n cynyddu llafur clinigol, a chyfatebwch yr achos busnes i'r honiad hwnnw.
Costiwch y cylch bywyd cyfan — integreiddio, hyfforddi, goruchwylio, monitro, ailddilysu, ailhyfforddi a chydymffurfio — nid dim ond y drwydded.
Mynnwch dystiolaeth o'r llif gwaith dyn–peiriant bwriedig, nid cywirdeb algorithmig annibynnol.
Mynnwch berfformiad wedi'i adrodd yn ôl yr is-grwpiau y mae eich poblogaeth yn eu cynnwys, â throthwy gweithredu ar gyfer unrhyw fwlch tegwch.
Dilyswch y model ar ddata sy'n gynrychioliadol o'ch poblogaeth eich hun cyn ei ddefnyddio.
Cadarnhewch gymharydd go iawn a thystiolaeth bod cywirdeb yn trosi'n ganlyniadau a defnydd adnoddau net.
Cyllidebwch a chontractiwch ar gyfer monitro parhaus, ailddilysu a chynllun rheoli newid rhagbenodedig.
Enwch berchennog atebol ar gyfer perfformiad mewn gwasanaeth a sbardun ar gyfer ymchwilio neu dynnu'n ôl.
Modelwch y gweithlu gwrthffeithiol yn onest, gan gynnwys a yw arbedion yn gashadwy neu'n cael eu hail-amsugno.
Cadwch allu wrth gefn a chynlluniwch yr allanfa, gan warchod rhag datsgilio a chlo i mewn gwerthwr.
Llwybrwch y penderfyniad drwy HTA, diogelwch a llywodraethu tegwch presennol, wedi'i ymestyn â chwestiynau penodol i AI.

Ffynonellau allweddol

WHO, Ethics and Governance of Artificial Intelligence for Health — arweiniad Sefydliad Iechyd y Byd ar AI mewn iechyd, gan gynnwys egwyddorion tegwch a llywodraethu.
Gweinyddiaeth Bwyd a Chyffuriau yr Unol Daleithiau — arweiniad ar Feddalwedd fel Dyfais Feddygol (SaMD) a chynlluniau rheoli newid rhagbenodedig ar gyfer dyfeisiau addasol sy'n galluogi AI/ML.
Yr Undeb Ewropeaidd — Deddf Deallusrwydd Artiffisial (2024), sy'n dosbarthu llawer o systemau AI meddygol fel risg uchel.
NICE — Fframwaith Safonau Tystiolaeth ar gyfer Technolegau Iechyd Digidol, a dulliau esblygol ar gyfer gwerthuso technolegau AI a gyrrir gan ddata (o ganol y 2020au).
OECD — Health at a Glance a gwaith OECD ar AI mewn systemau iechyd, ar gyfer cyd-destun trawswladol.
ISPOR — arweiniad arfer da ar werthuso economaidd technolegau iechyd, wedi'i gymhwyso i ofal sy'n galluogi AI.

Cyfeiriadau

Artificial intelligence in healthcare — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence_in_healthcare
Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
Clinical decision support system — Wikipedia — https://en.wikipedia.org/wiki/Clinical_decision_support_system
Medical software — Wikipedia — https://en.wikipedia.org/wiki/Medical_software
Concept drift — Wikipedia — https://en.wikipedia.org/wiki/Concept_drift
Automation — Wikipedia — https://en.wikipedia.org/wiki/Automation
Deskilling — Wikipedia — https://en.wikipedia.org/wiki/Deskilling
Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
Health technology assessment — Wikipedia — https://en.wikipedia.org/wiki/Health_technology_assessment
Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
Diabetic retinopathy — Wikipedia — https://en.wikipedia.org/wiki/Diabetic_retinopathy
World Health Organization — Ethics and Governance of Artificial Intelligence for Health — https://www.who.int/publications/i/item/9789240029200
U.S. Food and Drug Administration — Artificial Intelligence and Machine Learning in Software as a Medical Device — https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-software-medical-device
NICE — Evidence Standards Framework for Digital Health Technologies — https://www.nice.org.uk/corporate/ecd7