Uchumi wa Afya wa AI

Kwa nini hili ni muhimu katika uchumi wa afya

Akili bandia (AI) imehama kutoka maonyesho hadi utoaji katika mifumo ya afya duniani kote, na fedha sasa zinaifuata: walipaji, wizara, na vikundi vya watoa huduma wanaombwa kununua algorithimu za uchunguzi, zana za kupanga, na mifumo ya msaada wa maamuzi kwa ahadi kwamba zinapunguza gharama au kuboresha matokeo. Ahadi mara nyingi ni ya kweli, lakini ushahidi unaoiunga mkono mara nyingi ni mwembamba kuliko wa dawa au kifaa, na uchumi unatenda tofauti. Mkurugenzi mwenye shughuli anayetumia silika za ununuzi wa kawaida — bei isiyobadilika, utendaji usiobadilika, tathmini ya mara moja — atapanga vibaya bei za teknolojia hizi kwa njia zitakazojitokeza baadaye tu, kama bili za matunzo, mabishano ya nguvu kazi, au kashfa ya usawa.

Hatari ni hatari za kawaida za uchumi wa afya, zilizonolewa. Fedha za umma zinatumika kwa zana ambazo faida yake inategemea jinsi madaktari wanavyozitumia kweli, si jinsi zinavyotenda katika utafiti uliochapishwa. Usalama unategemea utendaji unaoweza kuoza kimya idadi ya watu na mazoea yanapobadilika. Na usawa uko wazi kwa njia mpya mahususi: algorithimu iliyofunzwa kwa idadi moja ya watu inaweza kuhudumia pungufu kimfumo nyingine, ikigeuza uamuzi wa ununuzi kuwa wa ugawaji. Hadi katikati ya miaka ya 2020, wadhibiti kama Shirika la Chakula na Dawa la Marekani (FDA) na Umoja wa Ulaya wameanza kujenga mifumo ya bidhaa hizi, lakini ulipaji na mazoezi ya tathmini yamebaki nyuma ya teknolojia, na kuwaacha watoa maamuzi wakibuni.

Mada hii ni kuhusu pengo hilo. Haifundishi tena tathmini ya kiuchumi — mitambo ya ufanisi wa gharama iko katika Mada 2.1 — Tathmini ya Kiuchumi, na uundaji wa mifano ya kutokuwa na uhakika katika Mada 2.2 — Uundaji wa Mifano — wala haifunika tena zana za jumla za kidijitali kama programu na telehealth, ambazo ni za Mada 5.2 — Uchumi wa Afya wa Kidijitali. Inamiliki uchumi mahususi kwa AI: kutathmini zana zinazojifunza, kuthamini kubadilisha au kuongeza kazi ya kitabibu, na kuchukulia upendeleo wa algorithimu kama gharama inayoangukia watu halisi (dhana za usawa wenyewe ni za Mada 3.4 — Usawa).

Dhana kuu

Akili bandia katika huduma ya afya inarejelea matumizi ya mifumo ya kikompyuta — yenye matokeo makubwa zaidi ile iliyojengwa kwa kujifunza kwa mashine, ambapo mifano inafunzwa kwa data badala ya kuprogramiwa waziwazi — kufanya kazi ambazo vinginevyo zingehitaji hukumu ya kitabibu. Familia mbili zinazojalisha zaidi kiuchumi ni uchunguzi wa AI (algorithimu inayosoma skana, slaidi, au ishara na kurudisha matokeo) na mfumo wa msaada wa maamuzi ya kitabibu (zana inayopendekeza, kupanga, au kuashiria kwa mtoa maamuzi wa binadamu). Zote mbili kwa kawaida zinadhibitiwa kama programu ya kitabibu — programu iliyokusudiwa kwa kusudi la kitabibu — ambayo FDA na wengine wanaita "programu kama kifaa cha kitabibu".

Dhana ya kwanza inayobadilisha uchumi ni kwamba bidhaa ya AI mara nyingi haijatulia. Kifaa cha kawaida kinatenda sawa siku unayokiondoa kama siku ulipokisakinisha; mfano unaojifunza unaweza kubadilika, ama kwa sababu muuzaji anaufunza upya au kwa sababu ulimwengu unaouzunguka unabadilika. Kuhama kwa dhana — na tatizo linalohusiana la kuhama kwa seti ya data, ambapo idadi ya watu mfano unakutana nayo huduma inapotolewa inatofautiana na ile ulifunzwa kwayo — kunamaanisha utendaji unaweza kuoza kimya. Teknolojia inayopaswa kufuatiliwa, kuthibitishwa upya, na kufunzwa upya mara kwa mara inabeba mkondo wa gharama na hatari zinazoendelea ambazo tathmini ya mara moja itakosa.

Dhana ya pili ni uchumi wa kazi wa kuendesha kwa kiotomatiki. AI inaweza kubadilisha kazi ya kitabibu (kuchukua nafasi ya jukumu ambalo binadamu alifanya) au kuiongeza (kumfanya binadamu kuwa wa haraka zaidi au bora). Tofauti ni ya kiuchumi, si ya balagha: kubadilisha kunaahidi akiba ya nguvu kazi lakini kuikazia, kugawa upya kazi, na kunaweza kupunguza ujuzi wa taaluma; kuongeza kunaahidi faida za ubora au mtiririko lakini mara nyingi kunaongeza gharama badala ya kuondoa. Unachonunua kweli kati ya hizo kinaamua thamani inatoka wapi — na kama hoja ya biashara inakaa juu ya akiba inayoweza kuvunwa ambayo huenda isitimie kamwe ikiwa muda uliotolewa unafyonzwa tena tu.

Dhana ya tatu ni upendeleo wa kiotomatiki: mwelekeo wa binadamu wa kuamini kupita kiasi pato la mashine, kukubali pendekezo lisilo sahihi kwa sababu lilitoka kwa kompyuta. Hili linajalisha kwa tathmini kwa sababu ufanisi wa ulimwengu halisi wa zana ya msaada wa maamuzi unategemea timu ya binadamu–mashine, si algorithimu peke yake. Zana inayokuwa sahihi kwa kujitenga lakini inayosababisha upendeleo wa kiotomatiki, au inayopuuzwa kwa uchovu wa tahadhari, haitatoa faida yake iliyoigwa.

Dhana ya nne ni upendeleo wa algorithimu kama gharama ya usawa. Mfano unapotenda vibaya kwa kikundi kidogo — kwa sababu kikundi hicho hakikuwakilishwa vizuri katika data za mafunzo, au kwa sababu mbadala wenye upendeleo ulitumika kama lebo — unaweza kuwanyima kimfumo kikundi hicho faida ambayo wengine wanapokea, au kuwafichua kwa madhara. Kiuchumi hii ni hasara ya ugawaji ambayo takwimu ya ufanisi wa wastani ya kichwa cha habari inaificha kabisa; zana inaweza kuwa na ufanisi wa gharama kwa wastani huku ikifanya walio hali mbaya zaidi kuwa mbaya zaidi. Kutaja na kupima hasara hiyo ni msingi wa kutathmini AI kwa uaminifu (mitambo ya kupima usawa ni Mada 3.4 — Usawa).

Fremu ya tathmini inabaki tathmini ya teknolojia ya afya (HTA) — tathmini ya kimfumo ya gharama, faida, na matokeo mapana ya teknolojia — lakini AI inaipanua. Vyombo kama Taasisi ya Taifa ya Afya na Ubora wa Huduma ya Uingereza (NICE), IQWiG ya Ujerumani, na CDA-AMC ya Kanada vinarekebisha mbinu zao kwa teknolojia zinazosasishwa, na Sheria ya Akili Bandia ya Umoja wa Ulaya (iliyopitishwa 2024) inaainisha mifumo mingi ya AI ya kitabibu kama ya hatari kubwa, ikiongeza tabaka la gharama ya kufuata ambayo hoja ya biashara lazima ibebe.

Mazoea bora

1. Amua kwanza kama unanunua kubadilisha au kuongeza, kwa sababu thamani inatoka mahali tofauti. Hoja ya kubadilisha inakaa juu ya akiba inayoweza kuvunwa — saa chache za wasomaji, vikao vilivyofungwa, wafanyakazi waliohamishwa — ambazo zinahesabika tu ikiwa uwezo ulioachiwa unaondolewa au kutumika tena kweli, si kufyonzwa tena kimya. Hoja ya kuongeza inakaa juu ya matokeo bora au mtiririko wa juu, kwa kawaida kwa gharama iliyoongezwa. Taja unadai ipi, na ushikilie hoja ya biashara kwa ushahidi unaoiunga mkono dai hilo mahususi badala ya mchanganyiko wa yote mawili.

2. Pima gharama ya mzunguko mzima wa maisha, si leseni. Bei ya kununua algorithimu ya kitabibu mara nyingi ndio mstari mdogo zaidi. Ongeza ujumuishaji na mifumo ya kitabibu, mafunzo ya madaktari, usimamizi wa binadamu ambao mtiririko sasa unahitaji, ufuatiliaji wa utendaji unaoendelea, uthibitisho upya wa mara kwa mara na kufunza upya, uchunguzi wa matukio, na mzigo wa kufuata wa mifumo kama Sheria ya AI ya EU. Zana inayoonekana nafuu dhidi ya mshahara wa mtaalamu wa mionzi inaweza kuonekana ghali jumla ya gharama yake ya kweli ya umiliki inapowekwa kwenye ukurasa.

3. Tathmini timu ya binadamu–mashine, si algorithimu. Unyeti na umahususi wa mfano peke yake ni pembejeo, si jibu. Kinachoamua thamani halisi ni jinsi madaktari wanavyotenda juu ya pato lake — kama wanaliamini kupita kiasi (upendeleo wa kiotomatiki), wanalipuuza (uchovu wa tahadhari), au wanalitumia vizuri. Sisitiza ushahidi kutoka mtiririko na nguvu kazi iliyokusudiwa, na uchukulie usahihi wa kuvutia wa ndani-ya-silikoni ambao haujawahi kujaribiwa huduma ikitolewa kama dai lisilothibitishwa.

4. Chukulia upendeleo wa algorithimu kama gharama inayopimika, si maelezo ya chini ya kufuata. Hitaji utendaji uripotiwe ukigawanywa kwa vikundi ambavyo idadi yako ya watu ina kweli — umri, jinsia, kabila, rangi ya ngozi, magonjwa yanayoambatana, lugha, hali ya kijamii na kiuchumi — si kwa jumla tu. Zana inayoinua matokeo ya wastani huku ikipanua pengo kati ya vikundi ina gharama ya usawa inayostahili kuwa ndani ya tathmini; ifanye ionekane na uipime, kwa sababu wastani unaoficha kikundi kidogo kilichodhurika haufai kwa huduma ya umma (tazama Mada 3.4 — Usawa).

5. Panga bei ya matunzo ya teknolojia inayojifunza, na uingie mkataba kwa ajili yake. Kwa sababu utendaji unaweza kuhama, tenga bajeti kwa ufuatiliaji unaoendelea na uthibitisho upya kama gharama ya kuendesha tangu siku ya kwanza, na uandike wajibu wa matengenezo ndani ya mkataba. Anzisha kabla ya ununuzi nani anawajibika mfano unapoharibika, mara ngapi utathibitishwa upya, na nini kinachochea kuondolewa — ili "nani anaangalia mfano" ijibiwe kwa usanifu badala ya kugunduliwa baada ya tukio.

6. Sisitiza mpango wa usimamizi wa mabadiliko kwa mifano inayosasishwa. Teknolojia inayobadilika baada ya ununuzi inavunja dhana kwamba tathmini ni tukio la mara moja. Pendelea mipangilio ambapo wigo wa mabadiliko ya baadaye umebainishwa mapema na kutawaliwa — mbinu nyuma ya "mpango wa udhibiti wa mabadiliko uliobainishwa mapema" wa FDA kwa programu inayojirekebisha — ili ujue muuzaji anaweza kubadilisha nini bila idhini upya na nini kingehitaji tathmini mpya. Kununua haki isiyo na mipaka ya kubadilisha mfano ni kununua hatari isiyopangiwa bei.

7. Dai kigezo halisi cha kulinganisha na ujihadhari na kuruka kutoka usahihi hadi matokeo. Swali muhimu mara chache ni "je, AI ni sahihi?" bali "je, inashinda mazoezi ya sasa kwa matokeo na gharama?" — na usahihi wa juu wa uchunguzi hautafsiriki kiotomatiki kuwa afya bora au matumizi ya chini. Matokeo zaidi yanaweza kumaanisha ufuatiliaji zaidi, utambuzi kupita kiasi, na gharama zaidi bila faida. Hitaji ushahidi unaounganisha zana na matokeo ya chini na matumizi halisi ya rasilimali dhidi ya kiwango halisi cha huduma, si adui wa kubuniwa (viwango vya hitimisho la sababu ni Mada 2.3 — Uchumimetria ya Afya).

8. Linganisha ukali wa tathmini na hatari na uwezo wa kurudisha nyuma wa uamuzi. Zana ya kuongeza yenye hatari ndogo ambayo daktari anaweza kuibatilisha kwa bei nafuu inastahili tathmini nyepesi zaidi kuliko uchunguzi wa kujitegemea unaoamua nani arudishwe. Pima ushahidi unaodai — na ufuatiliaji unaojitolea — kwa matokeo ya zana kuwa si sahihi na ugumu wa kuyabatilisha, badala ya kutumia kiolezo kimoja kwa kila kitu (hii ni nidhamu ya kuweka vipaumbele; tazama Mada 3.3 — Mgao wa Huduma).

9. Iga nguvu kazi ya kinyume cha ukweli kwa uaminifu. Ikiwa hoja inategemea akiba ya wafanyakazi, kuwa wazi wafanyakazi hao wangefanya nini vinginevyo na kama akiba ni ya kweli. Katika mfumo wenye uhaba wa nguvu kazi, muda "ulioachiwa" wa madaktari kwa kawaida unafyonzwa tena na mahitaji yasiyotimizwa, kwa hivyo faida ni huduma zaidi iliyotolewa, si fedha zilizookolewa — faida ya kweli, lakini tofauti inayobadilisha nani katika shirika lenu anapaswa kusaini hoja ya biashara.

10. Weka ushahidi wa mahali kabla ya kuuamini. Mfano uliothibitishwa katika nchi, mlipaji, au mchanganyiko wa wagonjwa mmoja unaweza kutenda tofauti katika wako kwa sababu idadi ya watu, maambukizi ya ugonjwa, vifaa vya picha, au mazoezi ya uandishi wa msimbo yanatofautiana. Hitaji uthibitisho kwa data zinazowakilisha idadi yako mwenyewe kabla ya utoaji, na uchukulie takwimu za kichwa cha habari za muuzaji kutoka mahali pengine kama dhana ya kujaribiwa kwa mahali, si matokeo ya kuweka benki.

11. Panga kutoka wakati wa kuingia. Zana zinazojifunza zinashindwa, zinahama, zinapoteza hadhi ya udhibiti, au zinapitwa, na huduma za kitabibu lazima ziendelee zinapotokea. Kabla ya utoaji, thibitisha wafanyakazi wanabakisha ujuzi na uwezo wa kufanya kazi bila zana, kwamba data na mtiririko hazijaingiliana mno na muuzaji mmoja hivi kwamba kuondoka ni kugumu, na kwamba kuondolewa hakutadhuru wagonjwa wenyewe — kupunguza ujuzi ni gharama ya polepole inayojitokeza tu unapojaribu kuacha.

12. Weka tathmini ya AI ndani ya HTA na utawala wako uliopo, ukiupanua — si njia ya haraka tofauti. Shinikizo la kuchukulia AI kama maalum linaweza kuwa kisingizio cha kukwepa uchunguzi unaotumika kwa teknolojia nyingine yoyote ya afya. Pitisha maamuzi haya kupitia tathmini ya kiuchumi, usalama, na utawala wa usawa uleule unaotumia mahali pengine, ukiongeza maswali mahususi ya AI ya kuhama, upendeleo, na mambo ya kibinadamu badala ya kubadilisha nidhamu kwa hamasa ya muuzaji.

Maswali ya kujadili na timu yako

1. Je, tunanunua zana hii kubadilisha kazi ya kitabibu au kuiboresha — na je, hoja yetu ya biashara inalingana na jibu hilo kwa uaminifu? Swali hili linalazimisha chaguo ambalo hoja nyingi za biashara zinatia ukungu, zikidai akiba ya nguvu kazi na faida za ubora mara moja bila kuthibitisha yoyote. Ikiwa dai ni kubadilisha, bana kama akiba inaweza kuvunwa: je, nafasi zitafungwa kweli, au muda ulioachiwa utamezwa na orodha ya kusubiri, ukifanya faida ya kweli iwe "huduma zaidi" badala ya "gharama ndogo"? Ikiwa dai ni kuongeza, bana kama ubora ulioongezwa unahalalisha gharama iliyoongezwa, kwa sababu kuongeza karibu daima kunaongeza matumizi. Jibu la uaminifu linataja chanzo kimoja kikuu cha thamani, linataja nani katika shirika anawajibika kuitimiza, na kukiri akiba zipi ni za kubahatisha. Timu isiyoweza kusema wazi inanunua nini haiko tayari kununua.

2. Algorithimu hii ingeweza kuhudumia pungufu nani, na je, tungegundua kabla ya kusababisha madhara? Upendeleo wa algorithimu mara chache unaonekana katika matokeo ya kichwa cha habari; unajificha ndani ya wastani unaoonekana mzuri. Uliza vikundi gani katika idadi yenu vilikuwa vyembamba au havipo katika data za mafunzo, kama lebo ambayo mfano ulijifunza ni mbadala wa haki au wenye upendeleo, na kama mna data zilizogawanywa kwa undani wa kutosha kugundua pengo kwa kabila, jinsia, rangi ya ngozi, lugha, au umaskini. Mvutano ni kwamba kukusanya na kufuatilia utendaji wa vikundi vidogo kunagharimu fedha na juhudi ambazo utoaji wenye shinikizo utataka kuruka. Jibu la uaminifu linabainisha vikundi vidogo mtakavyofuatilia, kizingiti ambacho pengo linachochea hatua, na kukiri kwa uwazi vikundi msivyoweza kuona sasa — kwa sababu madhara ya usawa ambayo huwezi kupima ni yale utakayogundua kupitia malalamiko.

3. Mpango wetu ni nini kwa siku mfano huu unaharibika, unabadilika, au lazima uzimwe? Tofauti na kifaa cha kawaida, teknolojia inayojifunza inaweza kuhama kimya, kufunzwa upya na muuzaji wake, kupoteza hadhi ya udhibiti, au kushindwa tu — na huduma lazima iendelee. Jadilini nani anawajibika kutazama utendaji huduma ikitolewa, mara ngapi mfano unathibitishwa upya, na kichocheo gani kinachoweza kuonekana kingewafanya mwondoe. Chunguza kama madaktari wenu bado wangekuwa na ujuzi wa kufanya kazi bila hiyo baada ya miaka miwili ya kuitegemea, na kama data na mtiririko wenu umeingiliana mno na msambazaji mmoja hivi kwamba kuondoka hakumudiki. Jibu la uaminifu ni mmiliki aliyetajwa, mzunguko wa ufuatiliaji, kichocheo cha kuondoa, na uwezo wa mbadala uliohifadhiwa — si matumaini kwamba muuzaji ataweka mambo yakifanya kazi.

4. Je, tumegharimia mzunguko mzima wa maisha wa zana hii, au bei yake ya kununua tu? Leseni kwa kawaida ndio mstari mdogo zaidi katika bajeti ya AI ya kitabibu, hata hivyo ndio namba inayotawala hoja ya biashara inayofika bodi. Bana timu kutaja kila gharama ya chini ambayo zana inaunda: ujumuishaji na mifumo ya kitabibu, mafunzo ya wafanyakazi, usimamizi wa binadamu wa kudumu ambao mtiririko sasa unadai, ufuatiliaji wa utendaji unaoendelea, uthibitisho upya na kufunza upya wa mara kwa mara, uchunguzi wa matukio, na mzigo wa kufuata wa mifumo kama Sheria ya AI ya EU. Mvutano ni kwamba gharama nyingi hizi zinajirudia na zimetawanyika, kwa hivyo zinaangukia bajeti za uendeshaji ambazo hazikuulizwa kamwe, wakati akiba imewekwa kimsingi na mapema. Jibu la uaminifu linaweka jumla ya gharama ya umiliki kwa maisha halisi ya zana dhidi ya faida, linataja bajeti zipi zinabeba kila mstari wa kujirudia, na kupinga silika ya muuzaji ya kulinganisha ada ya leseni dhidi ya mshahara wa daktari kana kwamba hakuna kingine kilibadilika.

5. Je, tunanunua algorithimu, au jinsi madaktari wetu watakavyoitumia kweli? Unyeti na umahususi wa mfano peke yake unaelezea zana kwenye benchi, si timu ya binadamu–mashine itakayotoa huduma, na pengo kati ya hizo mbili ndipo faida zilizoigwa zinapotoweka kimya. Jadilini kama madaktari wenu wanaweza kuamini pato kupita kiasi (upendeleo wa kiotomatiki), kulipuuza katikati ya mafuriko ya tahadhari (uchovu wa tahadhari), au kulijumuisha kwa busara katika hukumu — na nini katika mtiririko wenu, mafunzo, na utamaduni kinasukuma kuelekea kila moja. Hoja isiyostarehesha ni kwamba algorithimu ileile inaweza kusaidia katika huduma moja na kudhuru katika nyingine kwa sababu ya jinsi watu wanaoizunguka wanavyotenda, kwa hivyo ushahidi kutoka utoaji wa mtu mwingine ni dhana kuhusu wenu, si matokeo. Jibu la uaminifu linasisitiza ushahidi uliochukuliwa kutoka mtiririko na nguvu kazi iliyokusudiwa, linapanga kazi ya mambo ya kibinadamu na usimamizi wa mabadiliko kama sehemu ya ununuzi, na kuchukulia usahihi wa kuvutia wa ndani-ya-silikoni ambao haujawahi kujaribiwa huduma ikitolewa kama dai lisilothibitishwa.

6. Je, zana hii inashinda mazoezi ya sasa kwa matokeo na gharama, dhidi ya kigezo halisi cha kulinganisha? Swali la kuvutia ni "je, AI ni sahihi?"; swali muhimu kwa uamuzi ni "je, inafanya vizuri zaidi kuliko tunachofanya sasa, kwa mambo yanayojalisha, kila kitu kikihesabiwa?" Chunguza kama ulinganisho ni dhidi ya kiwango chenu halisi cha huduma au adui dhaifu wa kubuniwa, na kama usahihi wa juu wa uchunguzi umeonyeshwa kutafsiri kuwa afya bora badala ya matokeo zaidi tu, ufuatiliaji zaidi, utambuzi kupita kiasi, na gharama zaidi. Mvutano ni kwamba usahihi ni rahisi kuonyesha na nafuu kuuza, wakati ushahidi wa matokeo ya chini na rasilimali halisi ni wa polepole, ghali, na mara nyingi haupo — kwa hivyo shinikizo ni kukubali la kwanza kama mbadala wa la pili. Jibu la uaminifu linataja kigezo halisi cha kulinganisha, linadai ushahidi unaounganisha zana na matokeo ya chini na matumizi halisi ya rasilimali, na liko tayari kusema "bado haijathibitishwa" mnyororo kutoka usahihi hadi faida unapokuwa haujaonyeshwa (viwango vya hitimisho la sababu ni Mada 2.3 — Uchumimetria ya Afya).

Kwa vitendo: mfano wa uchumi wa afya

Mamlaka ya Afya ya Prairie, huduma ya afya ya kikanda ya kubuni ya mlipaji mmoja magharibi mwa Kanada, inafikiria mfumo wa AI wa kuchunguza retinopathy ya kisukari — sababu kuu ya upofu unaoweza kuepukika kwa watu wenye kisukari. Leo, picha za retina kutoka zahanati za jamii zinasomwa na kundi dogo la madaktari wa macho na wapangaji waliofunzwa, na kanda haiwezi kuendana na kasi: jamii za vijijini na za Asilia hasa zinakabili kusubiri kwa muda mrefu, na baadhi ya wagonjwa wanapotea kwenye ufuatiliaji kabla picha zao hazijasomwa. Muuzaji anatoa algorithimu inayosoma picha kiotomatiki, ikipeleka kwa binadamu kesi chanya au zisizoweza kupangwa tu. Pendekezo la kichwa cha habari ni akiba ya nguvu kazi na matokeo ya haraka.

Wanauchumi wa afya wa mamlaka wanaanza kwa kubainisha nini kinanunuliwa. Muuzaji anaandaa kama kubadilisha — algorithimu inachukua nafasi ya muda wa wapangaji — lakini katika mfumo wenye mrundikano wa uchunguzi, uwezo wa wapangaji ulioachiwa utafyonzwa na mrundikano ambao haujajaribiwa, si kuvunwa. Faida ya kweli, wanahitimisha, ni kuongeza uwezo: watu wengi zaidi wanachunguzwa, mapema zaidi, hasa katika jamii zilizohudumiwa pungufu, na kupungua kunakowezekana kwa upofu unaoweza kuepukika baadaye. Kuandaa upya huko kunabadilisha hoja nzima. Akiba si mstari katika bajeti ya mishahara; ni faida ya afya na ya usawa, na lazima ithaminiwe hivyo, kwa kutumia mitambo ya gharama kwa kila mwaka wa maisha uliorekebishwa kwa ubora kutoka Mada 2.1 — Tathmini ya Kiuchumi badala ya kutoa tu wafanyakazi.

Kisha wanahoji kipimo cha usawa moja kwa moja. Mfano ulifunzwa kwa kiasi kikubwa kwa picha za retina kutoka idadi ya mijini katika nchi nyingine; usahihi wake uliochapishwa ni thabiti kwa jumla lakini haujajaribiwa kwa wagonjwa wa Asilia na wa vijijini wa mamlaka, ambao maambukizi yao ya kisukari ni ya juu na picha zao mara nyingi zinachukuliwa kwa kamera za zamani katika mwanga unaobadilika. Timu inakataa kukubali takwimu za kichwa cha habari za muuzaji kama zinazohamishika. Wanaagiza uthibitisho wa mahali kwa sampuli inayowakilisha na kuhitaji utendaji uripotiwe kwa jamii, aina ya kamera, na ubora wa picha — kwa sababu zana inayotenda vibaya hasa pale hitaji ni kubwa zaidi ingegeuza programu ya uchunguzi iliyokusudiwa kupunguza ukosefu wa usawa kuwa moja inayoupanua, gharama ya upendeleo wa algorithimu ambayo ingezidi ada ya leseni kwa madhara na sifa.

Kugharimia kwa maisha yote kunamshtua mkurugenzi wa fedha. Zaidi ya leseni, hoja lazima ibebe ujumuishaji na mifumo ya picha, mafunzo kwa wafanyakazi wa zahanati, mpangilio wa kudumu wa kusoma upya na binadamu picha zisizoweza kupangwa, na — muhimu — ufuatiliaji unaoendelea wa kuhama kwa dhana kamera, idadi ya watu, na matibabu ya kisukari yanapobadilika kwa miaka. Timu inaandika wajibu wa matengenezo na uthibitisho upya ndani ya mkataba, inabainisha wigo uliobainishwa mapema kwa masasisho ya mfano, na kumtaja mmiliki wa kitabibu anayewajibika kwa utendaji huduma ikitolewa. Pia wanasisitiza mbadala: uwezo wa kutosha wa kupanga wa binadamu unabaki ili kuondolewa kwa zana kusisababishe huduma kupofuka.

Mamlaka inaidhinisha utoaji wa awamu: uthibitisho wa mahali kwanza, kisha utoaji unaofuatiliwa ukianza katika jamii za hitaji kubwa zaidi, ukiwa na dashibodi za utendaji wa vikundi vidogo zinazopitiwa kila robo na sakafu ya usahihi iliyokubaliwa mapema inayochochea uchunguzi au kuondolewa. Uchumi unahukumiwa kuwa mzuri — zana inapanua uwezo adimu wa wataalamu kwa watu waliokosekana awali — lakini tathmini inafanya wazi kwamba thamani inategemea ufuatiliaji na kinga za usawa, si algorithimu peke yake. Somo ambalo bodi inachukua ni kwamba ununuzi wa AI ni ahadi inayoendelea, si ununuzi wa mara moja, na kwamba swali la usawa halikuwa maelezo ya chini bali kitovu cha hoja.

Mitazamo minne ya sekta

Kampuni changa

Kampuni changa ya AI ya afya kwa kawaida ina ushahidi thabiti wa usahihi wa algorithimu na ushahidi dhaifu wa thamani ya kiuchumi au athari ya ulimwengu halisi, na kuishi kwake kunategemea njia ya ulipaji ambayo huenda bado haipo. Kishawishi ni kuuza usahihi kana kwamba ni matokeo, na kupanga bei pungufu kazi ya matunzo, ufuatiliaji, na usawa ambayo wanunuzi hatimaye watadai. Waanzilishi wanaobuni kwa uwezo wa kutathminiwa tangu mwanzo — kubainisha utendaji wa vikundi vidogo mapema, kujenga ufuatiliaji ndani, na kuthibitisha kwa idadi zinazowakilisha — wanajenga kitu ambacho mlipaji anaweza kununua kweli. Hoja ya kuaminika si eneo bora chini ya mkunjo kwenye kigezo; ni dai linalotetewa kuhusu matokeo, gharama, na nani anafaidika, lililojaribiwa katika mtiririko halisi.

Biashara ndogo

Mtoa huduma mdogo aliyeimarika — mazoezi ya mionzi, zahanati ya tovuti moja, maabara maalum, au muuzaji mdogo wa programu — ananunua AI kama uamuzi wa biashara ulioimarika badala ya beti ya kuishi, na kikwazo chake ni kinyume cha cha kampuni changa: uwezo mdogo wa kutathmini, kuunganisha, na kufuatilia zana inayojifunza, si bidhaa ndogo. Mnunuzi kama huyo mara chache ana timu ya sayansi ya data kuendesha uthibitisho wa mahali au kazi ya utawala kutazama kuhama, kwa hivyo yuko wazi isivyo kawaida kwa takwimu za kichwa cha habari za muuzaji na kwa gharama zinazojirudia — usimamizi, uthibitisho upya, kufuata — zinazodumu zaidi ya mauzo. Msimamo wa busara ni kutegemea uhakikisho wa pamoja au wa nje pale upo — tathmini ya chombo cha kitaaluma, uamuzi wa kitaifa wa HTA, mpangilio wa ununuzi wa kikundi — badala ya kujaribu uchunguzi asioweza kuupatia rasilimali peke yake. Hatari yake ya kipekee ni kufungwa kimya na kupunguza ujuzi: mazoezi madogo yanayounda upya mtiririko wake kuzunguka zana moja yanaweza kugundua kuondoka, au kufanya kazi bila hiyo, hakumudiki tena, kwa hivyo kuhifadhi mbadala na kusoma masharti ya kutoka ya mkataba kunajalisha zaidi hapa kuliko bei ya leseni.

Biashara kubwa

Kikundi kikubwa cha hospitali au bima kinanunua AI kama jalada na kuishi na uhalisia wa uendeshaji ambao wauzaji wanaupuuza: ujumuishaji, kupitishwa na madaktari, uchovu wa tahadhari, ufuatiliaji kwa kiwango, na hatari ya kupunguza ujuzi ya kutegemea zana kuvuka tovuti nyingi. Katika kiwango hiki swali la kubadilisha dhidi ya kuongeza ni swali la mkakati wa nguvu kazi lenye matokeo ya mahusiano ya viwanda, na utoaji ulioshindwa wa "kuokoa kazi" unaweza kugharimu zaidi katika mabishano na kufanya upya kuliko ulivyookoa kamwe. Biashara kubwa pia ndipo upendeleo wa algorithimu unakuwa dhima ya kimfumo badala ya kesi moja, kwa hivyo zile zilizokomaa zinajenga utawala wa kudumu — rejista za mifano, dashibodi za utendaji, ratiba za uthibitisho upya — na kuchukulia usimamizi wa AI kama kazi ya kudumu, si mradi.

Serikali

Wizara au mlipaji wa kitaifa anaweka kanuni ambazo kila mtu mwingine anacheza kwazo, kupitia udhibiti, mbinu za HTA, na usanifu wa ulipaji, na inabeba kushindwa ambako soko halitapangia bei — upendeleo unaoangukia vikundi vilivyolindwa, kuhama kunakodhuru usalama, na matokeo ya nguvu kazi ya kuendesha kiotomatiki kuvuka mfumo mzima. Viwiko vyake ni pana zaidi: kuainisha AI ya kitabibu kwa hatari (kama Sheria ya AI ya EU inavyofanya), kuhitaji uthibitisho unaowakilisha na ufuatiliaji baada ya soko, na kuamua kama na jinsi teknolojia zinazojifunza zinalipiwa. Nidhamu yake lazima iwe pana vilevile, kwa sababu njia ya haraka inayopitisha AI kwa madai ya usahihi ya muuzaji, au kanuni ya ulipaji inayolipa kiasi cha usomaji wa algorithimu, itaeneza kosa kuvuka kila mtoa huduma mara moja. Kazi ya kipekee ya serikali ni kufanya tathmini, usawa, na ufuatiliaji kuwa masharti ya msingi ya kuingia badala ya nyongeza za hiari (mitambo ya sera ni Mada 3.2 — Sera ya Afya).

Njia za kawaida za kushindwa

• Kuuza usahihi kama matokeo. Kuchukulia takwimu ya juu ya usahihi wa uchunguzi kama uthibitisho wa faida ya afya au gharama. Marekebisho: hitaji ushahidi unaounganisha zana na matokeo ya chini na matumizi halisi ya rasilimali dhidi ya mazoezi halisi ya sasa.

• Kuandika akiba isiyogeuka fedha kamwe. Kudai akiba ya nguvu kazi ambayo kimya inafyonzwa tena na mahitaji yasiyotimizwa. Marekebisho: taja kama nafasi zinafungwa kweli; kama muda ulioachiwa unatumika tena, thamini hoja kama huduma zaidi iliyotolewa, si fedha zilizookolewa.

• Kupuuza binadamu katika mzunguko. Kutathmini algorithimu peke yake na kukosa upendeleo wa kiotomatiki na uchovu wa tahadhari. Marekebisho: tathmini timu ya binadamu–mashine katika mtiririko na nguvu kazi iliyokusudiwa.

• Kuondoa kwa wastani madhara ya usawa. Kuripoti utendaji wa jumla tu na kukosa kikundi kidogo ambacho zana inakihudumia pungufu. Marekebisho: hitaji na ufuatilie utendaji uliogawanywa kwa vikundi ambavyo idadi yako ya watu ina, kukiwa na kizingiti cha hatua.

• Tathmini ya mara moja ya zana inayojifunza. Kuchukulia mfano unaojirekebisha kama kifaa kilichotulia na kutouthibitisha upya kamwe. Marekebisho: tenga bajeti na uingie mkataba kwa ufuatiliaji unaoendelea, uthibitisho upya, na mpango wa udhibiti wa mabadiliko.

• Kufungwa na kupunguza ujuzi kwa kupuuza. Kutegemea mno zana na muuzaji mmoja hivi kwamba kuondoa hakuwezekani na wafanyakazi hawawezi tena kufanya kazi bila. Marekebisho: hifadhi uwezo wa mbadala na upange kutoka wakati wa kuingia.

• Njia ya haraka maalum kwa AI. Kukwepa HTA ya kawaida, usalama, na uchunguzi wa usawa kwa sababu teknolojia inasisimua. Marekebisho: pitisha AI kupitia utawala uliopo, ukiupanua kwa maswali ya kuhama, upendeleo, na mambo ya kibinadamu.

Kielelezo cha ukomavu

Orodha ya ukaguzi

• Taja waziwazi kama zana inabadilisha au inaongeza kazi ya kitabibu, na ulinganishe hoja ya biashara na dai hilo.
• Pima gharama ya mzunguko mzima wa maisha — ujumuishaji, mafunzo, usimamizi, ufuatiliaji, uthibitisho upya, kufunza upya, na kufuata — si leseni tu.
• Hitaji ushahidi kutoka mtiririko wa binadamu–mashine uliokusudiwa, si usahihi wa algorithimu pekee.
• Hitaji utendaji uripotiwe kwa vikundi vidogo ambavyo idadi yako ya watu ina, kukiwa na kizingiti cha hatua kwa pengo lolote la usawa.
• Thibitisha mfano kwa data zinazowakilisha idadi yako mwenyewe kabla ya utoaji.
• Thibitisha kigezo halisi cha kulinganisha na ushahidi kwamba usahihi unatafsiri kuwa matokeo na matumizi halisi ya rasilimali.
• Tenga bajeti na uingie mkataba kwa ufuatiliaji unaoendelea, uthibitisho upya, na mpango wa udhibiti wa mabadiliko ulioainishwa mapema.
• Mtaje mmiliki anayewajibika kwa utendaji huduma ikitolewa na kichocheo cha uchunguzi au kuondoa.
• Iga nguvu kazi ya kinyume cha ukweli kwa uaminifu, ikijumuisha kama akiba inaweza kuvunwa au inafyonzwa tena.
• Hifadhi uwezo wa mbadala na upange kutoka, ukilinda dhidi ya kupunguza ujuzi na kufungwa na muuzaji.
• Pitisha uamuzi kupitia utawala uliopo wa HTA, usalama, na usawa, ulioongezwa kwa maswali mahususi ya AI.

Vyanzo muhimu

• WHO, Ethics and Governance of Artificial Intelligence for Health — mwongozo wa Shirika la Afya Duniani juu ya AI katika afya, ikijumuisha kanuni za usawa na utawala.
• U.S. Food and Drug Administration — mwongozo juu ya Software as a Medical Device (SaMD) na mipango ya udhibiti wa mabadiliko iliyobainishwa mapema kwa vifaa vinavyowezeshwa na AI/ML vinavyojirekebisha.
• Umoja wa Ulaya — Sheria ya Akili Bandia (2024), inayoainisha mifumo mingi ya AI ya kitabibu kama ya hatari kubwa.
• NICE — Evidence Standards Framework for Digital Health Technologies, na mbinu zinazoendelea za kutathmini AI na teknolojia zinazoendeshwa na data (hadi katikati ya miaka ya 2020).
• OECD — Health at a Glance na kazi ya OECD juu ya AI katika mifumo ya afya, kwa muktadha wa kuvuka nchi.
• ISPOR — mwongozo wa mazoezi mazuri juu ya tathmini ya kiuchumi ya teknolojia za afya, unaotumika kwa huduma inayowezeshwa na AI.

Marejeo

1. Artificial intelligence in healthcare — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence_in_healthcare
2. Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
3. Clinical decision support system — Wikipedia — https://en.wikipedia.org/wiki/Clinical_decision_support_system
4. Medical software — Wikipedia — https://en.wikipedia.org/wiki/Medical_software
5. Concept drift — Wikipedia — https://en.wikipedia.org/wiki/Concept_drift
6. Automation — Wikipedia — https://en.wikipedia.org/wiki/Automation
7. Deskilling — Wikipedia — https://en.wikipedia.org/wiki/Deskilling
8. Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
9. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
10. Health technology assessment — Wikipedia — https://en.wikipedia.org/wiki/Health_technology_assessment
11. Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
12. Diabetic retinopathy — Wikipedia — https://en.wikipedia.org/wiki/Diabetic_retinopathy
13. World Health Organization — Ethics and Governance of Artificial Intelligence for Health — https://www.who.int/publications/i/item/9789240029200
14. U.S. Food and Drug Administration — Artificial Intelligence and Machine Learning in Software as a Medical Device — https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-software-medical-device
15. NICE — Evidence Standards Framework for Digital Health Technologies — https://www.nice.org.uk/corporate/ecd7