Chủ đề 5.3 — Kinh tế trí tuệ nhân tạo trong y tế — Hướng dẫn Kinh tế học Sức khỏe

Vì sao điều này quan trọng trong kinh tế học sức khỏe

Trí tuệ nhân tạo (AI) đã đi từ trình diễn sang triển khai trong các hệ thống y tế trên khắp thế giới, và tiền nay chạy theo nó: các bên chi trả, bộ ngành và nhóm cung cấp dịch vụ đang được yêu cầu mua các thuật toán chẩn đoán, công cụ phân loại và hệ thống hỗ trợ quyết định dựa trên lời hứa rằng chúng cắt giảm chi phí hay cải thiện kết cục. Lời hứa thường có thật, nhưng bằng chứng ủng hộ nó thường mỏng hơn so với một loại thuốc hay thiết bị, và kinh tế học hành xử khác. Một giám đốc bận rộn áp dụng phản xạ của một lần mua sắm chuẩn — giá cố định, hiệu năng cố định, thẩm định một lần — sẽ định giá sai các công nghệ này theo những cách chỉ lộ ra về sau, dưới dạng hóa đơn bảo trì, tranh chấp lực lượng lao động, hay một vụ bê bối về công bằng.

Rủi ro là những rủi ro thông thường của kinh tế học sức khỏe, được làm sắc nét hơn. Tiền công được chi cho những công cụ mà lợi ích phụ thuộc vào cách thầy thuốc thực sự dùng chúng, không phải cách chúng hoạt động trong một nghiên cứu đã công bố. An toàn phụ thuộc vào hiệu năng có thể lặng lẽ suy giảm khi dân cư và thực hành thay đổi. Và công bằng bị phơi bày theo một cách mới đặc thù: một thuật toán huấn luyện trên một dân cư có thể phục vụ thiếu một cách có hệ thống một dân cư khác, biến một quyết định mua sắm thành một quyết định phân phối. Tính đến giữa những năm 2020, các cơ quan quản lý như Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) và Liên minh châu Âu đã bắt đầu xây các khung cho những sản phẩm này, nhưng thực hành chi trả và đánh giá tụt lại sau công nghệ, để những người ra quyết định phải ứng biến.

Chủ đề này nói về khoảng trống đó. Nó không dạy lại đánh giá kinh tế — bộ máy hiệu quả về chi phí nằm ở Chủ đề 2.1 — Đánh giá kinh tế, và việc mô hình hóa bất định ở Chủ đề 2.2 — Mô hình hóa — cũng không bao quát lại các công cụ số nói chung như ứng dụng và y tế từ xa, vốn thuộc Chủ đề 5.2 — Kinh tế sức khỏe số. Nó sở hữu kinh tế học đặc thù của AI: đánh giá các công cụ biết học, định giá việc thay thế hay tăng cường lao động lâm sàng, và coi thiên lệch thuật toán là một chi phí rơi xuống những con người thật (bản thân các khái niệm công bằng là Chủ đề 3.4 — Công bằng).

Các khái niệm cốt lõi

Trí tuệ nhân tạo trong chăm sóc sức khỏe là việc dùng các hệ thống tính toán — hệ quả nhất là những hệ thống xây bằng học máy, trong đó mô hình được huấn luyện trên dữ liệu thay vì được lập trình tường minh — để thực hiện các nhiệm vụ vốn đòi hỏi phán đoán lâm sàng. Hai họ quan trọng nhất về kinh tế là chẩn đoán AI (một thuật toán đọc ảnh chụp, tiêu bản hay tín hiệu và trả về một phát hiện) và hệ thống hỗ trợ quyết định lâm sàng (một công cụ đề xuất, xếp hạng hoặc đánh dấu cho một người ra quyết định). Cả hai thường được quản lý như phần mềm y tế — phần mềm dành cho một mục đích y khoa — mà FDA và các cơ quan khác gọi là "phần mềm như một thiết bị y tế".

Khái niệm đầu tiên định hình lại kinh tế học là một sản phẩm AI thường không cố định. Một thiết bị thông thường hoạt động giống nhau vào ngày bạn ngừng sử dụng như vào ngày bạn lắp đặt; một mô hình biết học có thể thay đổi, hoặc vì nhà cung cấp huấn luyện lại nó hoặc vì thế giới xung quanh nó dịch chuyển. Trôi dạt khái niệm — và vấn đề liên quan là dịch chuyển tập dữ liệu, khi dân cư mà mô hình gặp trong vận hành khác với dân cư nó được huấn luyện — nghĩa là hiệu năng có thể suy giảm lặng lẽ. Một công nghệ phải được giám sát, thẩm định lại và huấn luyện lại định kỳ mang theo một dòng chi phí và rủi ro liên tục mà một thẩm định một lần sẽ bỏ sót.

Khái niệm thứ hai là kinh tế học lao động của tự động hóa. AI có thể thay thế lao động lâm sàng (thay một nhiệm vụ con người từng làm) hoặc tăng cường nó (khiến con người nhanh hơn hay tốt hơn). Sự phân biệt mang tính kinh tế, không phải tu từ: thay thế hứa hẹn tiết kiệm lao động nhưng tập trung chúng, phân phối lại công việc, và có thể làm mất kỹ năng của một nghề; tăng cường hứa hẹn lợi ích về chất lượng hay thông lượng nhưng thường thêm chi phí thay vì loại bỏ. Bạn thực sự mua cái nào quyết định giá trị đến từ đâu — và liệu luận chứng kinh doanh dựa trên khoản tiết kiệm có thể thu về bằng tiền mặt vốn có thể không bao giờ hiện thực nếu thời gian được giải phóng đơn giản bị hấp thụ lại.

Khái niệm thứ ba là thiên kiến tự động hóa: xu hướng của con người tin quá mức đầu ra của máy, chấp nhận một khuyến nghị sai vì nó đến từ máy tính. Điều này quan trọng cho đánh giá vì hiệu quả thực tế của một công cụ hỗ trợ quyết định phụ thuộc vào nhóm người–máy, không chỉ thuật toán. Một công cụ chính xác khi đứng riêng nhưng gây ra thiên kiến tự động hóa, hoặc bị phớt lờ do mệt mỏi cảnh báo, sẽ không đem lại lợi ích đã mô hình hóa.

Khái niệm thứ tư là thiên lệch thuật toán như một chi phí công bằng. Khi một mô hình hoạt động kém hơn với một nhóm con — vì nhóm đó ít được đại diện trong dữ liệu huấn luyện, hoặc vì một chỉ báo thay thế thiên lệch được dùng làm nhãn — nó có thể từ chối một cách có hệ thống lợi ích mà người khác nhận, hoặc phơi bày họ trước tác hại. Về kinh tế đây là một tổn thất phân phối mà một con số hiệu quả trung bình tổng thể giấu hoàn toàn; một công cụ có thể hiệu quả về chi phí ở mức trung bình trong khi làm người thiệt thòi nhất thiệt thòi hơn. Gọi tên và đo lường tổn thất đó là cốt lõi để đánh giá AI trung thực (bộ máy đo lường công bằng là Chủ đề 3.4 — Công bằng).

Khung đánh giá vẫn là đánh giá công nghệ y tế (HTA) — việc thẩm định có hệ thống chi phí, lợi ích và hệ quả rộng hơn của một công nghệ — nhưng AI kéo giãn nó. Các cơ quan như Viện Quốc gia về Sức khỏe và Chất lượng Chăm sóc (NICE) của Anh, IQWiG của Đức và CDA-AMC của Canada đang điều chỉnh phương pháp cho các công nghệ cập nhật, và Đạo luật Trí tuệ Nhân tạo của EU (thông qua năm 2024) phân loại nhiều hệ thống AI y tế là rủi ro cao, thêm một lớp chi phí tuân thủ mà luận chứng kinh doanh phải gánh.

Các thực hành tốt nhất

Hãy quyết định trước bạn đang mua sự thay thế hay sự tăng cường, vì giá trị đến từ những nơi khác nhau. Một luận chứng thay thế dựa trên khoản tiết kiệm thu được bằng tiền mặt — ít giờ đọc kết quả hơn, ca bị đóng, nhân viên được điều chuyển — chỉ được tính nếu năng lực được giải phóng thực sự bị loại bỏ hay tái sử dụng, không phải lặng lẽ bị hấp thụ lại. Một luận chứng tăng cường dựa trên kết cục tốt hơn hay thông lượng cao hơn, thường với chi phí thêm. Hãy nêu bạn đang tuyên bố cái nào, và đòi luận chứng kinh doanh phải dựa trên bằng chứng ủng hộ tuyên bố cụ thể đó thay vì một hỗn hợp cả hai.
Tính chi phí toàn bộ vòng đời, không chỉ giấy phép. Giá mua của một thuật toán y tế thường là dòng nhỏ nhất. Hãy cộng thêm tích hợp với hệ thống lâm sàng, đào tạo thầy thuốc, sự giám sát của con người mà quy trình nay đòi hỏi, theo dõi hiệu năng liên tục, thẩm định lại và huấn luyện lại định kỳ, điều tra sự cố, và gánh nặng tuân thủ của các chế độ như Đạo luật AI của EU. Một công cụ trông rẻ so với lương một bác sĩ chẩn đoán hình ảnh có thể trông đắt khi tổng chi phí sở hữu thực của nó được đặt lên giấy.
Đánh giá nhóm người–máy, không phải thuật toán. Độ nhạy và độ đặc hiệu đứng riêng của một mô hình là đầu vào, không phải đáp án. Điều quyết định giá trị thực là cách thầy thuốc hành động theo đầu ra của nó — họ tin quá mức (thiên kiến tự động hóa), phớt lờ (mệt mỏi cảnh báo), hay dùng tốt. Hãy đòi bằng chứng từ quy trình và lực lượng lao động dự định, và coi độ chính xác ấn tượng trong mô phỏng chưa từng được thử trong vận hành là một tuyên bố chưa được chứng minh.
Coi thiên lệch thuật toán là một chi phí đo được, không phải chú thích tuân thủ. Hãy đòi hiệu năng được báo cáo phân tách theo các nhóm mà dân cư của bạn thực sự có — tuổi, giới, dân tộc, màu da, bệnh đồng mắc, ngôn ngữ, địa vị kinh tế–xã hội — không chỉ gộp chung. Một công cụ nâng kết cục trung bình trong khi nới rộng khoảng cách giữa các nhóm có một chi phí công bằng thuộc về thẩm định; hãy làm nó hiện ra và cân nhắc nó, vì một giá trị trung bình che giấu một nhóm con bị hại là chưa đủ tốt cho một dịch vụ công (xem Chủ đề 3.4 — Công bằng).
Định giá chi phí duy trì của một công nghệ biết học, và ký hợp đồng cho nó. Vì hiệu năng có thể trôi dạt, hãy lập ngân sách cho việc giám sát và thẩm định lại liên tục như một chi phí vận hành từ ngày đầu, và ghi các nghĩa vụ bảo trì vào hợp đồng. Hãy xác lập trước khi mua ai chịu trách nhiệm khi mô hình suy giảm, bao lâu thẩm định lại một lần, và điều gì kích hoạt việc rút bỏ — để câu hỏi "ai trông chừng mô hình" được trả lời bằng thiết kế thay vì được phát hiện sau một sự cố.
Đòi một kế hoạch quản lý thay đổi cho các mô hình cập nhật. Một công nghệ thay đổi sau mua sắm phá vỡ giả định rằng thẩm định là sự kiện một lần. Hãy ưu tiên các sắp xếp trong đó phạm vi của các thay đổi tương lai được quy định trước và được quản trị — cách tiếp cận đằng sau "kế hoạch kiểm soát thay đổi định trước" của FDA cho phần mềm thích nghi — để bạn biết nhà cung cấp được thay đổi gì mà không cần phê duyệt lại và điều gì đòi hỏi một đánh giá mới. Mua một quyền thay đổi mô hình vô hạn là mua một rủi ro không được định giá.
Đòi một đối chứng thực và coi chừng bước nhảy từ độ chính xác sang kết cục. Câu hỏi liên quan hiếm khi là "AI có chính xác không?" mà là "nó có vượt thực hành hiện tại về kết cục và chi phí không?" — và độ chính xác chẩn đoán cao hơn không tự động chuyển thành sức khỏe tốt hơn hay chi tiêu thấp hơn. Nhiều phát hiện hơn có thể nghĩa là nhiều theo dõi hơn, nhiều chẩn đoán thừa hơn, và nhiều chi phí hơn mà không có lợi ích. Hãy đòi bằng chứng nối công cụ với kết cục hạ nguồn và mức sử dụng nguồn lực ròng so với chuẩn chăm sóc thực, không phải so với một hình nộm (các chuẩn suy luận nhân quả là Chủ đề 2.3 — Kinh tế lượng sức khỏe).
Khớp độ nghiêm ngặt của thẩm định với mức rủi ro và khả năng đảo ngược của quyết định. Một công cụ tăng cường rủi ro thấp mà thầy thuốc có thể bác bỏ rẻ cần một đánh giá nhẹ hơn một chẩn đoán tự động quyết định ai được gọi lại. Hãy điều chỉnh bằng chứng bạn đòi — và việc giám sát bạn cam kết — theo hệ quả của việc công cụ sai và độ khó của việc hoàn tác, thay vì áp một mẫu cho mọi thứ (đây là kỷ luật xác định ưu tiên; xem Chủ đề 3.3 — Phân bổ hạn chế).
Mô hình hóa lực lượng lao động phản thực một cách trung thực. Nếu luận chứng phụ thuộc vào tiết kiệm nhân sự, hãy tường minh về việc những nhân viên đó sẽ làm gì nếu không và liệu khoản tiết kiệm có thật không. Trong một hệ thống thiếu nhân lực, thời gian thầy thuốc "được giải phóng" thường bị cầu chưa được đáp ứng hấp thụ lại, nên lợi ích là nhiều chăm sóc được cung cấp hơn, không phải tiền tiết kiệm — một thành quả thực, nhưng khác, và nó thay đổi ai trong tổ chức của bạn nên phê duyệt luận chứng kinh doanh.
Địa phương hóa bằng chứng trước khi tin nó. Một mô hình được thẩm định ở một nước, một bên chi trả hay một cơ cấu bệnh nhân có thể hoạt động khác ở nơi bạn vì dân cư, tỷ lệ mắc bệnh, thiết bị chẩn đoán hình ảnh hay thực hành mã hóa khác nhau. Hãy đòi thẩm định trên dữ liệu đại diện cho dân cư của chính bạn trước khi triển khai, và coi các con số tiêu đề của nhà cung cấp từ nơi khác là một giả thuyết cần thử tại chỗ, không phải một kết quả để gửi vào ngân hàng.
Lên kế hoạch lối thoát ngay tại điểm vào. Công cụ biết học hỏng, trôi dạt, mất vị thế quản lý hoặc bị thay thế, và các dịch vụ lâm sàng phải tiếp tục chạy khi điều đó xảy ra. Trước khi triển khai, hãy xác nhận nhân viên giữ kỹ năng và năng lực làm việc không có công cụ, rằng dữ liệu và quy trình không vướng víu với một nhà cung cấp đến mức rời đi là không khả thi, và rằng việc rút bỏ sẽ không tự nó gây hại cho bệnh nhân — mất kỹ năng là chi phí chậm chỉ hiện ra khi bạn thử dừng.
Giữ đánh giá AI bên trong HTA và quản trị hiện có của bạn, được mở rộng — không phải một làn nhanh riêng. Áp lực coi AI là đặc biệt có thể thành cái cớ để lách sự soi xét áp dụng cho bất kỳ công nghệ y tế nào khác. Hãy chuyển các quyết định này qua cùng đánh giá kinh tế, an toàn và quản trị công bằng bạn dùng ở nơi khác, bổ sung các câu hỏi đặc thù AI về trôi dạt, thiên lệch và yếu tố con người thay vì thay kỷ luật bằng sự nhiệt tình của nhà cung cấp.

Các câu hỏi để thảo luận với nhóm của bạn

Chúng ta mua công cụ này để thay thế công việc lâm sàng hay để cải thiện nó — và luận chứng kinh doanh của ta có khớp trung thực với câu trả lời đó không? Câu hỏi này buộc phải chọn một điều mà hầu hết luận chứng kinh doanh làm mờ, tuyên bố đồng thời tiết kiệm lao động và lợi ích chất lượng mà không chứng minh cái nào. Nếu tuyên bố là thay thế, hãy hỏi kỹ khoản tiết kiệm có thu về bằng tiền mặt được không: vị trí có thực sự đóng, hay thời gian được giải phóng sẽ bị danh sách chờ nuốt, khiến lợi ích thực là "nhiều chăm sóc hơn" thay vì "ít chi phí hơn"? Nếu tuyên bố là tăng cường, hãy hỏi kỹ liệu chất lượng thêm có biện minh cho chi phí thêm, vì tăng cường hầu như luôn thêm chi tiêu. Câu trả lời trung thực gọi tên một nguồn giá trị chính, nêu ai trong tổ chức chịu trách nhiệm hiện thực hóa nó, và thừa nhận khoản tiết kiệm nào còn mang tính suy đoán. Một nhóm không thể nói rõ mình đang mua gì thì chưa sẵn sàng mua.
Thuật toán này có thể phục vụ thiếu ai, và chúng ta có nhận ra trước khi nó gây hại không? Thiên lệch thuật toán hiếm khi hiện ra ở kết quả tiêu đề; nó ẩn trong một giá trị trung bình trông tốt. Hãy hỏi nhóm nào trong dân cư của bạn mỏng hay vắng mặt trong dữ liệu huấn luyện, nhãn mà mô hình học là một chỉ báo thay thế công bằng hay thiên lệch, và bạn có dữ liệu phân tách đủ mịn để phát hiện khoảng cách theo dân tộc, giới, màu da, ngôn ngữ hay mức thiếu thốn không. Mâu thuẫn là việc thu thập và giám sát hiệu năng theo nhóm con tốn tiền và công sức mà một đợt triển khai bị áp lực sẽ muốn bỏ qua. Một câu trả lời trung thực nêu rõ các nhóm con bạn sẽ giám sát, ngưỡng mà một khoảng cách kích hoạt hành động, và sự thừa nhận thẳng thắn về các nhóm bạn hiện không thể thấy — vì một tác hại công bằng bạn không đo được là điều bạn sẽ phát hiện qua khiếu nại.
Kế hoạch của chúng ta là gì cho ngày mô hình này suy giảm, thay đổi, hoặc phải bị tắt? Khác với thiết bị thông thường, một công nghệ biết học có thể trôi dạt lặng lẽ, bị nhà cung cấp huấn luyện lại, mất vị thế quản lý, hoặc đơn giản là hỏng — và dịch vụ vẫn phải tiếp tục. Hãy thảo luận ai chịu trách nhiệm theo dõi hiệu năng trong vận hành, bao lâu thẩm định lại mô hình một lần, và dấu hiệu quan sát được nào sẽ khiến bạn rút nó. Hãy dò xem thầy thuốc của bạn có còn đủ năng lực làm việc không có nó sau hai năm lệ thuộc, và dữ liệu cùng quy trình của bạn có vướng víu với một nhà cung cấp đến mức rời đi là không đủ khả năng chi trả. Câu trả lời trung thực là một người chủ có tên, một nhịp giám sát, một kích hoạt rút bỏ, và một năng lực dự phòng được bảo tồn — không phải hy vọng rằng nhà cung cấp sẽ giữ mọi thứ vận hành.
Chúng ta đã tính chi phí toàn bộ vòng đời của công cụ này, hay chỉ giá mua? Giấy phép thường là dòng nhỏ nhất trong ngân sách AI y tế, vậy mà nó là con số chi phối luận chứng kinh doanh đến hội đồng. Hãy thúc nhóm gọi tên mọi chi phí hạ nguồn mà công cụ tạo ra: tích hợp với hệ thống lâm sàng, đào tạo nhân viên, sự giám sát thường trực của con người mà quy trình nay đòi hỏi, theo dõi hiệu năng liên tục, thẩm định lại và huấn luyện lại định kỳ, điều tra sự cố, và gánh nặng tuân thủ của các chế độ như Đạo luật AI của EU. Mâu thuẫn là nhiều chi phí này lặp lại và khuếch tán, nên chúng rơi vào các ngân sách vận hành chưa bao giờ được tham vấn, trong khi khoản tiết kiệm được ghi nhận tập trung và ngay từ đầu. Câu trả lời trung thực đặt tổng chi phí sở hữu trong vòng đời thực tế của công cụ đối với lợi ích, gọi tên ngân sách nào gánh từng dòng lặp lại, và chống lại bản năng của nhà cung cấp so sánh một khoản phí giấy phép với lương một thầy thuốc như thể không có gì khác thay đổi.
Chúng ta mua thuật toán, hay cách thầy thuốc của ta sẽ thực sự dùng nó? Độ nhạy và độ đặc hiệu đứng riêng của một mô hình mô tả công cụ trên bàn thí nghiệm, không phải nhóm người–máy sẽ cung cấp chăm sóc, và khoảng cách giữa hai thứ là nơi lợi ích đã mô hình hóa lặng lẽ biến mất. Hãy thảo luận liệu thầy thuốc của bạn có khả năng tin quá mức đầu ra (thiên kiến tự động hóa), phớt lờ nó giữa dòng thác cảnh báo (mệt mỏi cảnh báo), hay đưa nó vào phán đoán một cách hợp lý — và điều gì trong quy trình, đào tạo và văn hóa của bạn đẩy về mỗi hướng. Điểm khó chịu là cùng một thuật toán có thể giúp ở một dịch vụ và gây hại ở dịch vụ khác thuần túy vì cách con người xung quanh nó hành xử, nên bằng chứng từ triển khai của người khác là một giả thuyết về của bạn, không phải một kết quả. Câu trả lời trung thực khăng khăng đòi bằng chứng rút từ quy trình và lực lượng lao động dự định, lên kế hoạch cho công việc yếu tố con người và quản lý thay đổi như một phần của việc mua, và coi độ chính xác ấn tượng trong mô phỏng chưa từng được thử trong vận hành là một tuyên bố chưa được chứng minh.
Công cụ này có thực sự vượt thực hành hiện tại về kết cục và chi phí, so với một đối chứng thực không? Câu hỏi quyến rũ là "AI có chính xác không?"; câu hỏi liên quan đến quyết định là "nó có làm tốt hơn điều ta đang làm, ở những thứ quan trọng, khi mọi thứ đã được tính không?" Hãy dò xem phép so sánh là với chuẩn chăm sóc thực của bạn hay một hình nộm bị làm yếu, và liệu độ chính xác chẩn đoán cao hơn đã được chứng minh chuyển thành sức khỏe tốt hơn, thay vì chỉ nhiều phát hiện hơn, nhiều theo dõi hơn, nhiều chẩn đoán thừa hơn và nhiều chi phí hơn. Mâu thuẫn là độ chính xác dễ chứng minh và rẻ để tiếp thị, trong khi bằng chứng kết cục hạ nguồn và nguồn lực ròng thì chậm, đắt, và thường vắng mặt — nên có áp lực chấp nhận cái trước làm chỉ báo thay thế cho cái sau. Câu trả lời trung thực gọi tên đối chứng thực, đòi bằng chứng nối công cụ với kết cục hạ nguồn và mức sử dụng nguồn lực ròng, và sẵn lòng nói "chưa được chứng minh" khi chuỗi từ độ chính xác đến lợi ích chưa được cho thấy (các chuẩn suy luận nhân quả là Chủ đề 2.3 — Kinh tế lượng sức khỏe).

Trong thực tế: một ví dụ về kinh tế học sức khỏe

Cơ quan Y tế Prairie, một dịch vụ y tế khu vực một bên chi trả hư cấu ở miền tây Canada, đang cân nhắc một hệ thống AI để tầm soát bệnh võng mạc đái tháo đường — nguyên nhân hàng đầu gây mù có thể phòng ở người đái tháo đường. Hiện nay, ảnh võng mạc từ các phòng khám cộng đồng được một nhóm nhỏ bác sĩ nhãn khoa và người chấm điểm được đào tạo đọc, và khu vực không theo kịp: các cộng đồng nông thôn và người bản địa nói riêng đối mặt với thời gian chờ dài, và một số bệnh nhân bị mất dấu theo dõi trước khi ảnh của họ được đọc. Một nhà cung cấp chào một thuật toán đọc ảnh tự động, chỉ chuyển các ca dương tính hoặc không chấm điểm được cho con người. Lời chào hàng tiêu đề là tiết kiệm lao động và kết quả nhanh hơn.

Các nhà kinh tế y tế của cơ quan bắt đầu bằng việc xác định chính xác cái đang được mua. Nhà cung cấp đặt khung nó là thay thế — thuật toán thay thời gian của người chấm điểm — nhưng trong một hệ thống có tồn đọng tầm soát, năng lực người chấm điểm được giải phóng sẽ bị tồn đọng chưa được kiểm tra hấp thụ, không được quy ra tiền mặt. Lợi ích thực, họ kết luận, là tăng cường năng lực: nhiều người được tầm soát hơn, sớm hơn, đặc biệt ở các cộng đồng được phục vụ thiếu, với sự giảm mù có thể phòng hợp lý ở hạ nguồn. Việc đặt lại khung đó thay đổi toàn bộ luận chứng. Khoản tiết kiệm không phải một dòng trong ngân sách lương; nó là lợi ích sức khỏe và lợi ích công bằng, và phải được định giá như vậy, dùng bộ máy chi phí trên mỗi năm sống điều chỉnh theo chất lượng từ Chủ đề 2.1 — Đánh giá kinh tế thay vì một phép trừ nhân sự đơn giản.

Họ rồi chất vấn trực tiếp chiều công bằng. Mô hình được huấn luyện phần lớn trên ảnh võng mạc từ dân cư đô thị ở một nước khác; độ chính xác công bố của nó mạnh ở mức tổng nhưng chưa được thử trên bệnh nhân bản địa và nông thôn của cơ quan, những người có tỷ lệ đái tháo đường cao và ảnh thường được chụp bằng máy ảnh cũ hơn trong ánh sáng thay đổi. Nhóm từ chối chấp nhận con số tiêu đề của nhà cung cấp là chuyển giao được. Họ đặt hàng một thẩm định tại chỗ trên một mẫu đại diện và đòi hiệu năng được báo cáo theo cộng đồng, loại máy ảnh và chất lượng ảnh — vì một công cụ hoạt động kém hơn đúng nơi nhu cầu lớn nhất sẽ biến một chương trình tầm soát vốn để giảm bất bình đẳng thành một chương trình nới rộng nó, một chi phí thiên lệch thuật toán sẽ lấn át phí giấy phép cả về tác hại lẫn danh tiếng.

Việc tính chi phí toàn bộ vòng đời làm giám đốc tài chính ngạc nhiên. Ngoài giấy phép, luận chứng phải gánh tích hợp với hệ thống ảnh, đào tạo nhân viên phòng khám, một sắp xếp thường trực để con người đọc lại các ảnh không chấm điểm được, và — then chốt — giám sát liên tục trôi dạt khái niệm khi máy ảnh, dân cư và điều trị đái tháo đường thay đổi qua các năm. Nhóm ghi các nghĩa vụ bảo trì và thẩm định lại vào hợp đồng, quy định trước phạm vi cho các cập nhật mô hình, và chỉ định một người chủ lâm sàng chịu trách nhiệm về hiệu năng trong vận hành. Họ cũng khăng khăng một phương án dự phòng: giữ lại đủ năng lực chấm điểm của con người để việc rút công cụ không làm dịch vụ mù.

Cơ quan phê duyệt một đợt triển khai theo giai đoạn: thẩm định tại chỗ trước, rồi triển khai có giám sát bắt đầu ở các cộng đồng nhu cầu cao nhất, với bảng điều khiển hiệu năng theo nhóm con được xem xét hằng quý và một ngưỡng độ chính xác thỏa thuận trước kích hoạt điều tra hoặc rút bỏ. Kinh tế học được đánh giá là thuận lợi — công cụ mở rộng năng lực chuyên khoa khan hiếm đến những người trước đây bị bỏ sót — nhưng thẩm định nói rõ rằng giá trị phụ thuộc vào giám sát và các biện pháp bảo vệ công bằng, không phải chỉ thuật toán. Bài học hội đồng rút ra là một vụ mua AI là một cam kết liên tục, không phải một lần mua, và câu hỏi công bằng không phải chú thích mà là trung tâm của luận chứng.

Bốn góc nhìn theo khu vực

Công ty khởi nghiệp

Một công ty khởi nghiệp AI y tế thường có bằng chứng mạnh về độ chính xác thuật toán và bằng chứng yếu về giá trị kinh tế hay tác động thực tế, và sự tồn tại của nó phụ thuộc vào một lộ trình chi trả có thể chưa tồn tại. Cám dỗ là bán độ chính xác như thể đó là kết cục, và định giá thấp công việc duy trì, giám sát và công bằng mà người mua cuối cùng sẽ đòi. Những người sáng lập thiết kế để có thể đánh giá được ngay từ đầu — quy định trước hiệu năng theo nhóm con, xây giám sát vào, và thẩm định trên dân cư đại diện — xây ra thứ mà một bên chi trả thực sự có thể mua. Lời chào đáng tin không phải diện tích dưới đường cong tốt nhất trên một chuẩn so sánh; đó là một tuyên bố bảo vệ được về kết cục, chi phí và ai được lợi, được thử trong một quy trình thực.

Doanh nghiệp nhỏ

Một nhà cung cấp nhỏ nhưng đã thành lập — một phòng khám chẩn đoán hình ảnh, một cơ sở đơn lẻ, một phòng xét nghiệm chuyên khoa, hay một nhà cung cấp phần mềm ngách — mua AI như một quyết định kinh doanh đã ổn định thay vì một canh bạc sinh tồn, và ràng buộc của nó ngược với của công ty khởi nghiệp: năng lực hạn chế để đánh giá, tích hợp và giám sát một công cụ biết học, không phải sản phẩm hạn chế. Một người mua như vậy hiếm khi có nhóm khoa học dữ liệu để chạy thẩm định tại chỗ hay chức năng quản trị để theo dõi trôi dạt, nên nó đặc biệt phơi bày trước con số tiêu đề của nhà cung cấp và các chi phí lặp lại — giám sát, thẩm định lại, tuân thủ — vốn kéo dài hơn cuộc mua bán. Tư thế hợp lý là dựa vào sự đảm bảo chung hoặc bên ngoài nơi nó tồn tại — một đánh giá của hiệp hội nghề, một phán quyết HTA quốc gia, một sắp xếp mua chung — thay vì cố soi xét mà nó không đủ nguồn lực làm một mình. Rủi ro đặc thù của nó là sự khóa chặt âm thầm và mất kỹ năng: một phòng khám nhỏ định hình lại quy trình quanh một công cụ có thể thấy rằng rời đi, hay làm việc không có nó, không còn khả thi, nên bảo tồn phương án dự phòng và đọc điều khoản thoát của hợp đồng quan trọng ở đây hơn giá giấy phép.

Doanh nghiệp lớn

Một nhóm bệnh viện hay công ty bảo hiểm lớn mua AI như một danh mục và sống với thực tế vận hành mà nhà cung cấp lướt qua: tích hợp, mức chấp nhận của thầy thuốc, mệt mỏi cảnh báo, giám sát ở quy mô lớn, và rủi ro mất kỹ năng khi dựa vào công cụ qua nhiều cơ sở. Ở quy mô này, câu hỏi thay thế so với tăng cường là câu hỏi chiến lược lực lượng lao động với hệ quả quan hệ lao động, và một đợt triển khai "tiết kiệm lao động" vụng về có thể tốn nhiều hơn trong tranh chấp và làm lại so với những gì nó từng tiết kiệm. Các doanh nghiệp lớn cũng là nơi thiên lệch thuật toán trở thành trách nhiệm hệ thống thay vì một trường hợp đơn lẻ, nên những cái trưởng thành xây quản trị thường trực — sổ đăng ký mô hình, bảng điều khiển hiệu năng, lịch thẩm định lại — và coi giám sát AI là một chức năng thường trực, không phải một dự án.

Chính phủ

Một bộ hay bên chi trả quốc gia đặt các quy tắc mà mọi người khác chơi theo, qua quy định, phương pháp HTA và thiết kế chi trả, và nó gánh các thất bại mà thị trường sẽ không định giá — thiên lệch rơi vào các nhóm được bảo vệ, trôi dạt gây hại cho an toàn, và hệ quả lực lượng lao động của tự động hóa trên cả một hệ thống. Đòn bẩy của nó rộng nhất: phân loại AI y tế theo rủi ro (như Đạo luật AI của EU làm), đòi thẩm định đại diện và giám sát sau thị trường, và quyết định liệu và bằng cách nào các công nghệ biết học được chi trả. Kỷ luật của nó cũng phải rộng nhất, vì một làn nhanh cho AI đi qua dựa trên tuyên bố độ chính xác của nhà cung cấp, hay một quy tắc chi trả trả theo khối lượng lượt đọc thuật toán, sẽ lan truyền một sai lầm qua mọi nhà cung cấp cùng lúc. Việc đặc thù của chính phủ là biến đánh giá, công bằng và giám sát thành điều kiện vào mặc định thay vì phần thêm tùy chọn (bộ máy chính sách là Chủ đề 3.2 — Chính sách y tế).

Các kiểu thất bại thường gặp

Bán độ chính xác như kết cục. Coi một con số độ chính xác chẩn đoán cao là bằng chứng của lợi ích sức khỏe hay chi phí. Cách khắc phục: đòi bằng chứng nối công cụ với kết cục hạ nguồn và mức sử dụng nguồn lực ròng so với thực hành hiện tại thực.
Ghi nhận khoản tiết kiệm không bao giờ thu về tiền mặt. Tuyên bố tiết kiệm lao động lặng lẽ bị cầu chưa được đáp ứng hấp thụ lại. Cách khắc phục: nêu liệu vị trí có thực sự đóng không; nếu thời gian được giải phóng được tái sử dụng, hãy định giá luận chứng là nhiều chăm sóc được cung cấp hơn, không phải tiền tiết kiệm.
Bỏ qua con người trong vòng lặp. Đánh giá chỉ thuật toán và bỏ sót thiên kiến tự động hóa và mệt mỏi cảnh báo. Cách khắc phục: đánh giá nhóm người–máy trong quy trình và lực lượng lao động dự định.
Lấy trung bình để xóa một tác hại công bằng. Chỉ báo cáo hiệu năng tổng và bỏ sót một nhóm con bị công cụ phục vụ thiếu. Cách khắc phục: đòi và giám sát hiệu năng phân tách theo các nhóm mà dân cư của bạn có, với một ngưỡng hành động.
Thẩm định một lần cho một công cụ biết học. Coi một mô hình thích nghi như một thiết bị cố định và không bao giờ thẩm định lại. Cách khắc phục: lập ngân sách và ký hợp đồng cho giám sát liên tục, thẩm định lại và một kế hoạch kiểm soát thay đổi.
Khóa chặt và mất kỹ năng do lơ là. Phụ thuộc vào một công cụ và nhà cung cấp đến mức rút bỏ là bất khả và nhân viên không còn làm việc được nếu thiếu nó. Cách khắc phục: bảo tồn năng lực dự phòng và lên kế hoạch lối thoát ngay tại điểm vào.
Một làn nhanh đặc biệt cho AI. Lách HTA, an toàn và soi xét công bằng thông thường vì công nghệ này hấp dẫn. Cách khắc phục: chuyển AI qua quản trị hiện có, mở rộng với các câu hỏi về trôi dạt, thiên lệch và yếu tố con người.

Mô hình trưởng thành

Chiều	Khởi đầu	Phát triển	Chuẩn hóa	Quản lý	Điều phối
Luận chứng giá trị	Mua dựa trên độ chính xác thuật toán và tuyên bố của nhà cung cấp	Thay thế so với tăng cường được gọi tên; một số dữ liệu chi phí được thu thập	Chi phí toàn vòng đời và đối chứng thực được thẩm định qua HTA như chuẩn	Giá trị được theo dõi trong vận hành so với kết cục và chi phí ròng, với các chênh lệch được hành động	Giá trị được thử lại liên tục và cân bằng lại trên toàn danh mục, với công cụ bị rút đầu tư khi thôi sinh lợi
Công bằng	Chỉ thấy hiệu năng tổng; thiên lệch không được xem xét	Rủi ro nhóm con được thừa nhận; kiểm tra ad hoc	Thẩm định đại diện và báo cáo nhóm con được đòi trước khi triển khai	Hiệu năng nhóm con được giám sát trực tiếp với ngưỡng hành động và được công bố	Kết cục công bằng được quản lý trên các công cụ và cộng đồng, với kết quả được đưa ngược vào mua sắm và thiết kế
Duy trì công cụ biết học	Thẩm định một lần rồi quên; trôi dạt không được giám sát	Giám sát được bàn nhưng không có nguồn lực	Giám sát, thẩm định lại và kiểm soát thay đổi được lập ngân sách và ký hợp đồng	Phát hiện trôi dạt tự động, cập nhật quy định trước và kích hoạt rút bỏ có hiệu lực	Việc duy trì được điều phối trên toàn bộ hệ thống và nhà cung cấp, với giám sát chung và chu kỳ thẩm định lại phối hợp
Lực lượng lao động	Tiết kiệm lao động được giả định; nhân viên không được tham vấn	Tác động thay thế được lập bản đồ; đào tạo được lên kế hoạch	Lực lượng lao động phản thực được mô hình hóa; mất kỹ năng và dự phòng được giải quyết	Tăng cường được thiết kế cùng nhân viên; lợi ích năng lực và kỹ năng được quản lý chủ động	Chiến lược lực lượng lao động và AI được lên kế hoạch cùng nhau qua các dịch vụ, với kỹ năng và vai trò tiến hóa có chủ ý theo thời gian
Quản trị	Không có giám sát đặc thù AI	Phê duyệt theo từng trường hợp	AI được đưa vào quản trị HTA, an toàn và công bằng thường trực	Sổ đăng ký mô hình và chức năng giám sát thường trực với kiểm toán liên tục	Quản trị được mở rộng qua các đối tác và chuỗi cung ứng, định hình chuẩn và trách nhiệm giải trình vượt ngoài tổ chức

Danh mục kiểm tra

Nêu tường minh công cụ thay thế hay tăng cường lao động lâm sàng, và khớp luận chứng kinh doanh với tuyên bố đó.
Tính chi phí toàn bộ vòng đời — tích hợp, đào tạo, giám sát, theo dõi, thẩm định lại, huấn luyện lại và tuân thủ — không chỉ giấy phép.
Đòi bằng chứng từ quy trình người–máy dự định, không phải độ chính xác thuật toán đứng riêng.
Đòi hiệu năng được báo cáo theo các nhóm con mà dân cư của bạn có, với ngưỡng hành động cho bất kỳ khoảng cách công bằng nào.
Thẩm định mô hình trên dữ liệu đại diện cho dân cư của chính bạn trước khi triển khai.
Xác nhận một đối chứng thực và bằng chứng rằng độ chính xác chuyển thành kết cục và mức sử dụng nguồn lực ròng.
Lập ngân sách và ký hợp đồng cho giám sát liên tục, thẩm định lại và một kế hoạch kiểm soát thay đổi định trước.
Chỉ định một người chủ chịu trách nhiệm về hiệu năng trong vận hành và một kích hoạt cho điều tra hoặc rút bỏ.
Mô hình hóa lực lượng lao động phản thực một cách trung thực, gồm liệu khoản tiết kiệm thu được bằng tiền mặt hay bị hấp thụ lại.
Bảo tồn năng lực dự phòng và lên kế hoạch lối thoát, đề phòng mất kỹ năng và khóa chặt nhà cung cấp.
Chuyển quyết định qua quản trị HTA, an toàn và công bằng hiện có, mở rộng với các câu hỏi đặc thù AI.

Nguồn chính

WHO, Ethics and Governance of Artificial Intelligence for Health — hướng dẫn của Tổ chức Y tế Thế giới về AI trong y tế, gồm các nguyên tắc công bằng và quản trị.
Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ — hướng dẫn về Phần mềm như một Thiết bị Y tế (SaMD) và kế hoạch kiểm soát thay đổi định trước cho thiết bị AI/ML thích nghi.
Liên minh châu Âu — Đạo luật Trí tuệ Nhân tạo (2024), phân loại nhiều hệ thống AI y tế là rủi ro cao.
NICE — Khung Chuẩn Bằng chứng cho Công nghệ Sức khỏe Số, và các phương pháp đang phát triển để đánh giá công nghệ AI và dựa trên dữ liệu (tính đến giữa những năm 2020).
OECD — Health at a Glance và công trình của OECD về AI trong hệ thống y tế, cho bối cảnh xuyên quốc gia.
ISPOR — hướng dẫn thực hành tốt về đánh giá kinh tế các công nghệ y tế, áp dụng cho chăm sóc có AI.

Tài liệu tham khảo

Artificial intelligence in healthcare — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence_in_healthcare
Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
Clinical decision support system — Wikipedia — https://en.wikipedia.org/wiki/Clinical_decision_support_system
Medical software — Wikipedia — https://en.wikipedia.org/wiki/Medical_software
Concept drift — Wikipedia — https://en.wikipedia.org/wiki/Concept_drift
Automation — Wikipedia — https://en.wikipedia.org/wiki/Automation
Deskilling — Wikipedia — https://en.wikipedia.org/wiki/Deskilling
Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
Health technology assessment — Wikipedia — https://en.wikipedia.org/wiki/Health_technology_assessment
Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
Diabetic retinopathy — Wikipedia — https://en.wikipedia.org/wiki/Diabetic_retinopathy
World Health Organization — Ethics and Governance of Artificial Intelligence for Health — https://www.who.int/publications/i/item/9789240029200
U.S. Food and Drug Administration — Artificial Intelligence and Machine Learning in Software as a Medical Device — https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-software-medical-device
NICE — Evidence Standards Framework for Digital Health Technologies — https://www.nice.org.uk/corporate/ecd7