 |
| Tác giả Trần Đức Duy, Healthcare Sector, FPT IS |
Câu hỏi ấy trở nên đặc biệt rõ khi chúng tôi triển khai AI vào dự án HIS (Hospital Information System - Hệ thống thông tin bệnh viện). Đây là phần mềm quản lý toàn bộ hoạt động của bệnh viện. Từ khi bệnh nhân đăng ký khám đến khi xuất viện.
Hệ thống sẽ vận hành theo một chuỗi liên thông: tiếp nhận, khám, chỉ định xét nghiệm, cận lâm sàng, cấp thuốc, thanh toán, lưu trữ hồ sơ. Các bước đều kết nối với nhau. Một sai lệch nhỏ ở đầu quy trình, chẳng hạn AI tóm tắt nhầm một chỉ số có thể trở thành hậu quả lớn ở những bước sau.
Điểm hấp dẫn nhất của AI là tốc độ. Nhưng tốc độ chỉ thực sự có ý nghĩa khi đi cùng độ chính xác. Nếu công việc được hoàn thành nhanh hơn nhưng chất lượng không được đảm bảo thì đó không phải thành công của AI, mà chỉ là việc chuyển rủi ro từ đầu vào sang đầu ra.
Trong môi trường văn phòng, một lỗi sai thường chỉ khiến chúng ta mất thêm thời gian để sửa chữa. Nhưng trong bệnh viện, chỉ cần "sai một ly" có thể dẫn đến những hậu quả rất lớn.
Từ thực tế này, đội ngũ chúng tôi rút ra một nguyên tắc mà sau này nhận thấy đúng với rất nhiều công việc khác: AI chỉ tạo ra giá trị lâu dài khi được đưa vào quy trình làm việc một cách bài bản, có quy định, có kiểm soát và có người chịu trách nhiệm rõ ràng.
CASAN - thước đo để biết mình đang ở đâu
Ở team chúng tôi, CASAN đang dần trở thành ngôn ngữ chung để cả đội tự đánh giá mình đang ở đâu. Để tránh tình trạng "mỗi người dùng AI một kiểu", chúng tôi sử dụng CASAN như một thước đo chung về mức độ trưởng thành AI.
 |
Giá trị của CASAN không nằm ở chỗ "chấm điểm" để khoe rằng tôi đang ở cấp cao. Nó hữu ích vì buộc cả đội trả lời ba câu hỏi rất thật trước khi mở rộng bất cứ thứ gì: Thứ nhất, mình đang ở cấp nào, thiếu năng lực gì? Thứ hai, muốn lên cấp tiếp theo, phải nâng cấp yếu tố nào: con người, dữ liệu, quy trình hay quản trị? Thứ ba, đâu là những dấu hiệu cho thấy tổ chức đã sẵn sàng đưa AI từ giai đoạn thử nghiệm vào triển khai ở quy mô lớn hơn?
Nhờ đó, CASAN không còn là một mô hình lý thuyết mà trở thành công cụ giúp cả đội nhìn rõ vị trí của mình và biết cần đi tiếp như thế nào.
Cách đội ngũ đón nhận CASAN
Ban đầu, phản ứng tự nhiên của dân kỹ thuật là: "Cần gì khung, cứ làm cho nhanh". Ai cũng đã quen tự dùng AI rồi nên việc đặt ra quy chuẩn giống như một bước lùi. Nhưng bước ngoặt đến từ một buổi thảo luận. Thay vì hỏi "AI làm được gì?" chúng tôi đảo lại câu hỏi: "Nếu AI làm sai ở bước này, hậu quả tệ nhất là gì và ai sẽ phát hiện?"
Câu hỏi đó đã thay đổi cả cuộc thảo luận. Cả đội bắt đầu sắp xếp các đầu việc theo mức rủi ro. Một bệnh viện có rất nhiều vai trò, mỗi vai trò có những việc AI hỗ trợ được và những việc dứt khoát phải do con người quyết.
Trong bệnh viện có rất nhiều vai trò khác nhau như hành chính, điều dưỡng, bác sĩ, kỹ thuật viên xét nghiệm, dược sĩ, thu ngân hay quản lý hồ sơ. Mỗi vị trí đều có những công việc AI có thể hỗ trợ và những công việc nhất thiết phải do con người quyết định.
Từ đó, đội ngũ thống nhất một nguyên tắc rất đơn giản: những việc sai nhưng dễ phát hiện và dễ sửa thì AI có thể làm nháp trước. Những việc liên quan đến an toàn người bệnh hoặc tiền bạc thì con người luôn là người quyết định cuối cùng.
Trong quá trình thảo luận đó, CASAN không còn là lý thuyết áp từ trên xuống, mà thành ngôn ngữ chung để cả đội chủ động tranh luận và đánh giá: "Việc này mình đang ở Augmented thôi, đừng vội nhảy lên Automated". Khi mọi người có một "thước đo" để soi chiếu, phương pháp luận trở nên gần gũi và cho thấy rõ hiệu quả.
Những ranh giới AI không được vượt qua
Ở đội chúng tôi, đầu ra của AI luôn là bản nháp. Con người sẽ duyệt và chịu trách nhiệm. Nguyên tắc chúng tôi áp dụng chặt chẽ được gọi là: human-in-the-loop (tạm dịch: luôn có con người trong vòng quyết định) với 4 cơ chế cụ thể:
Thứ nhất, đầu ra của AI luôn là bản nháp - AI không tự động ghi vào hồ sơ ở các bước nhạy cảm. Thứ hai, người duyệt được chỉ định rõ theo vai trò và chịu trách nhiệm cho phần mình duyệt. Thứ ba, mọi thao tác sửa, từ chối, phê duyệt đều được lưu vết để sau này truy lại được. Thứ tư, hệ thống tự chặn lại khi dữ liệu thiếu hoặc sai ngữ cảnh, thay vì cứ trả ra một câu trả lời cho có.
Khi bốn nguyên tắc này được duy trì, AI thực sự giúp giảm tải công việc thay vì tạo thêm khối lượng kiểm tra và sửa lỗi cho con người.
Để đo hiệu quả chúng tôi cũng có những thang đo để phản ánh chất lượng vận hành: thời gian hoàn thành một hồ sơ khi có AI, tỷ lệ bản nháp bị yêu cầu sửa, tỷ lệ kết quả AI bị người duyệt từ chối, tỷ lệ sự cố do sai dữ liệu hoặc sai ngữ cảnh.
Theo chúng tôi, đây không chỉ là những chỉ số phù hợp với bệnh viện mà còn hữu ích với bất kỳ ai đang đưa AI vào quy trình công việc của mình.
Đích đến của AI không phải để thay thế con người
Từ các công việc của dự án HIS đến việc đưa AI vào công việc, điều đọng lại với cả đội chúng tôi không phải một công cụ AI cụ thể mà là cách tổ chức công việc hiệu quả với AI.
CASAN không thay đổi mô hình AI. Điều CASAN thay đổi là cách con người dùng AI có kỷ luật và có trách nhiệm. Nhất là với ngành y, đích đến không bao giờ là thay bác sĩ bằng máy. Đích đến là để người làm chuyên môn có thêm thời gian cho phần quan trọng nhất, đó là việc đưa ra quyết định, chịu trách nhiệm và chăm sóc người bệnh tốt hơn.
Suy cho cùng, dù ở ngành nghề nào cũng vậy, AI nên đảm nhận những công việc lặp đi lặp lại để con người có thể tập trung vào những việc đòi hỏi sự phán đoán, kinh nghiệm và trách nhiệm. Chỉ khi đó, AI mới thực sự trở thành một năng lực vận hành của tổ chức, thay vì chỉ là một công cụ hỗ trợ nhất thời.
Trần Đức Duy | FPT IS
Ý kiến
()