Đội ngũ thuộc mảng công nghệ y tế (healthcare) FPT IS từng triển khai phần mềm quản lý hoạt động bệnh viện, từ đăng ký khám, chỉ định xét nghiệm, cấp thuốc, thanh toán đến hoàn tất hồ sơ và xuất viện. Mỗi khâu đều phát sinh dữ liệu. Trong đó có những dữ liệu nhạy cảm cần được kiểm soát chặt chẽ như thông tin định danh, lịch sử khám chữa bệnh, kết quả xét nghiệm, chẩn đoán, đơn thuốc... Những thông tin này không thể tùy tiện sao chép, chia sẻ hay đưa vào AI.
Ban đầu, phản xạ tự nhiên của dân kỹ thuật là chọn một mô hình AI mạnh, triển khai trong hạ tầng nội bộ rồi kết nối vào hệ thống. Nhưng khi bắt tay vào thực tế, chúng tôi nhận ra bài toán phức tạp hơn.
Trong bệnh viện, mỗi vị trí có nhu cầu thông tin khác nhau: bác sĩ cần dữ liệu phục vụ điều trị, điều dưỡng tập trung vào chăm sóc, dược sĩ xử lý thông tin thuốc và đơn, nhân viên tài chính phụ trách viện phí, còn kỹ sư vận hành theo dõi trạng thái hệ thống. AI vì thế không thể cung cấp cùng một lượng thông tin cho tất cả người dùng, mà phải tuân theo đúng phạm vi dữ liệu theo từng vai trò.
 |
| Từ trái sang phải: anh Ngọc Trai - Đức Duy - Trung Hiếu, dự án Healthcare FPT IS |
Bài toán này khiến dự án quay trở về vạch xuất phát. Thay vì chạy đua để đưa AI vào mọi công việc, chúng tôi cần bình tĩnh nhìn lại: AI được phép làm gì, được sử dụng trong phạm vi nào? Chúng tôi nhận ra mục tiêu cuối cùng không phải đưa AI vào càng nhiều khâu càng tốt, mà là sử dụng AI đúng chỗ, đúng mục đích và tuân thủ các quy định về bảo mật, an toàn thông tin.
Đây chỉ là một trong những bài toán ứng dụng AI được đội ngũ đặt ra trong hệ thống. Với bác sĩ, AI có thể hỗ trợ tóm tắt bệnh án, giảm thời gian đọc hàng chục trang hồ sơ trước mỗi ca trực. Xác định rõ mục tiêu, chúng tôi mới đặt câu hỏi: Để tóm tắt hồ sơ, AI thực sự cần những dữ liệu nào? Việc thay đổi cách đặt vấn đề giúp đội ngũ thiết kế hệ thống theo hướng kiểm soát dữ liệu ngay từ đầu, thay vì đưa AI vào trước rồi mới xử lý rủi ro.
Cũng nhờ có bài toán này chúng tôi nhận ra có một hiểu lầm khá phổ biến: AI càng nhận nhiều dữ liệu, câu trả lời sẽ càng chính xác. Điều đó có thể đúng trong một số trường hợp kỹ thuật. Nhưng trong môi trường có dữ liệu nhạy cảm như ngành y, việc "đưa càng nhiều càng tốt" là một tư duy nguy hiểm. Chúng ta chỉ nên cấp lượng dữ liệu tối thiểu, đủ để AI hoàn thành đúng nhiệm vụ.
Có thể thấy, công nghệ tốt không chỉ giúp AI trả lời đúng, mà còn phải kiểm soát AI được trả lời gì và trả lời cho đối tượng nào? Vì thế trong dự án hệ thống thông tin bệnh viện này, khi người dùng đặt câu hỏi, hệ thống cần xác thực danh tính, quyền truy cập và mục đích sử dụng. Sau đó, chỉ những dữ liệu cần thiết mới được đưa vào AI; thông tin không liên quan được loại bỏ, các trường nhạy cảm được che hoặc ẩn theo quyền truy cập.
Với những tài liệu như quy trình khám chữa bệnh, hướng dẫn sử dụng phần mềm, quy định bảo hiểm hay danh mục nghiệp vụ, đội ngũ có thể xây dựng kho tri thức nội bộ. AI sẽ tìm kiếm thông tin từ những nguồn được phép, thay vì tự suy đoán dựa trên kiến thức của mô hình, đồng thời cung cấp nguồn tham chiếu khi trả lời. Cách tiếp cận này thường được gọi là RAG.
Đồng thời, mỗi lần AI hoạt động, hệ thống sẽ ghi nhận thông tin người gửi yêu cầu, chức năng được sử dụng, dữ liệu và nguồn thông tin đã truy cập, mô hình và phiên bản xử lý, kết quả được tạo ra cũng như cách người dùng tiếp nhận kết quả đó. Cơ chế này được gọi là audit trail, tức nhật ký truy vết, giúp đội ngũ có thể lần lại toàn bộ quá trình khi xảy ra sự cố. Một hệ thống AI trưởng thành không chỉ tạo ra kết quả. Nó phải cho biết kết quả đến từ đâu, đã đi qua những bước kiểm soát nào và ai chịu trách nhiệm sử dụng nó.
Đưa công nghệ vào vận hành không chỉ là câu chuyện tốc độ. Trước hết là câu chuyện về quy định sử dụng dữ liệu. Nhìn từ bài toán bệnh viện, tôi nhận ra đây không chỉ là câu chuyện riêng của ngành y. Một ngân hàng, công ty bán lẻ, doanh nghiệp sản xuất, phòng nhân sự hay đội dự án công nghệ cũng đều có những dữ liệu cẩn bảo mật, không thể tùy tiện đưa cho AI. Vì thế ngày nay rất cần đo ni đóng giày cho AI, tức tinh chỉnh hoặc xây dựng một hệ thống trí tuệ nhân tạo sao cho khớp hoàn hảo với nhu cầu, dữ liệu và mục tiêu riêng của từng cá nhân hay tổ chức, thay vì dùng một mô hình chung.
Dự án này đã cho chúng tôi bài học: "Một AI tốt không phải AI đọc được nhiều dữ liệu nhất". Quan trọng là AI chỉ đọc đúng dữ liệu cần thiết, trong đúng phạm vi, phục vụ đúng mục đích và biết dừng lại trước khi vượt qua ranh giới bảo mật. AI có thể giúp chúng ta làm việc nhanh hơn. Nhưng với dữ liệu nhạy cảm, tốc độ chỉ có ý nghĩa khi đi cùng kiểm soát, an toàn và trách nhiệm.
Trần Đức Duy | FPT IS
Ý kiến
()