AI đang tham gia ngày càng sâu vào công việc và đời sống. Các hệ thống có thể hỗ trợ viết nội dung, lập trình, phân tích dữ liệu, tạo hình ảnh hay giải quyết những bài toán phức tạp trong thời gian ngắn. Tuy nhiên, một câu trả lời trôi chảy chưa chắc đã chính xác; một hệ thống có năng lực mạnh cũng chưa mặc nhiên hữu ích và phù hợp trong mọi tình huống.
Vấn đề được TS. Lê Minh Trung, Giảng viên cao cấp tại Khoa Công nghệ Thông tin, Đại học Monash, phân tích tại Leader Talk “Human-AI Alignment & the Future of Trustworthy AI”. Chương trình tập trung vào Human-AI Alignment, quá trình căn chỉnh để AI hoạt động phù hợp hơn với mong muốn, giá trị và những giới hạn do con người xác định.
 |
| TS. Lê Minh Trung, Giảng viên cao cấp tại Khoa Công nghệ Thông tin, Đại học Monash. |
AI mạnh chưa đồng nghĩa với AI đáng tin cậy
Theo TS. Lê Minh Trung, các hệ thống đứng sau những chatbot hiện nay được huấn luyện từ lượng văn bản rất lớn. Chúng học cách dự đoán nội dung tiếp theo, từ đó có thể tạo ra câu trả lời tự nhiên và thực hiện nhiều yêu cầu khác nhau.
Tuy nhiên, nhiệm vụ ban đầu của AI không mặc nhiên bao gồm việc phải luôn hữu ích, trung thực hay an toàn. Vì vậy, hệ thống đôi khi có thể tạo ra thông tin nghe hợp lý nhưng không có căn cứ, trả lời đầy tự tin dù chưa đủ dữ liệu hoặc đưa ra kết quả chưa sát với nhu cầu của người dùng.
AI cũng học từ dữ liệu do con người tạo ra. Nếu dữ liệu chứa những sai lệch hoặc khuôn mẫu chưa phù hợp, hệ thống có thể lặp lại chúng trong câu trả lời, từ đó ảnh hưởng đến tính công bằng, độ chính xác và trải nghiệm sử dụng.
“AI đang đóng vai trò rất quan trọng, nhưng thực tế AI chưa hoàn hảo và chưa hoàn toàn phù hợp với những giá trị của con người”, TS. Lê Minh Trung nhận định.
Bởi vậy, phát triển AI không chỉ là giúp hệ thống biết nhiều hơn hoặc phản hồi nhanh hơn. Một mô hình muốn đi vào thực tế còn cần biết khi nào có thể trả lời, khi nào phải thận trọng và khi nào nên thừa nhận rằng chưa có đủ thông tin.
Đây cũng là lý do căn chỉnh AI trở thành một hướng nghiên cứu quan trọng. Mục tiêu không phải khiến máy móc “hiểu” con người theo nghĩa nhận thức, mà giúp hệ thống tạo ra kết quả gần hơn với những nguyên tắc, kỳ vọng và giới hạn đã được xác định.
 |
| Chương trình với nội dung xoay quanh chủ đề Human-AI Alignment, thu hút nhiều cán bộ công nghệ nhà F tham gia. |
Dạy AI từ những lựa chọn của con người
Trong bài chia sẻ, tiến sĩ đưa ra một số cách huấn luyện AI, trong đó một cách phổ biến để điều chỉnh hành vi của AI là cho hệ thống học từ lựa chọn của con người. Theo đó, với cùng một câu hỏi, AI tạo ra nhiều phương án trả lời, và người đánh giá sẽ lựa chọn câu phù hợp hơn dựa trên các tiêu chí như tính hữu ích, độ chính xác, sự rõ ràng và mức độ an toàn.
Khi quá trình này được lặp lại với số lượng lớn câu hỏi, nhóm phát triển sẽ có một tập dữ liệu gồm những câu trả lời nên được ưu tiên và những kết quả cần hạn chế. AI sau đó được huấn luyện để tăng khả năng tạo ra phương án gần hơn với lựa chọn của con người.
Theo TS. Lê Minh Trung, sự phản hồi của AI có thể được huấn luyện theo hai hướng. Cách thứ nhất, lựa chọn của con người được dùng để xây dựng một hệ thống chấm điểm. AI tiếp tục được huấn luyện để tạo ra những câu trả lời nhận điểm đánh giá cao hơn.
Ở cách thứ hai, mô hình học trực tiếp từ các cặp câu trả lời tốt hơn và chưa tốt, không cần thêm một hệ thống chấm điểm riêng. Dù khác nhau về kỹ thuật, cả hai cách đều hướng tới cùng một mục tiêu.
“Nguyên lý chính là khuyến khích mô hình tạo ra những câu trả lời được con người ưa thích với xác suất lớn hơn, đồng thời giảm khả năng tạo ra những câu trả lời chưa phù hợp”, diễn giả giải thích.
Tuy nhiên, lựa chọn của con người không phải một đáp án cố định cho mọi trường hợp. Một câu trả lời được đánh giá là tốt trong bối cảnh này có thể chưa phù hợp trong bối cảnh khác. Sự khác biệt về văn hóa, ngành nghề, mục đích sử dụng và nhu cầu cá nhân đều có thể ảnh hưởng đến cách đánh giá.
Ngay cả khi một AI khác được dùng để hỗ trợ chấm câu trả lời, kết quả vẫn cần được kiểm soát. Bản thân hệ thống chấm cũng có thể ưu tiên câu trả lời dài hơn, thích một kiểu diễn đạt nhất định hoặc mang theo những sai lệch từ dữ liệu huấn luyện.
Vì vậy, chất lượng của quá trình căn chỉnh phụ thuộc lớn vào cách xây dựng dữ liệu, lựa chọn tiêu chí và xác định mục tiêu ngay từ đầu.
 |
| Theo TS. Lê Minh Trung cùng những kỹ sư nhà F đã có những thảo luận chuyên sâu xoay quanh việc sử dụng, huấn luyện AI an toàn và phù hợp. |
AI đáng tin cậy cần được kiểm chứng
“Sau khi được huấn luyện, câu hỏi tiếp theo là làm thế nào biết AI đã thực sự tốt hơn”, TS. Lê Minh Trung tiếp tục.
Với những bài toán có đáp án rõ ràng, tỷ lệ trả lời đúng là một chỉ số quan trọng. Nhưng trong hội thoại hoặc tạo nội dung, hai câu trả lời cùng đúng vẫn có thể khác nhau đáng kể về độ rõ ràng, mức độ hữu ích và khả năng đáp ứng nhu cầu thực tế.
Do đó, chất lượng AI không thể được kết luận chỉ từ một điểm số. Một hệ thống cần được xem xét đồng thời về độ chính xác, khả năng làm đúng yêu cầu, mức độ ổn định, sự phù hợp và những rủi ro có thể phát sinh trong quá trình sử dụng.
“Chúng ta không thể chỉ đơn giản đánh giá mô hình dự đoán chính xác bao nhiêu phần trăm. Cần có những cách thức phức tạp hơn để xem mô hình có thực sự phù hợp với mong muốn và các tiêu chuẩn xã hội của con người hay không”, TS. Lê Minh Trung nhấn mạnh.
Ngay cả công cụ được sử dụng để đánh giá AI cũng có thể tồn tại sai lệch. Một câu trả lời dài hơn đôi khi được chấm cao hơn dù không mang lại nhiều giá trị hơn. Kết quả vì thế cần được đối chiếu bằng nhiều cách, trên những bộ câu hỏi và tình huống đủ đa dạng.
Quá trình căn chỉnh cũng không được làm suy giảm năng lực cốt lõi của hệ thống. Một mô hình không thể được xem là tiến bộ nếu trở nên lịch sự hơn nhưng lại kém chính xác, giảm khả năng suy luận hoặc thực hiện nhiệm vụ.
Vì vậy, AI đáng tin cậy không được hình thành chỉ từ một phương pháp huấn luyện hay một kết quả đánh giá riêng lẻ. Quá trình này đòi hỏi dữ liệu phù hợp, tiêu chí rõ ràng, nhiều cách kiểm chứng và sự giám sát liên tục của con người.
“AI phải hiểu giá trị của chúng ta để phục vụ tốt hơn. Ở chiều ngược lại, chúng ta cũng phải hiểu AI để khai thác tốt hơn. Đây là một quá trình hai chiều, không chỉ một chiều”, TS. Lê Minh Trung chia sẻ.
 |
| Buổi chia sẻ của TS. Lê Minh Trung gợi mở góc nhìn để người FPT tiếp tục nghiên cứu, phát triển và ứng dụng AI theo hướng hữu ích, an toàn và phù hợp. |
Khép lại bài chia sẻ, diễn giả đã giúp người FPT hình dung rõ hơn hành trình xây dựng một hệ thống AI đáng tin cậy: bắt đầu từ việc nhận diện những giới hạn của mô hình, đưa lựa chọn và kỳ vọng của con người vào quá trình huấn luyện, sau đó kiểm chứng kết quả bằng nhiều tiêu chí và tình huống khác nhau. Khi AI tham gia sâu hơn vào công việc, năng lực của hệ thống cần đi cùng mục tiêu rõ ràng, cơ chế kiểm soát và trách nhiệm của con người.
Sơn Tra
Ý kiến
()