Tại Techtalks số 1 năm 2023 chủ đề “ChatGPT và các bài toán AI của FPT”, anh Trần Thế Trung - Viện trưởng Viện nghiên cứu Công nghệ FPT, Phó Giám đốc khối sản phẩm AI, FPT Smart Cloud và anh Nguyễn Xuân Phong - Giám đốc Trí tuệ Nhân tạo, FPT Software đã đưa ra giải thích rõ hơn về ChatGPT và các xu hướng công nghệ AI trên toàn cầu.
Theo Tiến sĩ Trần Thế Trung, ChatGPT được cấu thành bởi 2 phần là chat và GPT - tên gọi của một mô hình ngôn ngữ (mô hình tính ra được xác suất một chuỗi từ). Đây là khái niệm xuất hiện khá sớm trong ngôn ngữ tự nhiên, đã được ứng dụng khá lâu trong khoa học máy tính.
Anh Trần Thế Trung - Viện trưởng Viện nghiên cứu Công nghệ FPT, Phó Giám đốc khối sản phẩm AI, FPT Smart Cloud. |
Khi mô hình ngôn ngữ phát triển, dựa trên dữ liệu ngày càng lớn, người ta phát hiện năng lực của nó rất mạnh mẽ, đặc biệt sau khi Google đưa ra kiến trúc Transformer năm 2017 - một cuộc cách mạng trong xử lý ngôn ngữ tự nhiên. Thay vì thực hiện từng tác vụ bằng các kỹ thuật khác nhau, mô hình ngôn ngữ lớn cho phép thực hiện nhiều tác vụ như sinh ra văn bản, trích xuất thông tin, tổng hợp văn bản…
Theo thời gian, mô hình ngôn ngữ có thể phát triển vô cùng nhanh chóng, mỗi năm số tham số (lượng kết nối giữa 2 nơ-ron) tăng gấp 10 lần và trong tương lai sẽ lớn gần bằng và có thể vượt qua đầu người. Mô hình GPT3 hiện có 175 tỷ tham số.
Đưa ra góc nhìn xa hơn, anh Nguyễn Xuân Phong cho biết trong ngành trí tuệ nhân tạo trên thế giới, ngôn ngữ là một mảng đã phát triển lâu được nhiều giáo sư trường đại học đã đầu tư và ngh cứu phát triển. Gần đây những công ty như Open AI, Google… đang “chạy đua vũ trang”, đầu tư để tạo mô hình ngôn ngữ ngày càng lớn học trên dữ liệu. “Đây là cuộc chạy đua liên tục của các nước, diễn ra không phải nhất thời. Và không chỉ ngôn ngữ, chúng ta đã có đột phá mạnh về mô hình hình ảnh và rồi video” - anh nói.
Anh Nguyễn Xuân Phong - Giám đốc Trí tuệ Nhân tạo, FPT Software. |
Gần đây, mô hình ngôn ngữ tạo nên đột phá như ChatGPT nhờ Học tăng cường (Reinforcement learning). GPT được đưa vào trở thành mô hình ngôn ngữ trả lời đối thoại, dựa trên phản hồi của con người. Mô hình thưởng phạt được xây dựng, giúp máy đưa ra mô hình hành động phù hợp mục đích của con người.
“Các mô hình AI đang được trộn lẫn (ngôn ngữ, hình ảnh… trộn nhau và trộn học tăng cường) là xu hướng rõ nhất trên thế giới” - anh Phong tóm tắt.
Tuy nhiên, mô hình ngôn ngữ cũng như mô hình ngôn ngữ lớn gặp một số vấn đề - anh Trung tiếp tục làm rõ. Như về đạo đức, nó có thể cho ra mọi văn bản bất kể tính đạo đức. Nỗ lực của OpenAI là cho ra Fine-tune chat (tạm dịch: tinh chỉnh), học tăng cường từ phản hồi của người dùng (RLHF), tức cho mô hình ngôn ngữ tương tác học từ con người, đưa ra câu trả lời tuân theo tiêu chuẩn đưa ra, giải quyết vấn đề đạo đức.
Làm rõ ưu và nhược điểm của ChatGPT, chuyên gia nhà F chỉ ra ưu điểm của nó là đa nhiệm vụ, đa lĩnh vực, đa ngôn ngữ, nắm được ngữ cảnh dài, câu từ tự nhiên, làm hài lòng người dùng. Trong khi đó, nhược điểm của nó là khó kiểm soát tính chính xác, xác định nguồn gốc thông tin; không có khả năng lập luận, không giải thích được cách ra kết quả, khó thực hiện logic, toán; khó cập nhật; chi phí cao, chạy chậm.
Cuối cùng, ChatGPT cũng là một cú hích cho các xu hướng AI như Generative AI (mô hình tạo sinh), mô hình ngôn ngữ, mô hình học sâu Transformer; prompt engineering (tạm dịch là “kỹ nghệ gợi ý”), in-context learning (học trong bối cảnh)... Theo các chuyên gia nhà F, chúng ta cần nắm các xu hướng và làm chủ chúng để tạo ra đột phá trong tương lai.
Ánh Dương
Ảnh: Trần Huấn
Ý kiến
()