Tại Quảng trường thuộc thủ đô Belgrade của Serbia, hàng trăm camera quan sát vừa được lắp đặt trên tường, ghi lại cảnh người dân di chuyển qua lại ở mọi ngóc ngách. Đây chỉ là một trong 800 địa điểm được chính phủ nước này phê duyệt đề án kiểm soát an ninh bằng camera tích hợp công nghệ nhận diện khuôn mặt có xuất xứ từ Huawei (Trung Quốc).
“Chính quyền đã không lấy ý kiến khi triển khai”, Danilo Krivokapić, người đứng đầu tổ chức nhân quyền của thành phố, cho biết. Belgrade, cũng giống những nơi khác, là khu vực đang chuyển dịch theo sự tiến bộ của làn sóng công nghệ trên thế giới. Công nghệ nhận diện khuôn mặt đã từ lâu xuất hiện tại các cảng hàng không và trên di động thông minh, đóng vai trò như công cụ giúp cảnh sát truy vết tội phạm.
Tuy nhiên, ngày nay chúng xuất hiện ồ ạt ở nơi công cộng lẫn riêng tư. Từ thủ đô Peru đến Kenya, từ Nga đến Mỹ, hàng trăm camera tràn về các khu đô thị đều cộp mác “tích hợp nhận diện khuôn mặt” với kỳ vọng giúp thành phố trở nên thông minh.
“Giống như bạn đang xem phim vậy”, Daragh Murray, nhà nghiên cứu pháp lý tại trường ĐH Essex (Anh) cho biết. Tại Anh, khi lực lượng cảnh sát thủ đô London thử nghiệm công nghệ nhận diện khuôn mặt trong giai đoạn từ năm 2016 đến 2019, họ đã mời Murray theo dõi và thực hiện nghiên cứu độc lập về mô hình công nghệ này.
Qua đó, hình ảnh do camera ghi được trong khu mua sắm và quảng trường được truyền tới máy tính ngay trong khoang xe cảnh sát. Khi camera xác định được gương mặt, từng ô chữ nhật sẽ hiện trên mặt họ. “Nếu trùng khớp, hệ thống sẽ hiển thị hình ảnh cần tìm và ảnh của kẻ tình nghi lên màn hình”, ông nói, “tuy nhiên, kết quả lại cho thấy sự đối nghịch với điều đang chờ đợi”.
Cụ thể, Murray đưa ra nhiều quan ngại về xâm phạm tính riêng tư và đạo đức khi ứng dụng camera theo dõi khuôn mặt trong việc truy bắt tội phạm. Kết quả của hơn 6 lần thử nghiệm cho thấy trong số 42 người được phần mềm xác định là tình nghi thì chỉ có 8 cá nhân là chính xác. Dù vậy, lập luận từ phía cảnh sát lại cho rằng xác suất tìm sai đối tượng của camera là vô cùng nhỏ so với hàng nghìn gương mặt đã được quét.
Tuy độ chính xác của nhận diện khuôn mặt được cải thiện đáng kể từ khi xuất hiện công nghệ “deep learning” (học máy) khoảng hơn thập kỷ trước, việc xác định đối tượng bằng camera chất lượng thấp hay ảnh thô vẫn còn gây nhiều tranh cãi. Đồng thời dấy lên nhiều câu hỏi xoay quanh về tính minh bạch của hệ thống.
Trước đó, vào năm 2018, Timnit Gebru - nhà khoa học máy tính cùng với Microsoft Research, Google và cả MIT đều có chung kết luận rằng phần mềm nhận diện khuôn mặt có điểm yếu khi khó xác định những người mang giới tính nữ, người da màu hơn là nam giới và người da trắng. Do đó, sự thiên vị này đã khiến chính quyền một số nơi tại Mỹ ban bố lệnh tạm ngưng sử dụng công nghệ xác định khuôn mặt đối với các cơ quan công quyền và kể cả tư nhân.
Họ cho rằng dù công nghệ đã tiến bộ hơn trước nhưng vẫn chưa đảm bảo liệu rằng các công cụ nhận diện khuôn mặt có bị khai thác sai mục đích để tránh bắt nhầm người vô tội.
 |
| Một biểu ngữ phản đối việc nhận diện khuôn mặt xuất hiện tại sân vận động tại Cardiff (UK). Ảnh: Getty Images |
Dù chính xác nhưng vẫn thiên vị
“Mọi hệ thống nhận diện khuôn mặt đều đang dùng deep learning (DL)”, Anil Jain, nhà khoa học máy tính thuộc ĐH Michigan, cho hay. Cụ thể, DL cho phép phân tích và ghi nhớ hàng trăm triệu dữ liệu về sinh trắc học của người dùng. Thuật toán của DL sẽ “làm quen” với hàng triệu tấm ảnh, tập trung phần lớn vào các đặc điểm về mắt, mũi, miệng. Sau đó trích xuất thành dạng dữ liệu có dung lượng thấp hơn 100 bytes cho đến vài kilobytes. Tuy nhiên, camera ghi nhận khuôn mặt ở các điều kiện ánh sáng và góc độ khác nhau, do đó chúng khó nhận diện mặt người hơn là thông qua một tấm ảnh chụp trên passport hoặc chứng minh thư.
Một báo cáo xuất bản vào năm ngoái từ Viện Tiêu chuẩn và Kỹ thuật quốc gia Mỹ (NIST) cho biết công nghệ nhận diện khuôn mặt đã có một bước tiến lớn trong việc xác định gương mặt. Điều này xuất phát từ khả năng tích lũy dữ liệu của deep learning khiến cho công nghệ ngày càng thông minh hơn khi tiếp cận lượng lớn thông tin mỗi ngày.
“Xác định chuẩn xác khuôn mặt dựa vào ảnh thẻ với người thật bên ngoài chính là cột mốc của cả quá trình nghiên cứu”, Craig Watson, Trưởng phòng phân tích hình ảnh tại NIST, đánh giá. Trong đó, thuật toán tốt nhất hiện tại cho phép nhận dạng người từ ảnh cá nhân trong tự nhiên và đối sánh nó với gương mặt nhìn chính diện từ cơ sở dữ liệu.
Đồng thời, cơ quan này cũng đồng tình rằng khả năng nhận diện gương mặt vẫn còn vấp phải sự hạn chế khi độ chính xác trong việc tìm ra người da màu, phụ nữ vẫn thấp hơn nam giới và người da trắng. Cụ thể, kho dữ liệu khuôn mặt từ NIST về người Mỹ gốc Phi hay gốc Á có xác suất tìm sai gấp từ 10-100 lần, kể cả khi họ là nam hay nữ.
Lo lắng khi bị theo dõi
Không chỉ có nhiều quan điểm trái chiều về sự phân biệt màu da hay giới tính, việc bản thân bị kiểm soát liên tục cũng tạo ra cảm giác phiền hà với nhiều người. Đầu năm nay, công ty phần mềm Clearview AI bị cáo buộc rằng đã thu thập hàng tỷ hình ảnh trên các trang mạng xã hội dùng để xây dựng kho cơ sở dữ liệu nhận diện khuôn mặt.
Ben Sobel, Chuyên gia về Trí tuệ nhân tạo (AI) tại ĐH Harvard, nhận xét rằng sự phổ biến của công nghệ có khả năng nhận diện rộng ngày càng trở nên dễ tiếp cận và không cần thiết bị quá phức tạp để vận hành. Ngay cả Facebook hay Twitter cũng đã đề nghị Clearview AI chấm dứt việc lấy dữ liệu vì họ đang gây hại đến điều khoản người dùng, đồng thời nhiều nơi tại bang Illinois (Mỹ) đã đệ đơn kiện với hành vi khai thác sinh trắc học trái phép từ công ty phần mềm này.
Dự án tại Belgrade cũng vướng phải nhiều hoài nghi từ giới chuyên gia khi họ cần câu trả lời về nguồn lưu trữ dữ liệu từ camera và liệu Huawei có lấy lý do thu thập dữ liệu để cải thiện thuật toán nhằm tiếp cận được thông tin từ kho dữ liệu hay không. Giới chức nước này khẳng định nhà sản xuất Trung Quốc sẽ không được phép làm điều đó và họ đang có dự định mua thêm 8.000 camera gắn trên các xe tuần tra và đeo trên người các cảnh sát giao thông.
Chỉ riêng năm 2019, Steven Feldstein, nhà nghiên cứu chính sách của Quỹ Carnegie vì Hòa bình Quốc tế tọa lạc tại Washington của Mỹ nhận định có đến 64 quốc gia ứng dụng công nghệ nhận diện khuôn mặt. Phần lớn sản phẩm xuất xưởng ở các công ty Trung Quốc, còn lại đến từ doanh nghiệp Mỹ, châu Âu, Nga và Nhật Bản.
>> Salesforce mua ứng dụng giao tiếp nội bộ Slack với giá 27,7 tỷ USD
Đình An
Ý kiến
()