Connect with us

Nghiên cứu của MIT cho thấy các phần mềm nhận dạng khuôn mặt “thiên vị” người da trắng

Công nghệ nhận dạng khuôn mặt sai sót cao với người da màu

Nghiên cứu của MIT cho thấy các phần mềm nhận dạng khuôn mặt “thiên vị” người da trắng


Nghiên cứu của MIT cho thấy các phần mềm nhận dạng khuôn mặt “thiên vị” người da trắng


bài dởbài hay

Nghiên cứu mới của Media Lab thuộc Viện Công nghệ Massachusetts (MIT) đã xác nhận điều mà các chuyên gia đã báo cáo hoặc nghi ngờ trước đây.




Mọi chuyện bắt đầu khi nhà nghiên cứu Joy Buolamwini của Media Lab tại MIT xây dựng bộ dữ liệu 1270 khuôn mặt, sử dụng khuôn mặt từ các chính trị gia, được lựa chọn dựa trên bảng xếp hạng về bình đẳng giới, hay nói cách khác là có số lượng phụ nữ làm việc trong công sở đáng kể. Sau đó, Joy đã kiểm tra tính chính xác của ba hệ thống nhận dạng khuôn mặt lần lượt do Microsoft, IBM và Megvii (Trung Quốc) tạo ra. Kết quả cho thấy có sự sai sót khác nhau về nhận dạng giới tính tùy thuộc vào màu da của một người.

Theo đó, nhận dạng giới tính sai chỉ chưa tới 1% với những người đàn ông da sáng hơn và lên đến 7% với phụ nữ da sáng hơn. Thế nhưng, sai số lên đến 12% ở đàn ông da tối hơn và đến 35% ở phụ nữ da tối hơn. Kết quả này cho thấy, các đối tượng nam được phân loại chính xác hơn các đối tượng nữ và những đối tượng có da sáng hơn cũng được phân loại chính xác hơn các đối tượng da tối hơn.

Đây không phải là lần đầu tiên công nghệ nhận dạng khuôn mặt được chứng minh là thiếu chính xác. Nhưng ngày càng có nhiều bằng chứng cho thấy sự cần thiết của các bộ dữ liệu khác nhau, cũng như sự đa dạng trong số những người tạo và triển khai các công nghệ này, để các thuật toán nhận dạng được chính xác bất kể chủng tộc hay những định dạng khác.

Còn nhớ hồi năm 2015, Google từng bị một kỹ sư phần mềm chỉ trích khi nhận dạng những người bạn da đen của anh ta là “gorilla” trong ứng dụng Photos. Sau đó hãng đã hứa hẹn khắc phục nhưng không rõ hướng khắc phục như thế nào, hay chỉ đơn thuần là gỡ bỏ chữ “gorilla” ra khỏi kết quả tìm kiếm trong ứng dụng này.

Hai năm trước, trang The Atlantic cũng có báo cáo về việc sử dụng công nghệ nhận dạng khuôn mặt được sử dụng cho mục đích thực thi pháp luật có thể gây oan sai đến những người Mỹ gốc Phi. Đó là một trong những mối quan ngại lớn hơn xoay quanh công nghệ mới nổi lên này, khiến những người vô tội có thể trở thành kẻ tình nghi vì công nghệ thiếu chính xác. Đây cũng là điều mà nhà nghiên cứu Joy và đồng tác giả Gebru đưa vào báo cáo của họ sau một năm điều tra trên khắp 100 sở cảnh sát.

Và câu chuyện của The Atlantic cũng chỉ ra, những nhóm nghiên cứu khác trước đây cũng từng phát hiện các công nghệ nhận dạng khuôn mặt được phát triển tại châu Á thường có khả năng nhận dạng chính xác người châu Á hơn người da trắng, trong khi các thuật toán phát triển tại Âu Mỹ thì thường nhận dạng người da trắng chính xác hơn. Tất nhiên, các thuật toán không “cố ý” thiên vị ai hơn ai, nhưng ngày càng nhiều nghiên cứu hậu thuẫn cho quan điểm công nghệ này vẫn còn rất non trẻ và còn rất nhiều việc phải làm để hạn chế những “thiên vị” này.

Theo The Verge











CHÚNG TÔI TRÊN FACEBOOK




To Top