Mọi chuyện bắt đầu khi nhà nghiên cứu Joy Buolamwini của Media Lab tại MIT xây dựng bộ dữ liệu 1270 khuôn mặt, sử dụng khuôn mặt từ các chính trị gia, được lựa chọn dựa trên bảng xếp hạng về bình đẳng giới, hay nói cách khác là có số lượng phụ nữ làm việc trong công sở đáng kể. Sau đó, Joy đã kiểm tra tính chính xác của ba hệ thống nhận dạng khuôn mặt lần lượt do Microsoft, IBM và Megvii (Trung Quốc) tạo ra. Kết quả cho thấy có sự sai sót khác nhau về nhận dạng giới tính tùy thuộc vào màu da của một người.

Theo đó, nhận dạng giới tính sai chỉ chưa tới 1% với những người đàn ông da sáng hơn và lên đến 7% với phụ nữ da sáng hơn. Thế nhưng, sai số lên đến 12% ở đàn ông da tối hơn và đến 35% ở phụ nữ da tối hơn. Kết quả này cho thấy, các đối tượng nam được phân loại chính xác hơn các đối tượng nữ và những đối tượng có da sáng hơn cũng được phân loại chính xác hơn các đối tượng da tối hơn.

Đây không phải là lần đầu tiên công nghệ nhận dạng khuôn mặt được chứng minh là thiếu chính xác. Nhưng ngày càng có nhiều bằng chứng cho thấy sự cần thiết của các bộ dữ liệu khác nhau, cũng như sự đa dạng trong số những người tạo và triển khai các công nghệ này, để các thuật toán nhận dạng được chính xác bất kể chủng tộc hay những định dạng khác.

Còn nhớ hồi năm 2015, Google từng bị một kỹ sư phần mềm chỉ trích khi nhận dạng những người bạn da đen của anh ta là “gorilla” trong ứng dụng Photos. Sau đó hãng đã hứa hẹn khắc phục nhưng không rõ hướng khắc phục như thế nào, hay chỉ đơn thuần là gỡ bỏ chữ “gorilla” ra khỏi kết quả tìm kiếm trong ứng dụng này.

Hai năm trước, trang The Atlantic cũng có báo cáo về việc sử dụng công nghệ nhận dạng khuôn mặt được sử dụng cho mục đích thực thi pháp luật có thể gây oan sai đến những người Mỹ gốc Phi. Đó là một trong những mối quan ngại lớn hơn xoay quanh công nghệ mới nổi lên này, khiến những người vô tội có thể trở thành kẻ tình nghi vì công nghệ thiếu chính xác. Đây cũng là điều mà nhà nghiên cứu Joy và đồng tác giả Gebru đưa vào báo cáo của họ sau một năm điều tra trên khắp 100 sở cảnh sát.

Và câu chuyện của The Atlantic cũng chỉ ra, những nhóm nghiên cứu khác trước đây cũng từng phát hiện các công nghệ nhận dạng khuôn mặt được phát triển tại châu Á thường có khả năng nhận dạng chính xác người châu Á hơn người da trắng, trong khi các thuật toán phát triển tại Âu Mỹ thì thường nhận dạng người da trắng chính xác hơn. Tất nhiên, các thuật toán không “cố ý” thiên vị ai hơn ai, nhưng ngày càng nhiều nghiên cứu hậu thuẫn cho quan điểm công nghệ này vẫn còn rất non trẻ và còn rất nhiều việc phải làm để hạn chế những “thiên vị” này.

Theo The Verge

Công nghệ máy học đang ngày càng phát triển những năm gần đây, nhưng các bộ vi xử lý máy tính dùng để vận hành chúng gần như không có thay đổi nào. Nhu cầu sử dụng AI ngày càng tăng đã khiến các hãng đua nhau nghiên cứu cách cải tiến kiến trúc chip hiện có để đáp ứng. Và giải pháp khả thi nhất là thiết kế lại bộ xử lý để chúng vận hành giống cách mà não người hoạt động.

Người ta gọi đó là điện toán mô phỏng não người (neuromorphic computing) và các nhà khoa học đến từ MIT cho biết họ đã đạt được bước tiến đáng kể trong việc tạo ra dòng chip mới này. Nghiên cứu này được đăng tải trên chuyên san Nature Materials, nếu thành công có thể tạo nên những bộ xử lý chuyên vận hành tác vụ máy học với mức tiêu thụ điện năng giảm đáng kể, có thể lên đến 1000 lần.

Về cơ bản, sự khác biệt giữa các con chip neuromorphic và bộ vi xử lý dùng trong máy tính là cách chúng xử lý dữ liệu theo tín hiệu tương tự (analog) thay vì tín hiệu số (digital). Có nghĩa là thay vì gởi thông tin bằng những lần bật tắt điện, thì chúng sẽ thay đổi cường độ của tín hiệu như cách mà các khớp thần kinh của bộ não chúng ta hoạt động.

Điều này cũng đồng nghĩa có thể đóng gói nhiều thông tin hơn vào mỗi rung động, làm giảm năng lượng tiêu thụ. Bạn có thể hình dung nó giống như khác biệt giữa mã morse và lời nói vậy. Mã morse mã hóa dữ liệu bằng dấu chấm và gạch ngang, tuy dễ hiểu nhưng dài dòng trong giao tiếp. Trong khi nói thì khó diễn dịch hơn (tưởng tượng như trường hợp đường dây điện thoại bị nhiễu hay tiếng ồn ở quán cà phê át tiếng nói), nhưng mỗi lời nói chứa nhiều thông tin dữ liệu hơn.

Khó khăn lớn nhất trong việc xây dựng chip neuromorphic là kiểm soát chính xác những tín hiệu tương tự này. Chúng phải có cường độ thay đổi, nhất quán và kiểm soát được. Đây là điều khiến các nhà khoa học đau đầu trong việc tìm kiếm vật liệu phù hợp để truyền tải các tín hiệu điện khác nhau mà không khiến dòng điện phát tán khắp nơi.

Để khắc phục điều này, các nhà nghiên cứu MIT dưới sự dẫn dắt của giáo sư tiến sĩ Jeehwan Kim đã sử dụng silic và geranium dạng tinh thể có hình dạng giống với hàng rào mắt cá ở cấp độ vi mô. Kết hợp nhau, chúng tạo nên đường đi rõ ràng cho các tín hiệu điện, dẫn đến ít biến động về cường độ tín hiệu. Nhờ vậy, ông Jeehwan Kim và cộng sự đã tạo được mô phỏng thiết kế chip mới của họ, với cùng mức độ sai khác về tín hiệu. Họ đã thử dùng nó để huấn luyện một mạng lưới thần kinh nhận dạng chữ viết với độ chính xác đến 95%. Mặc dù con số này vẫn kém hơn phương pháp sử dụng chip hiện tại cùng với thuật toán riêng, tạo nên độ chính xác tới 97% nhưng đây vẫn là một công nghệ mới đầy hứa hẹn.

Với thành tựu hiện tại của các nhà nghiên cứu MIT, rõ ràng con đường hoàn thiện nó còn rất dài trước khi các chip neuromorphic có thể sản xuất đại trà và ứng dụng trong đời thật. Nhưng nói gì thì nói, đó vẫn là kết quả đáng ghi nhận khi người ta thiết kế lại để máy tính có thể suy nghĩ như cách não bộ hoạt động và đây chỉ mới là bước khởi đầu mà thôi. Chỉ hy vọng họ sẽ không vô tình tạo ra một Skynet ngoài đời thật.

Theo The Verge