Học giả Timnit Gebru nói Google \’phân biệt chủng tộc về mặt thể chế\’

• James Clayton
• Phóng viên Công nghệ, Bắc Mỹ

15 tháng 12 2020

Timnit Gebru, một chuyên gia về trí tuệ nhân tạo và khoa học máy tính có ảnh hưởng lớn, đang giữa tranh cãi bao trùm lực lượng nghiên cứu AI của Google và niềm đam mê về AI đang vượt xa.

Tiến sĩ Timnit Gerbu nói bà đã bị Google sa thải sau khi công ty này có vấn đề với một bài tường trình mà bà là đồng tác giả.

Timnit Gebru và người ủng hộ bà tin rằng thể chế phân biệt chủng tộc đóng một vai trò trong sự ra đi của bà.

Bài tường trình nói trên tập trung vào vấn đề liên quan đến các mô hình ngôn ngữ AI – bao gồm sự thiên vị cấu trúc với phụ nữ và người thuộc các dân tộc thiểu số.

Google nói tường trình này bỏ qua nghiên cứu liên quan về chủ đề này và Tiến sĩ Gebru đã từ chức.

Một bức thư ngỏ yêu cầu Google cho biết lý do tại sao bài viết khoa học bị từ chối đã được hơn 6.000 người ký tên, gồm các nhà nghiên cứu nổi tiếng tại Google và bộ phận DeepMind của nó cũng như Microsoft, Apple, Facebook, Amazon và Netflix, trong số nhiều người khác.

Giám đốc điều hành Google Sundar Pichai viết trong một bản ghi nhớ:

\”Chúng tôi cần nhận trách nhiệm về việc một nữ lãnh đạo da đen nổi bật với tài năng vô cùng lớn đã rời bỏ công ty Google trong hoàn cảnh không vui.\’\’

\”Điều cực kỳ quan trọng đối với tôi là nhân viên Google da đen, phụ nữ và ít được đại diện của Google biết rằng chúng tôi đánh giá cao quý bạn và bạn thực sự thuộc về Google.\”

Ông nói thêm rằng công ty Google sẽ điều tra việc xử lý vấn đề này, nhưng không xin lỗi sự ra đi của Tiến sĩ Gebru.

Tiến sĩ Gebru không hài lòng với phản ứng đó và đã nói chuyện với BBC. Bài phỏng vấn sau đây đã được biên tập lại cho ngắn gọn và rõ ràng.

Vài tuần qua đối với bà như thế nào trên phương diện cá nhân?

Đó là những tuần lễ rất mệt mỏi.

Tôi thật không vui khi bị chú ý như thế này.

Tôi cảm thấy như mình bị ném vào một cơn bão.

Bài tường trình của bà nói về gì?

Tôi không ngờ nó lại là một bài viết tạo sóng gió hay bất cứ thứ gì tương tự như vậy.

Bài tường trình nói về những cân nhắc đạo đức trong việc phát triển nghiên cứu và phát triển các mô hình ngôn ngữ lớn – một trong những điều đó là sự thiên vị.

Google nói bài viết của bà không chứa một số nghiên cứu mới nhất về chủ đề này?

Trước hết, điều đó không đúng.

Thứ hai, hãy tưởng tượng nếu điều đó đúng – bạn có thực sự biện minh được cho việc chấm dứt hợp đồng với ai đó theo cách họ đã chấm dứt hợp đồng với tôi vì bài báo thiếu một đánh giá?

Nhưng điều họ nói hoàn toàn không đúng.

Bà có nghĩ rằng Google sẽ đối xử khác với bà nếu bà là một người đàn ông da trắng?

Tôi chắc chắn đã bị phân biệt đối xử.

Trong tất cả các trường hợp mà tôi đã thấy trước đây, họ [Google] rất cố gắng để không làm cho nó trở thành tiêu đề.

Họ rất cố gắng để làm cho mọi việc êm thắm.

Khi một người khác trở thành độc hại, luôn có những cuộc trò chuyện như sau: \”Ồ, nhưng bạn biết đấy, họ rất có giá trị đối với công ty, họ là một thiên tài, họ chỉ vụng về về mặt xã hội, vân vân.\”

Toàn bộ đội ngũ của tôi hoàn toàn ủng hộ tôi và họ đang chấp nhận rủi ro để làm như vậy.

Họ đang thực sự chấp nhận rủi ro để đứng sau lưng tôi.

Quản lý của tôi đang đứng đằng sau tôi.

Và dẫu thế, họ [Google] vẫn quyết định đối xử với tôi theo cách này.

Vì thế chắc chắn là tôi cảm thấy mình đã bị phân biệt đối xử.

Tôi cho rằng nếu vậy, câu hỏi hiển nhiên kế tiếp là bà có nghĩ Google có phân biệt chủng tộc về mặt thể chế?

Có, bản thân công ty Google phân biệt chủng tộc về mặt thể chế.

Đó là tuyên bố khá nặng lời – bà là nhân viên của Google cho đến cách đây không lâu?

Tôi cảm thấy hầu hết, nếu không nói là tất cả các công ty công nghệ đều phân biệt chủng tộc về mặt thể chế.

Ý tôi là, làm sao tôi có thể không nói rằng họ không phân biệt chủng tộc về mặt thể chế?

Không phải ngẫu nhiên mà phụ nữ da đen có một trong những tỷ lệ thâm niên thấp nhất, [trong ngành công nghệ].

Nhóm Thành viên Quốc hội người Da đen (Congressional Black Caucus) là nhóm buộc Google phải công bố số lượng nhân viên đa dạng của họ.

Vì vậy, chắc chắn là Google và tất cả các công ty công nghệ khác đều phân biệt chủng tộc về mặt thể chế.

Google nói họ quan tâm đến sự đa dạng. Bà có đồng ý không?

Tôi không đồng ý rằng Google quan tâm đến sự đa dạng.

Những gì họ cần làm là cảm thấy thoải mái với những cuộc thảo luận không thoải mái này – đừng bịt miệng mọi người, đừng trả đũa người ta.

Những gì họ đang làm là nói: \”Được rồi, chúng ta sẽ có một số ủy ban ngẫu nhiên,\” hoặc: \”Chúng ta sẽ đầu tư một số triệu đôla nhất định vào một cái gì đó.\”

Nhưng khi có một ai đó thách thức hiện trạng theo một cách nhỏ nhất có thể, bạn thấy điều gì vừa xảy ra?

Vì vậy, tôi nghĩ rất khó để tôi tin rằng Google quan tâm đến sự đa dạng.

Ông Sundar Pichai đã xin lỗi về hoàn cảnh xung quanh sự ra đi của bà nhưng không xin lỗi về chính sự ra đi đó. Bà cảm thấy sao về việc ấy?

Ông ấy thậm chí còn không xin lỗi về cách xử lý của công ty.

Ông nói rằng điều này đã gieo rắc nghi ngờ trong một số người trong cộng đồng của chúng ta, rằng họ cảm thấy như thể họ không thuộc về [Google].

Và vì điều đó, ông ấy xin lỗi.

Vì vậy, câu của ông ấy không nói: \”Tôi xin lỗi về cách chúng tôi xử lý việc này. Chúng tôi đã sai. Tôi xin lỗi vì những gì chúng tôi đã làm với bà ấy,\” – không có gì.

Tôi không coi đó là một lời xin lỗi tí nào cả.

Tôi coi đó là một tuyên bố phải được thực hiện để làm cho công ty trông đẹp hơn,

Bà thấy AI rồi sẽ tiến triển ra sao? Bà có lo lắng về sự phân biệt chủng tộc trong ngành AI không?

Chắc chắn – và rất nhiều người từng nói rằng họ nghĩ rằng biên giới tiếp theo cho sự phân biệt đối xử… nằm ngay trong lĩnh vực công nghệ này trong AI.

Và vì thế, tôi rất lo lắng về điều đó.

Và tôi và nhiều phụ nữ – đặc biệt là người da đen – đã viết về điều này và thậm chí mở các lớp học về điều này.

Trừ khi có sự thay đổi quyền lực nào đó, nơi những người bị ảnh hưởng nhiều nhất bởi những ngành công nghệ này cũng được phép định hình chúng, và có thể tưởng tượng những công nghệ này trông như thế nào ngay từ đầu, rồi xây dựng chúng theo điều đó, trừ khi chúng ta hướng tới tương lai như vậy, tôi thực sự lo lắng rằng những công cụ này sẽ được sử dụng vì mục đích có hại nhiều hơn là có lợi.

Bà dự tính sẽ làm gì về việc này?

Tôi cần dành một chút thời gian để suy nghĩ về những gì tôi sẽ làm tiếp theo.

Hiện tại, ưu tiên của tôi là sự an toàn của những người đã ủng hộ tôi.

Tôi không muốn họ bị bất kỳ hình thức trả đũa nào.

Vì vậy, đó là ưu tiên của tôi lúc này.

BBC News đã đưa những cáo buộc trong cuộc phỏng vấn này đến Google.

Google từ chối bình luận nhưng hướng dẫn BBC News đến bản ghi nhớ của ông Pichai và một văn bản của Jeff Dean, người đứng đầu Google AI, một văn bản bày tỏ lo ngại về \”lỗ hổng\” trong bài nghiên cứu của Tiến sĩ Gebru.

James Clayton là phóng viên công nghệ Bắc Mỹ của BBC, làm việc tại San Francisco.