Làm thế nào giám tuyển con người trở lại để dọn dẹp mớ hỗn độn của AI

Sau nhiều năm đầu tư vào các khuyến nghị thuật toán, các công ty công nghệ lớn đang khám phá lại liên lạc của con người.
Làm thế nào giám tuyển con người trở lại để dọn dẹp mớ hỗn độn của AI
[Ảnh: billyhoiler / iStock]
BỞI JARED NEWMAN7 PHÚT ĐỌC
Bài viết này là một phần của loạt bài biên tập của Fast Company Các quy tắc mới của AI . Hơn 60 năm trong kỷ nguyên của trí tuệ nhân tạo, các công ty công nghệ lớn nhất thế giới mới bắt đầu mở ra những gì có thể với AI Biệt và vật lộn với cách nó có thể thay đổi tương lai của chúng ta. Nhấn vào đây để đọc tất cả các câu chuyện trong bộ.

Tháng trước, HBO đã ra mắt một trang web tiện dụng để tìm ra chương trình gốc nào sẽ xem. Nhưng thay vì sử dụng các thuật toán máy tính để sắp xếp danh mục khổng lồ của mình, công ty đã thuê người thực hiện trường hợp của họ cho từng loạt bằng cách thực hiện các lời chứng thực video.

Trang web có tên là Được giới thiệu bởi Con người , Đây là một chiến lược tiếp thị nhiều hơn chiến lược sản phẩm, HBO không có kế hoạch cung cấp phiên bản dựa trên ứng dụng cho thiết bị di động hoặc TV và từ chối cho biết con người có thể tham gia dịch vụ HBO Max sắp tới của mình như thế nào . Nhưng chính sự tồn tại của nó là một tuyên bố về thời điểm hiện tại của chúng ta trong công nghệ. Chúng tôi đã nhận ra rằng các thuật toán đề xuất không phải là không thể sai lầm như các công ty công nghệ đã từng đưa ra, và việc giao công việc giám tuyển cho mọi người vẫn có giá trị. Có lẽ không phải ngẫu nhiên mà Netflix bắt đầu thử nghiệm một phần cho sự giám tuyển của con người trong các ứng dụng của chính họ một vài tuần sau khi trang web của HBO ra mắt.

HBO và Netflix không đơn độc trong việc khám phá lại liên lạc của con người. Hãy xem xét một số ví dụ khác:

Apple đã thuê một tổng biên tập cho ứng dụng Apple News vào năm 2017 và hiện đang sử dụng khoảng một chục nhà báo để quyết định những câu chuyện nào sẽ được quảng bá.
Apple cũng đã thiết kế lại App Store iOS xung quanh các lựa chọn từ các biên tập viên của con người vào năm 2017, với các bài viết tính năng và danh sách đề xuất trên màn hình chính.
Năm 2018, YouTube đã phản ứng với áp lực về phiên bản an toàn hơn cho ứng dụng YouTube Kids của mình bằng cách tung ra Bộ sưu tập , bộ sưu tập với các video được YouTube tuyển chọn và các đối tác đáng tin cậy như PBS.
Roku gần đây cũng đã thêm một phần trẻ em vào ứng dụng Roku Channel của mình, với các đề xuất của một nhóm biên tập nội bộ .
Tháng trước, Facebook đã bắt đầu tuyển dụng các nhà báo một lần nữa , lần này là để chọn những câu chuyện hàng đầu cho một phần sắp tới của ứng dụng có tên News Tab.
Trong các tin tức liên quan, Google gần đây đã phục hồi Krishna Bharat , nhà phát minh của Google News, người đã giúp khởi động kỷ nguyên giám tuyển thuật toán khi nó ra mắt vào năm 2002. Trong thời gian vắng mặt Google, Bharat đã chỉ trích công ty không xem xét các nguồn của câu chuyện hàng đầu .

Ngay cả với các khuyến nghị về thuật toán, các công ty công nghệ vẫn dựa vào con người để đào tạo các mô hình học máy của họ và nội dung nghi vấn vừa phải (đôi khi với chi phí cá nhân lớn cho người điều hành ). Những gì chúng ta đang thấy bây giờ là một cú hích lớn hơn cho con người để tự xử lý sự giám tuyển. Tuy nhiên, vẫn chưa rõ liệu các công ty có liên quan xem đây là một khoản đầu tư vĩnh viễn hay chỉ là một điểm dừng cho đến khi các thuật toán trở thành nhà sản xuất hương vị tốt hơn.

LÀM THẾ NÀO GIÁM TUYỂN CON NGƯỜI TRỞ LẠI
Ý tưởng về các công ty công nghệ hâm nóng sự quản lý của con người đã xuất hiện từ trước , đáng chú ý nhất là sự ra mắt của Apple Music vào năm 2015. Jimmy Iovine, người đứng đầu Apple Music vào thời điểm đó, cho biết các thuật toán không thể xử lý nhiệm vụ cảm xúc của ông Lựa chọn bài hát phù hợp vào đúng thời điểm, vì vậy công ty đã tranh thủ các DJ và nhạc sĩ nổi tiếng để điều hành đài phát thanh Beats 1 và thuê người tạo ra danh sách nhạc. Apple cũng bắt đầu thuê các biên tập viên cho những nỗ lực tin tức đang phát triển cùng thời gian đó và Twitter đang chuẩn bị một tính năng tin tức do con người quản lý có tên mã Project Lightning , cuối cùng sẽ trở thành Khoảnh khắc Twitter.

Nhưng ngay cả khi xu hướng này đã thấm nhuần bốn năm trước, nó vẫn diễn ra khẩn cấp hơn khi các công ty công nghệ phải đối mặt với phản ứng dữ dội về tác động tiêu cực của các sản phẩm của họ. Cả Facebook và Google đều thừa nhận rằng các khuyến nghị về thuật toán của họ đã đóng một vai trò trong việc truyền bá thông tin sai lệch và đưa ra nội dung không phù hợp cho người xem trẻ tuổi . Và ở mức độ thảm khốc hơn về mặt xã hội, các nhà phê bình của Netflix đã bắt đầu tự hỏi liệu các thuật toán mạnh mẽ của dịch vụ có thất bại trong việc bán khán giả mới trên các chương trình hay không .

Giới thiệu con người với hỗn hợp là một cách rõ ràng để bù đắp cho những thiếu sót của thuật toán. Chẳng hạn, với tính năng Tab Tin tức sắp tới của Facebook, Thông tin báo cáo rằng các biên tập viên của con người có hướng dẫn để tránh quảng bá các câu chuyện nhằm phân cực người đọc và ưu tiên những người có nguồn trong hồ sơ. Những loại suy luận đó có thể gây khó khăn cho một thuật toán vì nó không thực sự hiểu ý nghĩa của tài liệu nguồn của nó.

Jean-Louis Gassée, một nhà đầu tư mạo hiểm và cựu giám đốc điều hành của Apple, người đã kêu gọi điều chỉnh con người nhiều hơn trong một thời gian dài trước khi học máy. sản phẩm công nghệ.

Các khuyến nghị về App Store biên tập của Apple là một ví dụ khác về việc các thuật toán bị thiếu. Mặc dù công cụ đề xuất có thể có thể đề xuất các ứng dụng dựa trên hành vi trước đó của bạn, nhưng nó không thể giải thích việc sử dụng một ứng dụng cụ thể hoặc đưa ra quan điểm về lý do tại sao một ứng dụng tốt hơn các ứng dụng khác. Với các biên tập viên của con người, Apple đã phân tán các đề xuất trên màn hình chính, trang danh mục và thậm chí các trang kết quả tìm kiếm, tất cả đều có mô tả về lý do tại sao mỗi ứng dụng đáng để bạn dành thời gian.

Michael Bhaskar, tác giả của cuốn sách Curation: Sức mạnh của sự lựa chọn trong một thế giới dư thừa , nói rằng kiểu kể chuyện này là thứ mà các thuật toán sẽ có rất ít cơ hội để sao chép.

Tôi nghĩ bạn cần phải có những thứ được điều khiển bằng máy, chỉ vì bộ thông tin và phương tiện quá lớn. Nhưng sau đó, mọi người thích mọi người, nói rằng Bhaskar.

NHÂN RỘNG YẾU TỐ CON NGƯỜI
Vấn đề với hầu hết sự quản lý của con người mà chúng ta đang thấy bây giờ là họ có xu hướng hoặc là một đề xuất. Tab Tin tức của Facebook có thể có một phần các câu chuyện hàng đầu được các nhà báo chọn, nhưng thuật toán vẫn sẽ chạy các phần khác. App Store có rất nhiều lựa chọn biên tập tuyệt vời, nhưng nếu bạn tìm kiếm thứ gì đó ngoài con đường bị đánh đập, như trình soạn thảo Markdown , bạn sẽ tự mình làm. Lý do các công ty công nghệ chấp nhận các thuật toán đề xuất ngay từ đầu là vì chúng cho phép cá nhân hóa vô hạn và xử lý một lượng lớn dữ liệu với chi phí thấp.

Nỗ lực của con người không mở rộng theo cách đó: Ngay cả Apple cũng sẽ không thuê đủ các nhà văn dày dạn kinh nghiệm để đối phó với hàng triệu ứng dụng trở lên. Vì vậy, sự hồi sinh của nó trong việc quản lý con người làm trung tâm có thể chỉ là một điểm dừng cho đến khi các thuật toán được cải thiện. YouTube đã nói với tôi hồi đầu năm nay rằng Bộ sưu tập trong ứng dụng YouTube Kids của họ tồn tại một phần để giúp thuật toán của công ty phân biệt chương trình chất lượng từ đồ ăn vặt. Facebook có thể có các kế hoạch tương tự cho News Tab, đây đã là nỗ lực thứ hai của công ty trong việc giúp con người quản lý những câu chuyện hàng đầu. (Một vài năm trước, công ty đã sa thải các biên tập viên con người đã chọn các câu chuyện cho tin tức xu hướng của họ bên lề giữa các cáo buộc thiên vị tự do. Các thuật toán sau đó đã chạy phần này cho đến năm 2018, khi Facebook đóng cửa hoàn toàn .)

Tuy nhiên, có thể tưởng tượng một mô hình trong đó các trình quản lý con người và thuật toán cùng tồn tại và thậm chí giúp đỡ lẫn nhau. Một ví dụ điển hình là ứng dụng tin tức Flipboard, sử dụng thuật toán để cá nhân hóa nhưng liên quan đến con người trong một số bước trên đường đi.

Để bắt đầu, người dùng của Flipboard đóng vai trò là người quản lý, thêm bài viết vào tạp chí kỹ thuật số của riêng họ để người dùng khác đọc. Đến lượt những người phụ trách đó, giúp thuật toán của Flipboard quyết định những câu chuyện và nguồn nào được đề xuất khi người dùng tìm kiếm một chủ đề nhất định.

Nhưng thay vì dừng lại ở đó, Flipboard cũng sử dụng một nhóm các biên tập viên con người để thực hiện các điều chỉnh chi tiết cho đầu ra của mỗi chủ đề. Ví dụ: nếu ai đó xem chèo thuyền hoặc ô tô là một chủ đề trên Flipboard, thuật toán có thể cố gắng đưa ra rất nhiều câu chuyện về tai nạn hoặc tội phạm vì bản chất giật gân của họ có xu hướng nhận được nhiều nhấp chuột nhất. Sau đó, các biên tập viên của con người có thể loại bỏ các loại truyện đó theo hướng có lợi cho những truyện được đọc nhiều hơn.

Arnie Bhadury, một kỹ sư máy học tại Flipboard cho biết, chúng tôi có những mô hình đang cố gắng học hỏi từ công tác cộng đồng của chúng tôi và đó thực sự là đầu ra cho các nhóm biên tập và quản lý chủ đề của chúng tôi, những người có tiếng nói cuối cùng về mọi thứ. Các công cụ xây dựng như thế giúp chúng tôi mở rộng quy mô của con người.

Cách tiếp cận khác là đầu tư nhiều hơn vào việc quản lý con người dựa trên giá trị riêng của nó, cho dù nó có quy mô hay không. Chẳng hạn, với trạm Beats 1 của Apple, Apple không chỉ phụ trách những người có trình độ; nó nói lên sự thật rằng họ là những DJ hay nhạc sĩ nổi tiếng và để những người phụ trách đó nói về những bài hát họ đang chơi như những cá tính trên không trung. Bhaskar, tác giả cuốn sách, nói rằng yếu tố giám tuyển của con người là không thể thay thế.

Điều mà bạn không bao giờ có thể nhận được từ một thuật toán là nó không có câu chuyện đằng sau nó, ông nói.

Tất cả những điều đó khiến tôi tự hỏi: Điều gì sẽ xảy ra nếu Apple News hoặc Tab News của Facebook không chỉ đề xuất các câu chuyện, mà còn có tiêu đề và cho phép các biên tập viên của mình giải thích công khai các lựa chọn câu chuyện của họ? Điều gì xảy ra nếu Bộ sưu tập của Netflix có đầu vào từ các đạo diễn hoặc nhà phê bình? Điều gì sẽ xảy ra nếu YouTube Kids cung cấp lựa chọn tốt nhất cho các chương trình dành cho trẻ em, với các nhân vật nổi tiếng hoặc PSA của các nhân vật nổi tiếng? Tại sao không có Beats 2 đến 5 ?

Không ai trong số những thứ đó có thể thay thế loại khuyến nghị chi tiết mà thuật toán có thể cung cấp, cũng không phải là gần như rẻ để sản xuất. Nhưng nếu họ đủ hấp dẫn, họ cũng sẽ cung cấp một mức độ tin cậy, trách nhiệm và kết nối cá nhân mà bạn không có được từ một thuật toán lạnh lùng và thao túng. Trong bối cảnh công nghệ hiện tại của chúng tôi, đó có thể là những tài nguyên quý giá.

Nhận xét

Bài đăng phổ biến từ blog này

Nhà đầu tư mạo hiểm cần học hỏi gì từ những sai lầm của WeWork và Uber

Kết thúc của Facebook: Vào trong ví của bạn

Trong kỷ nguyên phiền nhiễu, Microsoft muốn AI trở thành đồng nghiệp của bạn