Tháng trước, AlphaGo, một chương trình máy tính được thiết kế đặc biệt để chơi cờ vây, đã gây chấn động trong giới hâm mộ khi nó đánh bại Lee Sidol, một trong những kỳ thủ chuyên nghiệp hàng đầu thế giới, thắng giải đấu gồm năm ván với tỷ số 41.
Đạo đức trí tuệ nhân tạo? Thứ 3, ngày Tháng Chín năm 2016 Đạo đức trí tuệ nhântạo? PETER SINGER* Tháng trước, AlphaGo, chương trình máy tính thiết kế đặc biệt để chơi cờ vây, gây chấn động giới hâm mộ đánh bại Lee Sidol, kỳ thủ chuyên nghiệp hàng đầu giới, thắng giải đấu gồm năm ván với tỷ số 4-1 Ta hỏi, sao? Hai mươi năm trơi qua kể từ Deep Blue IBM đánh bại nhà vô địch cờ vua giới Garry Kasparov, tất biết máy tính cải thiện kể từ Nhưng Deep Blue thắng thơng qua khả tính tốn tuyệt đối, sử dụng khả để tính tốn kết nhiều nước tới mức độ sâu khả nhà vô địch giới Cờ vây chơi bàn rộng nhiều (19×19 ơ, thay 8×8 cờ vua) có nhiều bước số nguyên tử vũ trụ, sức mạnh tính tốn đơn có khả đánh bại người có cảm giác trực quan mạnh mẽ nước tốt Thay vào đó, AlphaGo thiết kế để giành chiến thắng cách chơi số lượng lớn ván cờ với chương trình khác áp dụng chiến lược chứng minh thành cơng Có thể nói AlphaGo tiến hóa để trở thành kỳ thủ cờ vây tốt giới, đạt mà chọn lọc tự nhiên hàng triệu năm để hoàn thành hai năm Eric Schmidt, chủ tịch điều hành công ty mẹ Google, chủ sở hữu AlphaGo, hăng hái ý nghĩa trí tuệ nhân tạo (AI) nhân loại Phát biểu trước trận đấu Lee AlphaGo, ơng nói nhân loại người chiến thắng, kết sao, tiến AI làm cho người thơng minh hơn, có nhiều khả hơn, “là người tốt hơn.” Có thật không? Cũng khoảng thời gian AlphaGo chiến thắng, “chatbot” Microsoft – phần mềm có tên Taylor thiết kế để đáp lại tin nhắn từ người độ tuổi từ 18 đến 24 – có trải nghiệm đáng tiếc “Tay” tự gọi mình, kỳ vọng có khả học hỏi từ tin nhắn nhận dần nâng cao khả tạo trò chuyện thú vị Không may 24 giờ, người ta dạy cho Tay ý tưởng phân biệt chủng tộc phân biệt giới tính Khi bắt đầu nói điều tích cực Hitler, Microsoft tắt chương trình xóa tin nhắn phản cảm Tơi khơng biết người biến Tay thành kẻ phân biệt chủng tộc có phân biệt chủng tộc hay không, hay nghĩ phá hoại công cụ Microsoft điều vui vẻ Dù nữa, chiến thắng AlphaGo kề cận với thất bại Taylor lời cảnh báo Giải phóng trí tuệ nhân tạo bối cảnh trị chơi với quy tắc cụ thể mục tiêu rõ ràng chuyện; giải phóng giới thực, nơi bất ổn môi trường bộc lộ lỗi phần mềm gây hệ tai hại, lại chuyện khác Trong Superintelligence (Siêu trí tuệ), Nick Bostrom, giám đốc Viện Tương lai Nhân loại Đại học Oxford, cho tắt cỗ máy trí tuệ khơng dễ tắt Tay Ơng định nghĩa “siêu trí tuệ” thứ trí tuệ “thơng minh não người gần lĩnh vực, bao gồm sáng tạo khoa học, tri thức phổ thông, kỹ xã hội.” Một hệ thống có lợi nỗ lực tắt Một số người cho không đạt siêu trí tuệ Bostrom, với Vincent Müller, đề nghị chuyên gia trí tuệ nhân tạo tính tốn thời gian khả máy móc đạt mức trí tuệ tương đương người 50% 90% Ước tính trung bình cho 50% khoảng năm 2040-50, cho 90% năm 2075 Phần lớn chun gia dự đốn trí tuệ nhân tạo đạt siêu trí tuệ vịng 30 năm sau đạt mức trí tuệ tương đương người Chúng ta khơng nên q trọng ước tính Tổng tỷ lệ phản hồi 31%, nhà nghiên cứu làm việc với trí tuệ nhân tạo có động để tăng tầm quan trọng lĩnh vực họ cách tung hô tiềm tạo kết quan trọng Triển vọng trí tuệ nhân tạo đạt siêu trí tuệ xa vời để lo lắng, đặc biệt với vấn đề cấp bách Nhưng có lý để bắt đầu nghĩ cách thiết kế trí tuệ nhân tạo để tính đến lợi ích người, sinh vật có ý thức (bao gồm máy móc, chúng sinh vật có ý thức với lợi ích riêng mình) Với xe không người lái đường California, sớm cho câu hỏi liệu lập trình máy để hành động cách có đạo đức hay khơng Khi cải thiện, xe cứu mạng sống người, chúng mắc sai lầm tài xế thực Tuy nhiên, chúng phải đối mặt với lựa chọn mạng sống Chúng có nên lập trình để tránh đâm phải đứa trẻ chạy qua đường, điều gây nguy hiểm cho hành khách chúng hay khơng? Tránh chó nào? Nếu rủi ro thiệt hại cho xe, mà khơng phải cho hành khách sao? Có lẽ có học để học thảo luận xe không người lái bắt đầu Nhưng xe không người lái sinh vật siêu trí tuệ Dạy đạo đức cho máy thông minh chúng ta, loạt lĩnh vực, nhiệm vụ khó khăn nhiều Bostrom bắt đầu Superintelligence ngụ ngôn chim sẻ nghĩ việc đào tạo cú để giúp chúng xây tổ chăm sóc chim non thật tuyệt vời Vậy nên chúng bắt đầu tìm trứng cú Một chim sẻ phản đối, cho chúng nên nghĩ cách chế ngự bọn cú; khác khơng đợi dự án thú vị tiến hành Chúng gánh vác thách thức việc đào tạo cú (ví dụ, khơng ăn chim sẻ) chúng ni thành công Nếu muốn tạo cú ngôn khoan, không thông minh, đừng chim sẻ thiếu kiên nhẫn NGUYỄN HUY HOÀNG dịch Nguồn: https://hoanghannom.com Bản gốc tiếng Anh: Peter Singer, “Can Artificial Intelligence Be Ethical?” Project Syndicate, 12/04/2016 * Peter Singer giáo sư ngành đạo đức sinh học Đại học Princeton giáo sư danh dự Đại học Melbourne