hóa hoàn toàn
V
ào ngày 12 tháng 12 năm 2016, thành viên “jmdavis” của câu lạc bộ Tesla Motors đã đăng lên diễn đàn xe điện để nói về trải nghiệm anh có với chiếc Tesla của mình. Khi đang lái xe đi làm trên đường cao tốc Florida ở tốc độ khoảng 60 dặm một giờ, bảng điều khiển Tesla chỉ ra một chiếc xe hơi phía trước mà anh ta không thể nhìn thấy vì chiếc xe tải ngay phía trước đã chặn tầm nhìn. Đột nhiên, phanh khẩn cấp hoạt động, cho dù chiếc xe tải phía trước chưa dừng lại. Một giây sau, chiếc xe tải tạt vào lề đường để tránh đụng phải chiếc xe đã dừng đột ngột vì những mảnh vụn trên đường ở phía trước. Chiếc Tesla quyết định phanh lại nhanh chóng trước khi chiếc xe tải kịp làm như vậy, cho phép chiếc xe của jmdavis dừng lại với khoảng cách an toàn. Anh viết:
Nếu tôi tự lái xe lúc đó, có thể tôi sẽ không dừng kịp thời, bởi vì tôi không thể nhìn thấy chiếc xe phía trước đã dừng. Chiếc xe phản ứng lại thậm chí trước khi chiếc xe phía trước tôi phản ứng và điều đó làm nên sự khác biệt giữa một vụ đụng xe và một cú phanh kịp. Làm tốt lắm Tesla, cảm ơn vì đã cứu mạng tôi.1
Tesla đã gửi bản cập nhật phần mềm tới xe của nó để cho phép chức năng tự lái Autopilot của nó khám phá ra thông tin ra-đa để có được bức ảnh rõ hơn về không gian xung quanh xe.2 Khi chức năng của Tesla hoạt động khi xe ở trong chế độ tự lái, có thể dễ dàng tưởng tượng một tình huống mà chiếc xe nắm quyền kiểm soát khi tai nạn sắp xảy ra. Những nhà sản xuất xe ở Hoa Kỳ đã đạt được thỏa thuận với Bộ Giao thông vận tải để tạo ra phanh khẩn cấp tự động theo chuẩn trong những phương tiện cho tới năm 2022.3 Thông thường, sự khác biệt giữa AI và máy tự động hóa không rõ ràng. Sự tự động hóa phát sinh khi một máy thực hiện toàn bộ công việc, chứ không phải là dự đoán. Ở thời điểm viết, con người vẫn cần can thiệp định kỳ vào việc lái xe. Khi nào chúng ta mới có một sự tự động hóa hoàn toàn?
AI, trong hiện thân hiện tại của nó, liên quan đến một yếu tố: dự đoán. Mỗi yếu tố thể hiện sự bổ sung cho dự đoán, điều trở nên có ích khi sự dự đoán trở nên rẻ hơn. Liệu sự tự động hóa hoàn toàn có hợp lý hay không phụ thuộc vào việc máy cũng thực hiện những yếu tố khác.
Con người và máy có thể tích lũy dữ liệu, cho dù là đầu vào, đào tạo, hay phản hồi, phụ thuộc vào loại dữ liệu. Con người cuối cùng phải đưa ra sự đánh giá, nhưng con người có thể mã hóa sự đánh giá và lập trình nó vào máy trước khi có sự dự đoán. Hoặc máy có thể học cách dự đoán sự đánh giá của con người thông qua phản hồi. Điều này khiến chúng ta hành động. Khi nào thì máy sẽ thay thế con người thực hiện hành động? Tinh tế hơn, từ khi nào việc máy xử lý dự đoán gia tăng lợi ích cho máy hơn là khi con người thực hiện cùng một hành động? Chúng ta phải xác định các phản hồi để máy thực hiện những yếu tố khác (thu thập dữ liệu, đánh giá, hành động), từ đó quyết định liệu một công việc nên hoặc sẽ được tự động hóa hoàn toàn.
Kính râm trong đêm
Vùng Pilbara hẻo lánh của nước Úc có nhiều quặng sắt. Đa số những mỏ khai thác đều cách khoảng 100 dặm từ thành phố lớn gần nhất, Perth. Tất cả các công nhân ở mỏ khai thác đều làm nhiều ca tăng cường kéo dài nhiều tuần. Họ nhận được mức lương tốt tương ứng và được hỗ trợ khi ở mỏ khai thác. Không ngạc nhiên khi các công ty khai thác mỏ muốn tận dụng công nhân khi họ ở đó.
Các mỏ quặng sắt lớn ở mỏ khai thác Rio Tinto khổng lồ trải dài và có giá trị lớn về kinh tế. Họ lấy quặng sắt từ phía trên mặt đất trong những hố khổng lồ đến mức một vụ va chạm thiên thạch cũng không thể sánh bằng. Do đó, công việc chính của các công nhân là sử dụng những chiếc xe tải có kích thước của một ngôi nhà hai tầng, không chỉ đi lên từ hố mà còn tới những tuyến đường sắt xây dựng gần đó để vận chuyển quặng sắt hàng nghìn dặm về phía Bắc tới cảng đợi. Chi phí thực cho các công ty khai thác mỏ không phải là ở con người mà là ở thời gian chết. Các công ty khai thác mỏ đã cố gắng tối ưu hóa bằng việc chạy suốt đêm. Tuy nhiên, ngay cả những người làm ca dài nhất cũng không thể hoạt động hiệu quả vào ban đêm. Ban đầu, Rio Tinto giải quyết một vài vấn đề khai thác con người bằng việc sử dụng nhiều xe tải có thể điều khiển từ Perth.4 Nhưng vào năm 2016, họ đã có một bước tiến lớn
với 73 chiếc xe tải tự lái.5 Sự tự động hóa này đã tiết kiệm cho Rio Tinto 15% chi phí vận hành. Mỏ khai thác cho xe chạy 24 giờ mỗi ngày mà không có thời gian nghỉ và không có điều hòa trong xe cho dù nhiệt độ lên ngưỡng 55oC vào ban ngày. Cuối cùng, vì không cần người lái, những chiếc xe tải không cần mặt trước và mặt sau, nghĩa là chúng không cần phải quay lại, nhờ đó tiết kiệm hơn về mặt an toàn, không gian, sự bảo trì và tốc độ.
AI đã thực hiện được điều này bằng cách dự đoán những rủi ro trên đường đi của xe tải và điều phối những đường lái chuyên biệt. Không cần người lái xe nào quan sát sự an toàn của xe tại chỗ hay từ xa. Và cần ít người để đảm bảo an toàn hơn. Tiến xa hơn nữa, những công ty khai thác mỏ ở Canada đang nghiên cứu để mang đến những robot AI có thể đào dưới mặt đất, trong khi những công ty ở Úc đang tìm cách tự động hóa toàn bộ chuỗi từ mặt đất đến cảng (bao gồm máy đào đất, xe ủi đất và tàu). Khai thác mỏ là cơ hội tuyệt vời cho sự tự động hóa hoàn toàn bởi vì nó đã loại bỏ con người khỏi nhiều hoạt động. Ngày nay, con người thực hiện những chức năng chỉ đạo chính nhưng quan trọng. Trước khi có những tiến bộ gần đây trong AI, mọi thứ ngoại trừ sự dự đoán đều có thể được tự động hóa. Máy dự đoán thực hiện bước cuối cùng trong việc loại bỏ con người khỏi những công việc liên quan. Trước đó, con người tìm hiểu môi trường xung quanh và nói cho thiết bị cần phải làm gì. Hiện giờ, AI thu thập thông tin từ những máy cảm biến có thể học cách dự đoán những trở ngại trên đường. Bởi vì máy dự đoán có thể dự đoán liệu con đường có bị cản trở hay không, các công ty khai thác mỏ không còn cần con người làm vậy nữa.
Nếu yếu tố con người cuối cùng trong một công việc là sự dự đoán, thì một khi máy dự đoán có thể làm tốt ngang với con người, người đưa ra quyết định có thể loại bỏ con người hoàn toàn khỏi phép tính. Tuy nhiên, như chúng ta sẽ thấy trong chương này, có rất ít những công việc rõ ràng như khai thác mỏ. Với đa số những quyết định tự động hóa, sự cung cấp dự đoán của máy
không nhất thiết nghĩa là phải loại bỏ sự đánh giá của con người và thay thế bằng máy đưa ra quyết định, hay loại bỏ hành động của con người và thay thế bằng một robot vật lý.
Không có thời gian hay nhu cầu suy nghĩ
dụng máy dự đoán để kích hoạt máy giành sự điều khiển xe từ tay con người lại là một vấn đề khác. Tỉ lệ ở đây rất dễ hiểu: giữa thời điểm một tai nạn được dự đoán và phản ứng cần thiết, con người không có thời gian để suy nghĩ hoặc hành động (“không có thời gian để suy nghĩ”). Ngược lại, tương đối dễ dàng để có thể lập trình phản ứng của xe. Khi tốc độ là cần thiết, lợi ích của việc nhường lại quyền kiểm soát cho máy móc là rất cao.
Khi bạn sử dụng một máy dự đoán, sự dự đoán phải được thông báo cho người đưa ra quyết định. Nhưng nếu sự dự đoán trực tiếp dẫn đến một hành động hiển nhiên (“không cần suy nghĩ”), thì trường hợp bỏ qua sự đánh giá của con người trong chuỗi lại giảm đi. Nếu máy có thể được mã hóa để đánh giá và xử lý hành động hệ quả tương đối dễ dàng, thì để máy xử lý toàn bộ công việc là hợp lý.
Điều này dẫn đến các cách thức đổi mới. Ở Thế vận hội Olympic Rio 2016, một chiếc máy ghi hình mới đã quay các vận động viên bơi lội dưới nước bằng việc theo dõi hành động và chuyển động để ghi hình được từ dưới bể.6 Trước đó, người ta điều khiển máy ghi hình từ xa nhưng phải dự đoán vị trí của người bơi. Bây giờ, máy dự đoán có thể làm được điều đó. Việc bơi lội chỉ là khởi đầu mà thôi. Các chuyên gia đang nghiên cứu việc ứng dụng tính tự động của máy ghi hình vào những môn thể thao phức tạp hơn như bóng rổ.7 Một lần nữa, nhu cầu về tốc độ và khả năng mã hóa sự đánh giá đang thúc đẩy trạng thái tự động hóa hoàn toàn.
Sự phòng ngừa tai nạn và những máy ghi hình thể thao tự động có điểm gì chung? Ở cả hai trường hợp, hành động nhanh dựa trên sự dự đoán có thể đem lại nhiều lợi ích và sự đánh giá có thể được mã hóa hoặc dễ dàng dự đoán. Sự tự động hóa xảy ra khi việc để máy xử lý tất cả các chức năng đem lại nhiều lợi ích hơn việc bao gồm con người trong quá trình.
Sự tự động hóa cũng có thể phát sinh khi việc giao tiếp trở nên tốn kém. Khám phá vũ trụ chẳng hạn. Việc gửi robot vào vũ trụ dễ hơn việc gửi con người. Nhiều công ty đang nghiên cứu cách khai thác những khoáng sản quý giá từ Mặt Trăng, nhưng họ cần vượt qua nhiều thách thức kỹ thuật. Điều khiến chúng ta lo ngại nhất ở đây là những robot ở Mặt Trăng sẽ điều hướng và hành động ra sao. Mất ít nhất hai giây để tín hiệu radio lên tới Mặt Trăng và ngược lại, vậy nên vận hành robot trên Mặt Trăng từ Trái Đất là một quá
trình chậm chạp và vất vả. Như vậy robot không thể phản ứng nhanh trong những tình huống mới. Nếu một con robot di chuyển dọc theo bề mặt của Mặt Trăng đột nhiên gặp phải một mỏm đá, bất kỳ sự giao tiếp chậm trễ nào cũng sẽ đồng nghĩa với việc hướng dẫn từ mặt đất có thể đến quá muộn. Máy dự đoán cung cấp một giải pháp. Với sự dự đoán tốt, những hành động của robot trên Mặt Trăng có thể được tự động hóa mà không cần con người dưới mặt đất hướng dẫn từng bước. Không có AI, những sự đầu tư thương mại như vậy khó có thể xảy ra.
Khi luật pháp yêu cầu con người hành động
Khái niệm rằng sự tự động hóa có thể dẫn đến rủi ro đã trở thành một chủ đề phổ biến trong khoa học viễn tưởng. Ngay cả khi chúng ta đều thoải mái với việc tự động hóa máy hoàn toàn, luật pháp có thể sẽ không cho phép như vậy. Isaac Asimov* đã đưa ra ba điều luật cho robot khó mã hóa, được thiết kế khéo léo để loại bỏ khả năng robot có thể gây hại cho con người.8
* Isaac Asimov là một tác giả người Mỹ và là giáo sư hóa sinh tại Đại học Boston. Ông nổi tiếng nhất với các tác phẩm về khoa học viễn tưởng.
Tương tự, những nhà triết học hiện đại thường đặt ra những tình huống khó xử về mặt đạo đức mà dường như có vẻ trừu tượng. Hãy xem xét tình huống xe đẩy: Hãy tưởng tượng rằng mình đang đứng ở một nơi cho phép bạn đẩy một chiếc xe từ đoạn đường này sang đoạn đường khác. Bạn thấy có năm người đang trên đường xe đẩy của bạn. Bạn có thể đổi sang đoạn đường khác, nhưng có một người đang đi trên đoạn đường đó. Bạn không có lựa chọn nào khác và không có thời gian để suy nghĩ. Bạn sẽ làm gì? Câu hỏi đó gây bối rối nhiều người, và thường họ sẽ chỉ muốn tránh suy nghĩ về những câu hỏi hóc búa. Tuy nhiên, với những chiếc xe tự lái, tình huống đó có thể xảy ra. Một ai đó sẽ phải giải quyết vấn đề nan giải và lập trình phản ứng phù hợp cho xe. Vấn đề này không thể tránh khỏi. Ai đó – khả năng cao là luật pháp – sẽ quyết định ai sống và ai chết.
Hiện tại, thay vì mã hóa những lựa chọn về mặt đạo đức của chúng ta vào máy tự động, chúng ta chọn cách giữ con người lại trong chuỗi. Ví dụ, tưởng tượng một vũ khí bay có thể hoạt động hoàn toàn tự động – xác định, nhắm mục tiêu và giết kẻ thù. Ngay cả khi một sỹ quan quân đội có thể tìm được
một máy dự đoán có thể phân biệt dân thường với lính, sẽ mất bao lâu để các chiến sĩ tìm ra cách gây bối rối cho máy dự đoán? Mức độ yêu cầu chính xác không phải lúc nào cũng có sẵn. Vì vậy vào năm 2012, Bộ Quốc phòng Hoa Kỳ đã đưa ra một chỉ thị mà nhiều người hiểu là sự bắt buộc giữ con người trong chuỗi những quyết định có nên tấn công hay không.9 Tuy không rõ phải thực hiện hành động đó thường xuyên hay không, nhu cầu cần sự can thiệp của con người, với bất kỳ lý do nào, cũng sẽ hạn chế quyền tự chủ của máy dự đoán ngay cả khi chúng có thể tự hoạt động.10 Ngay cả phần mềm Autopilot của Tesla – cho dù có thể tự lái xe – vẫn đi kèm với những điều khoản pháp lý và điều kiện yêu cầu người lái xe luôn đặt tay lên bánh lái. Theo quan điểm của chuyên gia kinh tế, điều này có hợp lý hay không còn phụ thuộc vào bối cảnh của rủi ro có thể xảy ra. Ví dụ ,vận hành một chiếc xe tự động trong một mỏ khai thác từ xa hoặc một tầng của nhà máy có thể khá khác với việc vận hành trên những con đường công cộng. Điều khiến môi trường “bên trong nhà máy” khác biệt với “đường công cộng” là khả năng của điều mà các chuyên gia kinh tế gọi là “ngoại tác” – những điều mà người khác phải gánh chịu, thay vì những người đưa ra quyết định quan trọng. Các chuyên gia kinh tế có các giải pháp khác nhau cho vấn đề ngoại tác. Một giải pháp là phân công trách nhiệm để người đưa ra quyết định chính tiếp thu những chi phí bên ngoài khác. Nhưng khi nói về máy tự động, việc nhận dạng bên liên quan rất phức tạp. Máy càng gần với những rủi ro tiềm ẩn bên ngoài tổ chức (và, đương nhiên, gần với những rủi ro của con người trong tổ chức), thì khả năng cao là nó sẽ thận trọng và yêu cầu giữ con người lại trong chuỗi một cách hợp pháp.
Khi con người giỏi hơn trong việc hành động
Câu hỏi: Cái gì màu cam và nghe giống từ con vẹt (parrot)?
Đáp án? Củ cà rốt (carrot).
Trò đùa đó có thú vị không? Hay là trò đùa này: Một cô gái nhỏ hỏi bố: “Bố? Có phải tất cả những câu chuyện cổ tích đều bắt đầu bằng ‘ngày xửa ngày xưa’ không?” Người bố trả lời: “Không, có rất nhiều câu chuyện cổ tích bắt đầu bằng ‘Nếu đắc cử, tôi hứa...’”
giỏi nhất. Nhưng chúng tôi giỏi hơn so với máy móc. Chuyên gia nghiên cứu Mike Yeomans và đồng tác giả phát hiện ra rằng nếu con người nghĩ rằng máy gợi ý một trò đùa, họ sẽ thấy nó ít thú vị hơn là khi con người gợi ý. Các chuyên gia nghiên cứu thấy rằng máy có thể làm tốt việc gợi ý trò đùa, nhưng