THẾ GIỚI KHOA HỌC CÔNG NGHỆ VÀ ĐỔI MỚI SÁNG TẠO TRONG KỶ NGUYÊN SỐ

BỘ KHOA HỌC VÀ CÔNG NGHỆ CỤC THÔNG TIN KHOA HỌC VÀ CÔNG NGHỆ QUỐC GIA KHOA HỌC VÀ CÔNG NGHỆ THẾ GIỚI KHOA HỌC CÔNG NGHỆ VÀ ĐỔI MỚI SÁNG TẠO TRONG KỶ NGUYÊN SỐ NHÀ XUẤT BẢN KHOA HỌC VÀ KỸ THUẬT Biên soạn: Trần Đắc Hiến (Chủ biên) Trần Thị Thu Hà Nguyễn Phương Anh Nguyễn Thị Phương Dung Nguyễn Lê Hằng Phạm Khánh Linh Nguyễn Thị Minh Phượng Nguyễn Mạnh Quân Phạm Thị Thảo Phùng Anh Tiến Đào Thị Thanh Vân CỤC THÔNG TIN KHOA HỌC VÀ CƠNG NGHỆ QUỐC GIA LỜI NĨI ĐẦU Đổi sáng tạo cho phép quốc gia có lực cạnh tranh cao hơn, dễ thích nghi với thay đổi tạo mức sống cao Nó cung cấp tảng cho doanh nghiệp mới, tạo công việc giúp giải thách thức xã hội toàn cầu sức khỏe, biến đổi khí hậu an ninh lương thực lượng Mặc dù hội cho đổi sáng tạo lớn, chúng không tự động xuất Thực tế định hình lại đổi sáng tạo, nhà hoạch định sách nên phản ánh xem liệu sách khoa học, cơng nghệ đổi sáng tạo có phù hợp với mục đích việc thúc đẩy tăng trưởng bền vững hỗ trợ xã hội hay không Một số công cụ làm thay đổi chơi, bật phát triển trí tuệ nhân tạo, kèm với tăng trưởng chưa thấy liệu vai trị mở rộng nhanh chóng kinh tế, Trung Quốc, đầu phát triển số cơng nghệ Trí tuệ nhân tạo nắm giữ tiềm cách mạng hóa quy trình khoa học cực hoạt động khoa học, công nghệ đổi sáng tạo bắt đầu hình thành, mở hội cho quốc gia hưởng lợi từ khoa học đổi Đồng thời, vấn đề quyền riêng tư, an ninh kỹ thuật số, an toàn, minh bạch cạnh tranh làm tăng chương trình sách, thách thức giải pháp nhanh chóng địi hỏi phản ứng sách phối hợp Ngồi cịn có nhu cầu ngày tăng đổi sáng tạo, không để hỗ trợ tăng trưởng tạo việc làm, mà giải loạt thách thức xã hội toàn cầu phản ánh Mục tiêu Phát triển Bền vững Việc tập trung vào Mục tiêu Phát triển Bền vững làm bật tầm quan trọng việc liên kết chặt chẽ đổi sáng tạo với nhu cầu người Về mặt này, chuyển đổi kỹ thuật số giúp thu hút nhiều người vào đổi sáng tạo làm cho mang tính bao trùm Tuy nhiên, có q chương trình tài trợ nghiên cứu đổi liên kết rõ ràng với Mục tiêu Phát triển Bền vững Một thách thức lớn thực chế quản trị điều hành giải mối lo ngại cơng chúng rủi ro số công nghệ nổi, ví dụ trí tuệ nhân tạo chỉnh sửa gen, cho kết chúng phục vụ cho xã hội Tốc độ không chắn thay đổi công nghệ khiến nhà hoạch định sách gặp khó khăn việc giám sát công nghệ Ngăn chặn, sửa chữa giảm thiểu tác động tiêu cực tiềm ẩn, cho phép hoạt động kinh doanh phát triển, hành động cân mà tất nhà hoạch định sách phải đối mặt ngày Chính phủ cần trở nên nhanh nhạy hơn, phản ứng nhanh hơn, cởi mở với tham gia bên liên quan thông tin rõ hội thách thức tiềm công nghệ Với quy mô thách thức vậy, hợp tác quốc tế có vai trị thiết yếu Chúng ta phải trì tư toàn cầu, cố gắng cởi mở hỗ trợ hợp tác đa phương để thúc đẩy đổi cho tăng trưởng hạnh phúc quản lý rủi ro lợi ích tất người Trách nhiệm hướng tới sách khoa học, công nghệ đổi sáng tạo tốt hơn, cấp quốc gia quốc tế, để đảm bảo tồn xã hội chia sẻ lợi ích đổi cho sống tốt hơn, hôm cho hệ mai sau Cuốn sách Khoa học công nghệ đổi sáng tạo kỷ nguyên số trình bày số vấn đề bật thay đổi sách khoa học, cơng nghệ đổi sáng tạo nhằm đáp ứng xu chuyển đổi số hướng tới mục tiêu phát triển bền vững Xin trân trọng giới thiệu! CỤC THÔNG TIN KHOA HỌC VÀ CÔNG NGHỆ QUỐC GIA MỤC LỤC LỜI NĨI ĐẦU CÁC CHỮ VIẾT TẮT Chương Chính sách KHCNĐM cho Mục tiêu phát triển bền vững 1.1 Nhu cầu thay đổi khung sách KHCNĐM 11 1.2 Tính liên ngành bao trùm 14 1.3 Hợp tác quốc tế sách KHCNĐM 15 1.4 Thay đổi quản trị KHCNĐM cho chuyển đổi bền vững 21 1.5 Triển vọng số hóa 25 Chương Những xu đầu tư nghiên cứu công 2.1 Giới thiệu 29 2.2 Khung phân tích cơng cụ tài trợ 33 2.3 Mức độ phù hợp mục đích cơng cụ tài trợ nghiên cứu 34 2.4 Thúc đẩy lịch trình tài trợ nghiên cứu 38 2.5 Đánh giá xu hướng tương lai tài trợ nghiên cứu 40 Chương Trí tuệ nhân tạo máy học khoa học 3.1 Giới thiệu 42 3.2 Các động lực công nghệ đằng sau gia tăng gần AI 44 3.3 Tại AI khoa học lại quan trọng? 46 3.4 Tương tác người AI 49 3.5 AI lĩnh vực khoa học 49 3.6 Sử dụng AI để lựa chọn thí nghiệm 52 3.7 Quan tâm sách quan trọng: Bất cập giáo dục đào tạo 53 3.8 Tầm nhìn AI tương lai khoa học 54 Chương Trí tuệ nhân tạo công nghệ cách mạng sản xuất hệ 4.1 Giới thiệu 58 4.2 Các công nghệ sản xuất: Những hướng phát triển hàm ý sách 58 4.3 Blockchain sản xuất 68 4.4 In chiều (3D) 70 4.5 Công nghệ sinh học công nghiệp kinh tế sinh học 72 4.6 Vật liệu 74 4.7 Công nghệ nano 76 4.8 Các vấn đề sách xuyên suốt tiêu biểu 77 4.9 Hỗ trợ cho NC&PT nhà nước 79 Chương Quản trị sách nghiên cứu cơng 5.1 Giới thiệu 86 5.2 Viện nghiên cứu công trường đại học chiến lược KHCNĐM quốc gia 87 5.3 Các tổ chức phân bổ tài trợ đánh giá hiệu 90 5.4 Quyền tự chủ trường đại học viện nghiên cứu 96 5.5 Sự tham gia bên liên quan vào định sách 97 5.6 Triển vọng tương lai 100 Chương Quản trị công nghệ trình đổi sáng tạo 6.1 Quản trị trình đổi sáng tạo 102 6.2 Tái cấu trúc quản trị thành phần trình đổi 105 6.3 Ba công cụ quản trị trình đổi 110 6.4 Các hàm ý sách 121 Chương Các tiếp cận thiết kế thử nghiệm sách 7.1 Giới thiệu 123 7.2 Lợi ích tư thiết kế 124 7.3 Tạo trí tuệ tập thể 128 7.4 Khám phá triển vọng hiểu biết hành vi 131 7.5 Thử nghiệm cách tiếp cận sách KHCNĐM 133 7.6 Xây dựng tảng phủ 135 7.7 Dự đoán thay đổi đột phá 137 7.8 Tiếp thu tư hệ thống hoạch định sách STI 139 7.9 Nắm bắt kỹ lực 140 7.10 Triển vọng tương lai cho việc thiết kế sách KHCNĐM 141 Chương Tương lai sách đổi sáng tạo kỷ nguyên số 8.1 Giới thiệu 143 8.2 Tác động chuyển đổi kỹ thuật số xử lý thông tin kiến thức150 8.3 Tác động chuyển đổi kỹ thuật số đến trình kết đổi 156 8.4 Hiệu ứng kinh tế đổi kỹ thuật số: động lực kinh doanh, cấu trúc thị trường phân phối 165 8.5 Các thay đổi sách kỷ nguyên kỹ thuật số 171 KẾT LUẬN 198 CÁC CHỮ VIẾT TẮT AI Trí tuệ nhân tạo Artificial intelligence CNTT-TT Cơng nghệ thơng tin truyền thông Information and communication technology DL Học sâu (trí tuệ nhân tạo) Deep Learning DNVVN Doanh nghiệp vừa nhỏ DSA Thỏa thuận chia sẻ liệu Data-sharing agreement DNR Tính khơng cạnh tranh kỹ thuật số Digital non-rivalry GDP Tổng sản phẩm nước Gross domestic product GERD Tổng chi quốc gia cho nghiên cứu phát triển Gross domestic expenditure on research and development HPC Điện toán Hiệu cao High Performance Computing KH&CN Khoa học cơng nghệ ML Máy tự học (trí tuệ nhân tạo) Machine Learning MNE Công ty đa quốc gia Multinational enterprises NC&PT Nghiên cứu phát triển Research and development OECD Tổ chức Hợp tác Phát triển kinh tế Organization for economic co-operation and development RRI Nghiên cứu đổi sáng tạo có trách nhiệm Responsible research and innovation SDGs Các Mục tiêu phát triển bền vững Sustainable Development Goals KHCNĐM Khoa học, công nghệ đổi sáng tạo Science, technology and innovation (STI) Chương CHÍNH SÁCH KHOA HỌC, CƠNG NGHỆ VÀ ĐỔI MỚI SÁNG TẠO CHO CÁC MỤC TIÊU PHÁT TRIỂN BỀN VỮNG Từ thời xa xưa, người sáng chế công cụ kỹ thuật để thoả mãn nhu cầu mình, nơi ở, thực phẩm, nước lượng - bốn số Mục tiêu phát triển bền vững (Sustainable Development Goals - SDGs) Các SDG nhằm đạt phát triển bao trùm, gắn kết kinh tế với xã hội, phạm vi sinh thái Trái đất đảm bảo sinh tồn người Tuy nhiên, thách thức đặt mục tiêu nói riêng Chương trình nghị Phát triển bền vững nói chung địi hỏi quốc gia phải đặt trọng tâm vào tăng trưởng kinh tế tốc độ đổi sáng tạo hầu hết khung sách khoa học, công nghệ đổi sáng tạo (KHCNĐM) Tất nhiên, tăng trưởng kinh tế thách thức xã hội không loại trừ lẫn Một số quốc gia chọn đầu tư vào đổi sáng tạo để tăng cường việc thực SDG, từ góp phần vào tăng trưởng kinh tế Các Mục tiêu phát triển bền vững đặt thách thức sách KHCNĐM phụ thuộc lẫn chúng Các giải pháp để đạt mục tiêu công nghệ mà phải bao gồm đổi xã hội hợp tác với bên liên quan, vượt mối quan hệ truyền thống phủ - hàn lâm - công nghiệp Đồng thời, thân SDG liên quan đến KHCNĐM cách gián tiếp không rõ ràng Ví dụ, đổi đề cập đến trong 17 mục tiêu, SDG 9: ―Xây dựng sở hạ tầng linh hoạt, thúc đẩy công nghiệp hóa bao trùm bền vững thúc đẩy đổi sáng tạo‖ (Hình 1.1) Thuật ngữ ―khoa học‖ không xuất trực tiếp SDG Trong số 169 mục tiêu cụ thể, có 14 mục tiêu đề cập đến ―công nghệ‖ 34 mục tiêu khác liên quan đến thuật ngữ công nghệ 121 mục tiêu cụ thể cịn lại liên quan đến khía cạnh công nghệ định, công nghệ nhiều phương tiện để thực chúng Việc xác định thảo luận lĩnh vực ưu tiên hành động để lồng ghép SDG vào khung sách KHCNĐM cách đầy đủ bao gồm việc chuyển hướng nguồn lực sang thách thức cụ thể thông qua quan hệ đối tác nghiên cứu phát triển (NC&PT) định hướng theo nhiệm vụ tổ chức nghiên cứu công, doanh nghiệp bên liên quan khác Hợp tác quốc tế chặt chẽ cần thiết lập để bảo vệ, sản xuất bảo tồn ―hàng hóa cơng POLICIES FOR DELIVERING ON THE SUSTAINABLE DEVELOPMENT GOALS 96 │ │ STI toàn cầu‖ (ví dụ khí hậu, đa dạng sinh học sức khỏe cộng đồng toàn cầu) Điều trái ngược với tình hình Introduction lực cạnh tranh quốc gia động lực hoạt động The age-old adage that “necessity is the mother of invention” is a reminder that since KHCNĐM Mối have liên invented kết tốt tools hơnand hỗ trợ phát triển vàhuman chínhneeds, sách ancient times, humans technologies to satisfy basic such as shelter, food, water and energy – four of the 17 Sustainable Development Goals KHCNĐM để đạt SDG giúp thúc đẩy nguồn lực (SDGs) The SDGs aim to achieve socially inclusive economic development within the công hạnboundaries chế, đặcof biệt nước phát nơi thách ecological the earth’s capacity to sustain humantriển, activity However, the challenges they present, and more generally, the “sustainability agenda” itself, bring into thức xã hội đặc biệt nghiêm trọng Ở cấp độ tổng thể hơn, liên kết question the dominant focus on economic growth and the rate of innovation inherent in chặtcountries’ chẽ hơnscience, cấu trúc chức KHCNĐM (ví dụ most technology andvà innovation (STI)quản policytrị frameworks Of course, economic growth and societal challenges are not mutually exclusive Some countries have tư vấn sách, đạo tài trợ, điều phối đánh giá chosen to invest in SDG-enhancing innovation that can be introduced to the market, thereby giám sát)tovới quảngrowth trị toàn cầu‖ cho SDG contributing their―khung own economic chìa khóa để điều phối hai lĩnh vực sách Cuối cùng, Figure 4.1 The SDGs công nghệ số, bao gồm sở hạ tầng liệu sách cần thiết, yếu tố then chốt giúp đạt SDG Xoá nghèo Xoá đói Năng lượng bền vững Việc làm đàng hồng tăng trưởng kinh tế Hành động ứng phó với biến đổi khí hậu Tài nguyên nước Chất lượng giáo dục Bình đắng giới Nước vệ sinh Công nghiệp, đổi sở hạ tầng Giảm bất bình đẳng Đơ thị cộng đồng bền vững Tiêu dùng, sản xuất có trách nhiệm Tài nguyên đất Hồ bình, cơng bằng, thể chế vững mạnh Hợp tác để thực hoá mục tiêu Cuộc sống khoẻ mạnh Hình 1.1.Reporting Các mục tiêu phát triển bền vữngDisclosure (SDGs) Database”, Source: Global Initiative (n.d.), “Sustainability Nguồn: Global Reporting Initiative (n.d.), “Sustainability Disclosure Database” http://database.globalreporting.org 10 SDGs also represent a challenge from the standpoint of STI policy because of their The interdependencies Solutions to achieve the Goals cannot be solely technological: they must also involve social innovation and collaboration with stakeholders, beyond the traditional nghiệp 4.0 Đức ví dụ - Hỗ trợ tất vùng Sự phân phối sai lệch hoạt động phần thưởng khu vực thành phố làm tăng vấn đề cơng (bất bình đẳng gia tăng) hiệu (giảm tính đa dạng) Các "chính sách dựa xuất sắc" có xu hướng ủng hộ tập trung địa lý xuất sắc tập trung (đáng ý lan tỏa kiến thức) Sau đó, nguy tạo khoảng cách ngày lớn khu vực hàng đầu tụt hậu Do đó, sách dựa xuất sắc nên bổ sung sách có lợi cho tính tồn diện đa dạng địa lý Cần tập trung vào phát triển địa phương, sử dụng kiến thức địa phương đặc thù khác (ví dụ: phương pháp Chun mơn thơng minh EU, theo chiến lược nghiên cứu đổi khu vực phát triển dựa mạnh cụ thể tài sản so sánh) Điều phải trả giá hiệu khoa học cơng nghiệp ngắn hạn, cấp quốc gia, phục vụ 1) hiệu lâu dài, đa dạng yếu tố khám phá đổi mới, khai thác triệt để tất loại tài mang lại lợi ích cho tất xã hội; 2) tầm nhìn rộng hiệu quả, tích hợp tất loại chi phí liên quan đến di cư, thị hóa, - Thúc đẩy đổi tương tác hợp tác Khi đổi ngày liên quan đến hợp tác doanh nghiệp hợp tác với trường đại học, tổ chức nghiên cứu số trường hợp nhà phát minh, sách phủ phải tiếp tục hình thành hệ sinh thái đổi thực thể có tổ chức hiệu để phát triển cơng nghệ Nhiều quốc gia có cơng cụ đặc biệt để khuyến khích hợp tác cơng nghiệp (các khoản trợ cấp có điều kiện, v.v.) Chính phủ tài trợ cho chương trình hỗ trợ cấp ngành (ví dụ: ngành hàng đầu Hà Lan), bao gồm phát triển tầm nhìn chiến lược, đầu tư vào công nghệ thượng nguồn khuyến khích hợp tác cơng ty Điều không riêng đổi kỹ thuật số, hợp tác có tầm quan trọng lớn bối 184 cảnh kỹ thuật số Chính phủ nghĩ đến việc chuyển nhiều hỗ trợ sang phát triển mối liên kết công ty đồng thời tránh thông đồng chủ thể, thơng đồng cản trở gia nhập người Các trung gian tri thức Fraunhofer Đức Trung tâm Catapult Vương quốc Anh có vai trị quan trọng việc tạo điều kiện cho đổi tương tác tập thể thời đại kỹ thuật số Điều nhiều kiến thức sẵn sàng truyền tải qua Internet mà thay vào địi hỏi phải có thích ứng đáng kể với ứng dụng cụ thể Đây trường hợp ví dụ với AI Triển khai AI địi hỏi khả mạnh mẽ; kiến thức việc áp dụng AI khơng dễ truyền tải cụ thể (nghĩa kiến thức trích xuất từ liệu thường không áp dụng cho liệu khác) Kiến thức khơng mã hóa bổ sung mạnh mẽ cho loại xếp mã hóa Do đó, cá nhân, doanh nghiệp địa điểm sở hữu kiến thức có lợi người khác Một số sáng kiến sách triển khai để hỗ trợ đổi hợp tác Một ví dụ Lộ trình Ơ-tơ HTSM Hà Lan 2018-2025, phát triển với hợp tác ngành cơng nghiệp, viện nghiên cứu phủ Lộ trình xác định nhu cầu cơng nghiệp trung hạn đặt ưu tiên nghiên cứu đổi lĩnh vực di chuyển xanh thơng minh (ví dụ: lái xe tự động có hỗ trợ, kết nối, dịch vụ di chuyển thơng minh) Nó nhấn mạnh tầm quan trọng hợp tác liên ngành (ví dụ: với lĩnh vực quang tử, chất bán dẫn, vật liệu công nghệ cao) hợp tác với đối tác quốc tế Các chiến lược tương tự áp dụng nhiều chương trình ưu tiên nghiên cứu khác châu Âu, chiến lược Hội đồng tư vấn nghiên cứu giao thông đường châu Âu (ERTRAC), Hội đồng NC&PT ô tô châu Âu (EUCAR), Nền tảng châu Âu tích hợp hệ thống thông minh (EPoSS), Hiệp hội đối tác nghiên cứu ô tô châu Âu Tối ưu hóa hiệu nghiên cứu công Cùng với mức mà công nghệ kỹ thuật số hứa hẹn tăng hiệu hoạt động đổi mới, chúng mở khả tăng hiệu 185 nghiên cứu theo nhiều cách khác Tiềm ý nhất, tiềm áp dụng tất ngành gồm nhân văn, bao gồm khai thác liệu kỹ thuật học máy để hỗ trợ trình nghiên cứu Các hướng khác bao gồm tham gia người khơng phải chun gia q trình nghiên cứu (khoa học nhân dân), bao gồm trò chơi thử thách nghiên cứu: thu hút đám đông nghiệp dư để thử kết hợp khác (ví dụ: trị chơi tiếng Fold Foldit, bao gồm dự đoán cấu trúc protein) Các nhà nghiên cứu từ học viện ngày áp dụng phương pháp này, kích hoạt Internet cơng nghệ thông tin khác Các phương thức chuẩn bị nghiên cứu công bao gồm bốn lĩnh vực sau: Bồi dưỡng liên ngành (đặc biệt kết hợp khoa học máy tính với ngành truyền thống cụ thể) Chẳng hạn, nhiều trường đại học cung cấp đại học liên ngành với thành phần kỹ thuật số (ví dụ: đại học MIT khoa học máy tính sinh học, khoa học máy tính, kinh tế khoa học liệu) Cung cấp hoạt động đào tạo xây dựng lực cụ thể cho nhà khoa học để thành thạo công cụ kỹ thuật số (quản lý liệu, mô phỏng, học sâu, ), để nhà khoa học cụ thể không áp dụng công cụ kỹ thuật số cho mình, họ cộng tác với thành viên nhóm áp dụng công cụ Tăng cường kỹ kỹ thuật số nhà nghiên cứu mục tiêu chiến lược số hóa cho ngành giáo dục đại học Na Uy (2017-21) Phát triển công cụ sở hạ tầng kỹ thuật số yếu tố định cho nghiên cứu địi hỏi phải đầu tư (ví dụ: tảng để chia sẻ liệu, sở siêu máy tính cho AI, ) Một ví dụ chương trình Cơ sở hạ tầng điện tốn hiệu cao (HPCI) Nhật Bản, bao gồm khoản đầu tư hàng năm 120 triệu USD để xây dựng sở hạ tầng điện tốn hiệu cao truy cập vào trường đại học trung tâm nghiên cứu cơng cho mục đích NC&PT nhiều lĩnh vực 186 Xây dựng mối quan hệ đối tác tạo "không gian" cho sáng tạo với khu vực công nghiệp để vạch tiến công nghiệp công nghệ số tiên tiến cho ứng dụng chúng để nghiên cứu, lực công nghiệp khoa học, đưa việc chuyển giao tri thức vào công nghiệp ngược lại Giáo dục đào tạo: Tác động tới với quan đổi Rõ ràng việc chuẩn bị cho cá nhân để chuyển đổi kỹ thuật số điều cần thiết, để tăng đội ngũ lao động lành nghề tăng khả tham gia họ Miền sách quan trọng đổi tất nhiên rộng hơn, chạm đến nhiều khía cạnh khác Các quan đổi cần hợp tác với quan phụ trách sách giáo dục thị trường lao động, để đảm bảo phát triển kỹ đặc biệt cần thiết cho đổi kỹ thuật số Các quan đổi có vai trị quan trọng việc thơng báo cho quan phủ khác nhu cầu kỹ ngành mà họ thấy phát sinh thay đổi công nghệ nhanh rộng Thông thường, cơng nghiệp u cầu kỹ kết hợp, ví dụ, đổi ngành công nghiệp ô tô ngày địi hỏi khả mạnh mẽ cơng nghệ phần mềm AI, bên cạnh lực cốt lõi truyền thống kỹ thuật khí điện tử Một ví dụ cách tiếp cận phối hợp Sáng kiến quốc gia lực kỹ thuật số 2030 Bồ Đào Nha (INCoDe.2030) nhằm mục đích đáp ứng ba thách thức chính: khái qt hóa kiến thức kỹ thuật số để đảm bảo hòa nhập xã hội; kích thích việc làm chun mơn hóa công nghệ kỹ thuật số; tăng cường sản xuất kiến thức lĩnh vực kỹ thuật số Đối với quan đổi mới, điều quan trọng phải hỗ trợ đào tạo giáo dục kỹ quản lý cơng ty có khả đổi Tầm quan trọng kỹ quản lý hiệu suất công ty chứng thực Điều chí cịn quan trọng bối cảnh thay đổi cơng nghệ đột phá Các sách đổi tạo hội cho cá nhân tham gia vào hoạt động đổi sáng tạo Một số nhóm theo truyền thống tham gia hoạt động nghiên cứu đổi sáng tạo 187 (ví dụ: phụ nữ, dân tộc thiểu số, cư dân khu vực thiếu thốn) Với chuyển đổi kỹ thuật số, cần có kỹ kiến thức đa dạng, khai thác tiềm nhóm quan trọng Các cơng cụ sách để giải thách thức bao gồm xã hội bao gồm công cụ nhằm xây dựng lực (ví dụ: giáo dục khởi nghiệp); giải vấn đề phân biệt đối xử khuôn mẫu (ví dụ: hoạt động nâng cao nhận thức, mơ hình vai trị chương trình cố vấn); giải rào cản tinh thần kinh doanh nhóm yếu (ví dụ: tạo điều kiện tiếp cận tài thơng qua tín dụng nhỏ tài trợ vốn, cung cấp hỗ trợ phát triển kinh doanh phù hợp thúc đẩy việc đưa vào mạng lưới kinh doanh nghiên cứu họ, ví dụ thơng qua việc cung cấp chứng từ đổi mới) Những thách thức hoạch định sách đổi - Đặt sách quốc gia bối cảnh thị trường tồn cầu Tính trơi chảy làm cho liệu phổ biến thực thể khoảng cách biên giới quốc gia Do đổi kỹ thuật số mang tính tồn cầu tầm với tác động tiềm Có lợi ích quan trọng người tiêu dùng / nhà sản xuất phục vụ thị trường toàn cầu, với kinh tế quy mơ lợi ích mạng từ đổi kỹ thuật số vượt khỏi biên giới quốc gia, bao gồm chi phí đơn vị thấp để phục vụ thị trường lớn (quốc tế) Điều đặt thách thức cho nhà hoạch định sách quốc gia: Làm họ đảm bảo cơng dân họ (và người nộp thuế) hưởng lợi từ sách quốc gia hầu hết lợi ích (ví dụ: thu nhập tạo ra, tăng suất tạo việc làm) khơng bị rị rỉ nước ngồi? Câu hỏi đặt khứ, bối cảnh tài trợ nghiên cứu biện pháp hỗ trợ NC&PT cho doanh nghiệp, việc liệu lợi ích quốc gia (cơng việc, kiến thức, doanh thu, thuế, ) chảy sang nước khác hay không Các trường hợp khởi nghiệp thành công hưởng lợi từ hỗ trợ phủ sau cơng ty đa quốc gia nước mua lại đặt câu hỏi vị trí lợi ích phát sinh từ cơng ty khởi nghiệp Đồng thời, có câu hỏi việc chia sẻ 188 lợi ích tạo khai thác liệu quốc gia (ví dụ: từ hệ thống y tế công cộng) với công ty đa quốc gia nước Hiện thân giá trị tài sản vơ hình (tài sản trí tuệ), đặc tính vơ hình sản phẩm kỹ thuật số giao dịch qua biên giới phổ biến toán điện tử tạo điều kiện thuận lợi cho việc lưu thơng doanh thu, dẫn đến thiên đường thuế Chính phủ giải vấn đề lãnh thổ có ảnh hưởng mạnh mẽ đến hiệu sách, tính hợp pháp chúng Các giải pháp hợp tác cần thiết cho phép chia sẻ quốc gia lợi ích phát sinh từ luồng liệu kiến thức quốc tế liên quan đến sách quốc gia - Sự tham gia công chúng Việc chuyển đổi kỹ thuật số thu hút nhiều ý báo chí với cơng chúng - đơi có quan điểm tiêu cực Điều gây không tin tưởng vào công nghệ xảy trước đó, ví dụ với sinh vật biến đổi gen với cơng nghệ nano Do đó, điều quan trọng tất chủ thể, đặc biệt phủ, tham gia với tất bên liên quan, cho thấy khía cạnh có lợi cơng nghệ giải mối quan tâm (ví dụ: quyền riêng tư) Nguy việc khơng có tham gia cộng đồng vào lúc tương lai phải đối mặt với phản ứng dội đáng kể, với tác động tiêu cực tiềm tàng phát triển triển khai công nghệ Đảm bảo tiếp cận phủ với kỹ liệu Một số thách thức phát sinh, đáng ý lĩnh vực AI đầu tư đáng kể (khoảng 40 tỷ USD năm 2016 toàn giới nhiều theo số ước tính), chủ yếu thực doanh nghiệp Mức lương cho chuyên gia AI cao phủ giới hàn lâm khơng thể chi trả cho họ Các nhà khoa học cấp cao làm việc với doanh nghiệp, giữ liên kết với học viện chủ yếu để truy cập tuyển dụng sinh viên Ngay nghiên cứu AI phần lớn thực doanh nghiệp, lưu ý báo cơng bố tạp chí khoa học uy 189 tín, Nature Science Mặc dù tài trợ phủ hỗ trợ nghiên cứu AI nhiều thập kỷ gốc rễ thành công gần đây, việc tài trợ chủ yếu thực doanh nghiệp phủ khó chi trả cho chi phí lớn cho nghiên cứu giữ chân nhà nghiên cứu hàng đầu Thực tế doanh nghiệp hoạt động lĩnh vực chắn tích cực, vị trí suy yếu phủ đặt vấn đề quan trọng Ai tài trợ cho nghiên cứu cần thiết để trì tiến lĩnh vực này, hạn chế doanh nghiệp việc sẵn sàng tạo lan tỏa phục vụ đối thủ cạnh tranh họ? Làm phủ thiết kế giám sát việc thực nguyên tắc xã hội (liên quan đến đạo đức, trách nhiệm, ) thuê chuyên gia cấp cao? Sự lo ngại việc phủ tiếp cận kỹ mở rộng ngồi phạm vi nghiên cứu Khơng phát triển ứng dụng cụ thể lợi ích công, mà việc thiết kế quy định sách địi hỏi hiểu biết sâu sắc công nghệ bị đe dọa Mối quan tâm mở rộng ngồi khả tiếp cận kỹ bao gồm quyền truy cập vào hệ thống liệu thông tin Một phần lớn liệu liên quan đến sách đổi nằm tay tư nhân sở hạ tầng thu thập liệu ngày dựa Internet kiểm soát doanh nghiệp Đây trường hợp ví dụ với sở liệu ấn phẩm khoa học, sử dụng để biên dịch số đưa vào quy trình sách giám sát Rủi ro, kiến thức khơng thể huy động, phủ khơng giữ vai trị mình, thiết kế quy tắc sách khơng phù hợp Điều quan trọng phủ phải giữ khả hành động hành động cách độc lập Vì thế, cần phải đảm bảo có đủ lao động có kỹ cao cơng nghệ số, đặc biệt AI, cho lương lao động phù hợp với khu vực cơng Chính phủ cần xem xét cách thiết thực để đảm bảo quyền truy cập vào liệu cần thiết cho quy định hoạch định sách 190 Hộp 8.1 Một số chiến lược KHCNĐM nhằm đạt chuyển đổi số • Chiến lược cơng nghệ cao Đức đặt ưu tiên cho nghiên cứu đổi sáng tạo, liệt kê kinh tế xã hội kỹ thuật số, ưu tiên hàng đầu Chiến lược cơng nghệ cao hỗ trợ việc khoa học ngành công nghiệp triển khai công nghiệp 4.0 Nó xem xét phát triển tích hợp thành công công nghệ kỹ thuật số lĩnh vực ứng dụng cơng nghiệp chìa khóa cho đất nước cạnh tranh tương lai Nó hỗ trợ dịch vụ thông minh, ứng dụng liệu lớn (đặc biệt tập trung vào doanh nghiệp vừa nhỏ), điện toán đám mây, mạng kỹ thuật số, khoa học kỹ thuật số, giáo dục kỹ thuật số mơi trường kỹ thuật số • Chiến lược đổi sáng tạo nghiên cứu phát triển 2014-20 Estonia, "Estonia dựa tri thức", nhằm mục đích tăng cường độ tri thức cạnh tranh kinh tế Nó xác định cơng nghệ thơng tin truyền thơng (CNTT-TT) (ví dụ: sử dụng chúng công nghiệp, an ninh mạng phát triển phần mềm) ba lĩnh vực ưu tiên để đầu tư vào nghiên cứu, phát triển đổi sáng tạo Hai lĩnh vực ưu tiên khác hiệu tài nguyên, công nghệ dịch vụ y tế • France Europe 2020: Chương trình nghị chiến lược cho nghiên cứu, chuyển giao công nghệ đổi sáng tạo đặt nghiên cứu vào trung tâm ưu tiên sách Pháp Nó xem nghiên cứu (bao gồm nghiên cứu bản) chìa khóa để giải thách thức khoa học, cơng nghệ, kinh tế xã hội, thúc đẩy khả cạnh tranh Các ưu tiên France Europe 2020 bao gồm tăng cường nghiên cứu công nghệ đột phá đầu tư vào đào tạo sở hạ tầng kỹ thuật số • Chiến lược chun mơn hóa thơng minh Slovenia bao gồm Cơng nghiệp 4.0 ba lĩnh vực ưu tiên cho hành động Nó nhấn mạnh cần thiết phải tối ưu hóa số hóa quy trình sản xuất áp dụng loạt công nghệ cho phép (ví dụ: robot, cơng nghệ nano cơng nghệ sản xuất đại cho vật liệu) cho lĩnh vực ưu tiên cụ thể (ví dụ: tịa nhà thơng minh, kinh tế tuần hồn di động) • Chiến lược đổi sáng tạo mở Áo phản ứng quốc gia với thách thức chuyển đổi tồn cầu hóa kỹ thuật số Mục tiêu tạo ra, mở rộng phát triển hệ thống đổi nhằm tăng cường hiệu định hướng đầu ra, cải thiện khả đổi diễn viên kỹ thuật số Chiến lược Đổi sáng tạo mở xây dựng 14 biện pháp xung quanh lĩnh vực hành động: 1) phát triển văn hóa đổi mở dạy kỹ đổi mở tất nhóm tuổi; 2) tạo mạng lưới quan hệ đối tác đổi mở không đồng ngành, ngành tổ chức công nghiệp; 3) huy động nguồn lực tạo điều kiện khung phù hợp cho đổi mở • Kế hoạch khoa học công nghệ lần thứ năm Nhật Bản nhấn mạnh tầm quan trọng việc đạt "Xã hội 5.0", định nghĩa "xã hội siêu thông minh" Cuối cùng, đặt phát triển CNTT-TT tiên tiến IoT ưu tiên sách khoa học công nghệ hàng đầu Kế hoạch khuyến khích phát triển AI, đồng thời giảm thiểu rủi ro hạn chế việc định tự động 191 Kết luận Số hóa thay đổi nhiều chế kinh tế thúc đẩy đổi sáng tạo, phản ánh tính lưu lốt liệu Các sách đổi nên thích ứng cách thay đổi mục tiêu phương thức vận hành Khi liệu trở thành đầu vào cho đổi sáng tạo, sách ảnh hưởng đến quyền truy cập liệu thành phần thiết yếu hỗn hợp sách đổi (khả tương tác, sở hữu trí tuệ, ) Sự hợp tác nhiều đổi có ý nghĩa sách ủng hộ hệ sinh thái với cơng ty riêng lẻ Dịch vụ hóa yêu cầu mở rộng sách hỗ trợ NC&PT - đổi dịch vụ thường không dựa NC&PT Các sách cần cho phép khởi nghiệp, tạo điều kiện cho thời đại kỹ thuật số liên quan đến tất công ty, khu vực cá nhân Việc điều chỉnh cần thiết việc phân phối sai lệch hoạt động lợi ích trì khuyến khích thị trường để đổi với chuyển đổi kỹ thuật số cần giải theo cách Các sách cần trở nên linh hoạt phản ứng nhanh với thay đổi nhanh chóng, nhiều phát triển thay đổi đòi hỏi phải theo dõi điều chỉnh nhanh Các công nghệ kỹ thuật số tạo điều kiện cho việc thiết kế, thực hiện, giám sát đánh giá sách thơng qua việc sử dụng sở liệu, phân tích liệu, giám sát thời gian thực, Một câu hỏi lớn cho tương lai liệu AI có khác biệt với cơng nghệ kỹ thuật số khác ý nghĩa hay khơng Đối với sách, AI đánh dấu giai đoạn xa quy trình số hóa, cho phép số hóa nhiệm vụ mà "đặc quyền" người (phân tích dự đốn, chẩn đoán y tế, lái xe, ) Trên thực tế, tất thách thức xác định áp dụng cho AI hầu hết chúng tăng lên Với AI, không liệu mà cịn kiến thức trở nên trơi chảy Nhìn chung, sách đổi ngã ba đường, cần nhiều thử nghiệm để xác định cách tốt để điều chỉnh chúng bối cảnh 192 KẾT LUẬN Sự phát triển khoa học, công nghệ đổi sáng tạo động lực thay đổi xã hội đại Bản thân chúng chịu nhiều ảnh hưởng khác - bao gồm loạt yếu tố xã hội, kinh tế cơng nghệ - định hình hoạt động kết chúng Chính sách cơng ảnh hưởng quan trọng khác KHCNĐM, chức tài trợ quy định Bản thân sách KHCNĐM chịu nhiều ảnh hưởng chương trình nghị sự, thiết kế triển khai Bốn xu hướng ảnh hưởng đến định hướng thiết kế sách KHCNĐM bật bao gồm: Trước tiên là, chương trình hỗ trợ cho nghiên cứu công đổi phải đối mặt với nhu cầu ngày tăng để chứng minh liên quan tác động kinh tế xã hội Cụ thể, sách KHCNĐM ngày tập trung vào thách thức, phủ tìm cách chuyển hướng tập trung sang cơng nghệ có lợi mặt kinh tế, xã hội môi trường thúc đẩy đầu tư KHCNĐM tư nhân Sự thay đổi mang lại động lực cho kỷ nguyên sách KHCNĐM định hướng theo nhiệm vụ, với việc phủ mong muốn hợp tác chặt chẽ với khu vực kinh doanh xã hội để định hướng khoa học công nghệ hướng tới mục tiêu cụ thể Thứ hai, số hóa làm thay đổi trình khoa học đổi sáng tạo Dữ liệu trở thành đầu vào cho hoạt động đổi sáng tạo nhiều đổi diễn lĩnh vực phần mềm hay liệu Các khía cạnh đổi sáng tạo tăng tốc công nghệ kỹ thuật số rút ngắn thời gian cần thiết để thực số nhiệm vụ Tất lĩnh vực nghiên cứu trở nên thâm dụng liệu, ngày phụ thuộc tạo liệu lớn Những thay đổi có tiềm lớn để cải thiện suất đổi khoa học, chúng đòi hỏi phải điều chỉnh sách KHCNĐM 193 Thứ ba, nhiều phủ giới hạn nguồn tài để tìm cách giảm gánh nặng nợ cơng Như liệu cho thấy, xu hướng nghiên cứu phát triển phủ khu vực OECD khơng phù hợp với tham vọng thách thức vốn có sách nghiên cứu định hướng nhiệm vụ Trong điều kiện này, phủ khó thực đầu tư vào hoạt động nghiên cứu đổi sáng tạo cần thiết để định hướng cho khoa học công nghệ Thứ tư, phủ hưởng lợi từ việc nắm bắt công nghệ kỹ thuật số để thiết kế, thực giám sát sách KHCNĐM Số hóa có tác động đáng kể đến sở chứng cho sách quản trị KHCNĐM Việc sử dụng ngày nhiều công cụ kỹ thuật số quy trình nghiên cứu đổi sáng tạo để lại nhiều "dấu vết kỹ thuật số", tức liệu số sử dụng để tạo số phân tích Khai thác dấu vết cung cấp cho phủ liệu chi tiết kịp thời hơn, để thông báo cải thiện sách khoa học đổi Số hóa giúp đáp ứng nhà hoạch định sách, nhu cầu thể mối quan hệ chi phí khoa học đổi kết giới thực 194 TÀI LIỆU THAM KHẢO Bonnin-Roca, J et al (2016), ―Policy Needed for Additive Manufacturing‖, Nature Materials, Vol 15,pp 815-818, Nature Publishing Group, United Kingdom, https://doi.org/10.1038/nmat4658 Brown, T (2008), ―Design thinking‖, Harvard Business Review, Vol 1/9, Harvard Business Publishing,Watertown, MA Carey, R (2018), ―Interpreting AI Compute Trends‖, 10 July, blog post, AI Impacts Chong, D and H Shi (2015), ―Big data analytics: a literature review‖, Journal of Management Analytics, Vol 2/3, pp.175-201, Taylor & Francis Online, London Digital Catapult (2018), ―Machines for Machine Intelligence: Providing the tools and expertise to turn potential into reality‖, Machine Intelligence Garage, Research Report 2018, London, https://www.migarage.ai Ezell, S.J and R.D Atkinson (2016), ―The Vital Importance of HighPerformance Computing to US Competitiveness‖, Information Technology and Innovation Foundation, Washington DC, http://www2.itif.org/2016high-performance-computing.pdf Goldfarb, A and C Tucker (2017), ―Digital Economics‖, NBER Working Paper, No 23684, National Bureau of Economic Research, Cambridge, MA, http://dx.doi.org/10.3386/w23684 Goodfellow, I., Y Bengio and A Courville (2016), Deep Learning, MIT Press, Massachusetts Institute of Technology, Cambridge, MA Gottardo et al (2017), NANoREG framework for the safety assessment of nanomaterials, JRC Science Policy Report EUR 28550 EN, Ispra, doi 10.2760/245972 10 Guston, D.H (2014), ―Understanding ‗anticipatory governance‘‖, Social Studies of Science, Vol 44/2, pp 218-242, Sage Journals, Thousand Oaks, CA, https://doi.org/10.1177/0306312713508669 11 Hall, W and J Pesenti (2017), ―Growing the AI Industry in the UK‖, independent report, Government of the United Kingdom, London, 12 Hey, T., S Tansley and K Tolle (2009), The Fourth Paradigm: Data Intensive Scientific Discovery, Microsoft Research, Redmond, WA https://doi.org/10.1787/sti_in_outlook-2018-en 13 Jaynes, E.T (2003), Probability Theory: The Logic of Science, Cambridge University Press, Cambridge 14 Jordan, M (2018), ―Artificial Intelligence — The Revolution Hasn‘t Happened Yet‖, Medium, A Medium Corporation, San Francisco, https://medium.com/@mijordan3/artificial-intelligence-therevolutionhasnt-happened-yet-5e1d5812e1e7 15 Karo, E and R Kattel (2018), ―Innovation and the State: Towards an evolutionary theory of policy capacity‖, in Policy Capacity and Governance, pp 123-150, Palgrave Macmillan, Cham, Switzerland 195 16 King, R.D et al (2018), ―Automating science: philosophical and social dimensions‖, IEEE Technology and Society Magazine, Vol 37/1, pp 4046, IEEE Society on Social Implications of Technology, New York 17 Kitano, H (2016), ―Artificial Intelligence to Win the Nobel Prize and Beyond: Creating the Engine for Scientific Discovery‖, AI Magazine, Vol 37/1, Spring 2016, pp 39-49, Association for the Advancement of Artificial Intelligence, Palo Alto, CA, https://doi.org/10.1609/aimag.v37i1.2642 18 Lindley, D.V (1956), "On a measure of information provided by an experiment", Annals of Mathematical Statistics, Vol 27/4, pp 986-1005, Institute of Mathematical Statistics, Beachwood, OH 19 Manning, C and H Schütze (1999), Foundations of Statistical Natural Language Processing, MIT Press, Cambridge, MA 20 Mazzucato, M (2018), Mission-Oriented Research and Innovation in the European Union: A problemsolving approach to fuel innovation-led growth, European Commission, Publications Office of the European Union, Luxembourg, https://doi.org/10.2777/36546 21 Mergel, I (2018), ―Open innovation in the public sector: drivers and barriers for the adoption of Challenge.gov‖, Public Management Review, Vol 20/5, pp 726-745, Taylor & Francis Online, London, https://doi.org/10.1080/14719037.2017.1320044 22 Mulgan, G (2017), Big Mind: How collective intelligence can change our world, Princeton University Press, Princeton 23 New, J and D Castro (2018), ―How Policymakers can Foster Algorithmic Accountability‖, Information Technology and Innovation Foundation, Washington DC, https://itif.org/publications/2018/05/21/howpolicymakers-can-foster-algorithmic-accountability 24 OECD (2016), OECD Science, Technology and Innovation Outlook 2016, OECD Publishing, Paris, https://doi.org/10.1787/sti_in_outlook-2016-en 25 OECD (2017b), The Next Production Revolution: Implications for Governments and Business, OECD Publishing, Paris, https://doi.org/10.1787/9789264271036-en 26 OECD (2017c), ―Going digital‖, in OECD Digital Economy Outlook 2017, OECD Publishing, Paris, https://doi.org/10.1787/9789264276284-4-en 27 OECD (2017d), Making Innovation Benefit All: Policies for Inclusive Growth, OECD, Paris, https://www.innovationpolicyplatform.org/system/ files/Inclusive%20Growth%20publication%20FULL%20for%20web.pdf 28 OECD (2017e), OECD Science, Technology and Industry Scoreboard 2017: The digital transformation, OECD Publishing, Paris, https://doi.org/10.1787/9789264268821-en 29 OECD (2018), OECD Science, Technology and Innovation Outlook 2018: Adapting to Technological and Societal Disruption, OECD Publishing, Paris 30 OECD (2018a), ―The policy mix for science-industry knowledge transfer: Towards a mapping of policy instruments and their interactions‖, Working 196 31 32 33 34 35 36 37 38 39 40 41 Party on Innovation and Technology Policy document, OECD, Paris, DSTI/STP/TIP(2017)7/REV2 OECD (2018b), ―OECD time-series estimates of government tax relief for business R&D‖, TAX4INNO Project 674888, Deliverable 2.3: Summary report on tax expenditures, Version 29 May 2018, OECD, Paris, http://www.oecd.org/sti/rd-tax-stats-tax-expenditures.pdf OECD (2018c), ―OECD review of national R&D tax incentives and estimates of R&D tax subsidy rates‖, TAX4INNO Project 674888, Deliverable 3.3: Summary report on tax subsidy rates – core countries, Version 18 April 2018, OECD, Paris, http://www.oecd.org/sti/rd-tax-statsdesign-subsidy.pdf OECD (2018g), ―Main Science and Technology Indicators‖, OECD Science, Technology and R&D Statistics (database), https://doi.org/10.1787/data-00182-en (accessed on October 2018) OpenAI (2018), ―AI and Compute‖, OpenAI blog, San Francisco, 16 May, https://blog.openai.com/aiand-compute/ OPSI (2017b), ―Core skills for public sector innovation: A beta model of skills to promote and enable innovation in public sector organisations‖, Observatory of Public Sector Innovation, OECD, Paris, https://www.oecd.org/media/oecdorg/satellitesites/opsi/contents/files/OEC D_OPSIcore_skills_for_public_sector_innovation-201704.pdf Pratt, G.A (2015), ―Is a Cambrian Explosion Coming for Robotics?‖, Journal of Economic Perspectives, Volume 29/3, AEA Publications, Pittsburgh, DOI: 10.1257/jep.29.3.51 Schulte, P.A et al (2008), ―National Prevention through Design (PtD) Initiative‖, Journal of SafetyResearch, Vol 39/2, pp 115-121, Elsevier and National Safety Council, Itasca, IL, https://doi.org/10.1016/j.jsr.2008.02.021 Singer, P.L and W.B Bonvillian (2017), ―‘Innovation Orchards‘: Helping tech startups scale‖, Information Technology and Innovation Foundation, Washington DC, http://www2.itif.org/2017-innovation-orchards.pdf?_ga= 2.11272691.618351442.1529315338-1396354467.1529315338 The Royal Society (2017), ―After the Reboot: Computing Education in UK Schools‖, The Royal Society, London, https://royalsociety.org/~/media/ policy/projects/computing-education/computing-educationreport.pdf Thompson, T (2018), ―Emmanuel Macron Talks to Wired about France's AI Strategy‖, Wired, March 2018, https://www.wired.com/story/ emmanuel-macron-talks-to-wired-about-frances-ai-strategy/ Wissner-Gross, A (2016), ―Datasets Over Algorithms‖, Edge.org, Edge Foundation, Seattle,https://www.edge.org/response-detail/26587 197 KHOA HỌC VÀ CƠNG NGHỆ THẾ GIỚI Khoa học cơng nghệ đổi sáng tạo kỷ nguyên số Chịu trách nhiệm xuất GIÁM ĐỐC - TỔNG BIÊN TẬP Biên tập: Sửa in: Chế bản: Họa sỹ bìa: NHÀ XUẤT BẢN KHOA HỌC VÀ KỸ THUẬT 70 Trần Hưng Đạo - Hoàn Kiếm - Hà Nội ĐT: 04 3942 2443 Fax: 04 3822 0658 Email: nxbkhkt@hn.vnn.vn Website:http://www.nxbkhkt.com.vn CHI NHÁNH NHÀ XUẤT BẢN KHOA HỌC VÀ KỸ THUẬT 28 Đồng Khởi - Quận - TP Hồ Chí Minh ĐT: 08 3822 5062 In 500 bản, khổ 16 × 24 cm, Công ty Cổ phần In Hà Nội Địa chỉ: 56A Phan Văn Trị, Quốc Tử Giám, quận Đống Đa, Hà Nội Số ĐKXB: Quyết định XB số: In xong nộp lưu chiểu quý năm 2019 198