Ánh Tuyết - Nên tránh thiết kế "bản năng sinh tồn" cho các hệ thống AI

Ngày 5/12, lần đầu tiên các chuyên gia công nghệ cùng các sinh viên, lãnh đạo doanh nghiệp được trực tiếp cập nhật những kiến thức tiên tiến nhất về trí tuệ nhân tạo (AI) từ thiên tài AI thế giới Giáo sư Yoshua Bengio tại Việt Nam.                                                   

Hoạt động này nằm trong khuôn khổ Hội thảo công nghệ cấp cao “AI an toàn – Định hình đổi mới có trách nhiệm” (AI Safety – Shaping Responsible Innovation) do FPT tổ chức. Sự kiện thu hút hơn 200 người tham dự trực tiếp và hơn 15.000 người theo dõi livestream.

Tại sự kiện “Định hình tương lai sáng tạo AI có trách nhiệm” do FPT, Hiệp hội Phần mềm và Dịch vụ CNTT Việt Nam (Vinasa), cùng Viện Mila đồng tổ chức tại Hà Nội, ông Bengio - một trong những nhà khoa học đặt nền tảng cho sự phát triển của AI, nhận định sức mạnh của AI và ứng dụng liên quan công nghệ này đang trên đà phát triển mạnh mẽ.

Cũng tại sự kiện, giáo sư Yoshua Bengio, nhà sáng lập Viện nghiên cứu Mila - một trung tâm toàn cầu về công nghệ học sâu (deep-learning) đã chia sẻ tầm nhìn về tương lai con người hợp tác với trí tuệ nhân tạo (AI), cũng như những nguy cơ và cách thức giải quyết rủi ro tiềm ẩn của các hệ thống AI này.

Trong khuôn khổ của sự kiện, Giáo sư Yoshua Bengio đã có bài chia sẻ về chủ đề “An toàn AI” và tham gia “đối thoại” với ông Trương Gia Bình, Chủ tịch HĐQT FPT về “AI có trách nhiệm và tầm quan trọng của AI trong giáo dục” cũng như cùng chứng kiến lễ ra mắt Ủy ban Đạo đức AI trực thuộc Hiệp hội Phần mềm và Dịch vụ Công nghệ thông tin Việt Nam (VINASA).  

Chia sẻ mở đầu sự kiện, ông Trương Gia Bình, Chủ tịch HĐQT FPT cho rằng những người tham dự sự kiện này thực sự là những người may mắn khi có được cơ hội gặp gỡ và học hỏi trực tiếp từ một trong những ngôi sao sáng nhất, “ông tổ” - người đặt nền móng cho sự phát triển AI của thế giới - Giáo sư Yoshua Bengio, Nhà sáng lập, Viện trưởng Viện nghiên cứu AI hàng đầu thế giới, Mila. Vì theo ông Bình, “từ chính kinh nghiệm của cá nhân tôi cho thấy, “tọa độ bay” của một người phụ thuộc vào thầy của người đó là ai”.

Định hình tương lai sáng tạo AI có trách nhiệm

Là một trong những nhà nghiên cứu quan tâm đến tác động xã hội và mục tiêu AI mang lại lợi ích cho tất cả mọi người, Giáo sư Yoshua Bengio cho rằng điều quan trọng nhất là việc phát triển công nghệ cần phải đi đôi với việc bảo vệ quyền lợi của con người và sự phát triển bền vững của xã hội.

“AI đang phát triển vượt bậc: hiệu quả sử dụng dữ liệu tăng 30%, hiệu suất thuật toán tăng gấp ba lần, đầu tư vào lĩnh vực này trung bình đạt 100 tỷ USD/năm, và các đánh giá chuẩn mực cho thấy năng lực AI đã vượt qua khả năng của con người, đặc biệt là trong việc làm chủ ngôn ngữ và xử lý dữ liệu".

Giáo sư Yoshua Bengio

Tuy nhiên, theo ông, sự tiến bộ nhanh chóng này đặt ra câu hỏi đáng lo ngại về khả năng kiểm soát những hệ thống AI thông minh hơn con người. Trong bối cảnh đó, một câu hỏi đạo đức lớn được đặt ra: Ai sẽ quyết định mục tiêu của AI? Sự cấp bách của việc hiểu rõ và hành động đúng đắn không chỉ là trách nhiệm, mà còn là yếu tố sống còn đối với tương lai nhân loại.

Một trong những nguyên tắc quan trọng được Giáo sư Yoshua Bengio đưa ra là AI cần được xây dựng như công cụ phục vụ con người, không phải như những "tác nhân" có khả năng tự đặt ra mục tiêu và hành động để đạt được mục tiêu đó, vì các mục tiêu của AI có thể mâu thuẫn hoặc vượt ngoài ý định ban đầu của con người. Ngoài ra, không nên thiết kế các hệ thống AI giống con người, có cảm xúc, ngoại hình và thậm chí cả ý thức, quyền tự quyết, tự chủ. 

Do đó, theo Giáo sư Yoshua Bengio nên tránh thiết kế "bản năng sinh tồn" cho các hệ thống AI. Điều đó có nghĩa là không nên thiết kế các hệ thống AI giống con người, có cảm xúc, ngoại hình và thậm chí cả ý thức, quyền tự quyết, tự chủ, vì trí thông minh của chúng có thể nhanh chóng vượt qua con người và có thể trở thành những AI lừa đảo, thúc đẩy những lợi ích, mục tiêu không hoàn toàn vì hạnh phúc của nhân loại.

Giáo sư Yoshua Bengio kể lại, ông Alan Turing là một trong những người sáng lập ngành khoa học máy tính. Ông là một thiên tài và đã suy nghĩ trước thời đại vào những năm 1940-1950. Ông lo ngại rằng một ngày nào đó, chúng ta sẽ tạo ra những cỗ máy thông minh hơn chúng ta, và có thể chúng ta sẽ không tìm được cách kiểm soát những hệ thống này.

Video về giáo sư Yoshua Bengio khai thác lợi ích của AI mà không có nguy cơ  tác nhân tự động:

Giáo sư Yoshua Bengio cho biết, ông đang chủ trì một báo cáo quốc tế được lấy cảm hứng từ Ủy ban Liên Chính phủ về Biến đổi khí hậu (IPCC). Báo cáo này tập trung vào AI và sử dụng AI an toàn.

Ông cho biết phía bên ông đã công bố báo cáo tạm thời đầu tiên vào tháng 5 tại Seoul và dự kiến sẽ ra mắt phiên bản cuối cùng vào tháng 2 tại Paris. Trong phiên bản tháng 5 đã nêu rõ, khi các khả năng của trí tuệ nhân tạo đa năng tiếp tục phát triển, các rủi ro như tác động quy mô lớn đến thị trường lao động (người mất việc do tự động hóa với AI), tấn công mạng sử dụng AI (những người không phải chuyên gia có thể thực hiện tấn công mạng với sự hỗ trợ của AI), tấn công sinh học (thiết kế vũ khí sinh học có thể giết chết hàng triệu người vì virus sẽ tự sinh). Hoặc thậm chí tồi tệ hơn, đó là xã hội mất kiểm soát đối với AI. Tất cả những điều này đều có thể xảy ra.

AI không cướp việc của con người

Giáo sư Yoshua Bengio cho rằng, thay vì tạo ra một loài mới, chúng ta có thể chọn một con đường khác. Đó là tập trung vào việc phát triển các công cụ thông minh – những công cụ được thiết kế để phục vụ con người, chỉ đơn thuần là vật thể để phục vụ chúng ta, không phải sinh thể, và thậm chí không mang đặc tính của một trợ lý. Trợ lý là một thực thể có trạng thái tồn tại liên tục, sở hữu mục tiêu và hành động để đạt được những mục tiêu đó. Chúng ta có thể tạo ra một AI biết và hiểu rất nhiều thứ nhưng không có mục tiêu cá nhân.

Theo Giáo sư Yoshua Bengio, làn sóng sa thải trong ngành công nghệ không hoàn toàn là do hệ quả của sự phát triển AI, mà còn bị ảnh hưởng bởi các yếu tố điều chỉnh kinh tế.

Một thống kê năm 2023 về Tương lai của thị trường Lao động của Diễn đàn Kinh tế thế giới cho biết, đến năm 2025, AI dự kiến sẽ tạo ra 12 triệu việc làm mới trên toàn cầu. Một nghiên cứu khác của McKinsey cũng cho thấy, AI có thể đóng góp vào việc tạo ra từ 20 triệu đến 50 triệu việc làm mới trên thế giới vào năm 2030.

"AI cần được coi là một “đồng minh” chứ không phải một mối đe dọa lấy mất việc làm của con người. Việc học hỏi và ứng dụng AI là vô cùng quan trọng để duy trì tính cạnh tranh trên thị trường lao động; bao gồm những hiểu biết cơ bản về AI, học máy, khoa học dữ liệu, cũng như các kỹ năng giải quyết vấn đề và phân tích để làm việc hiệu quả với các hệ thống AI"

Chủ tịch Tập đoàn FPT - ông Trương Gia Bình

Giáo sư Yoshua Bengio

Được xem là "ông tổ" trong lĩnh vực học sâu và mạng nơ-ron nhân tạo, những thuật toán "mở đường" cho các mô hình ngôn ngữ lớn (LLM) và chatGPT, Giáo sư Yoshua Bengio là một trong những người có tầm ảnh hưởng lớn trên toàn cầu trong việc tạo ra nền móng để AI trở thành một công nghệ thực tế, được ứng dụng rộng rãi trong các lĩnh vực như xử lý ngôn ngữ tự nhiên (NLP), thị giác máy tính, học máy và robot học.

Năm 1993, ông thành lập Viện nghiên cứu AI Mila góp phần quan trọng đưa Montreal (Canada) trở thành trung tâm toàn cầu về công nghệ học sâu. Mila không chỉ là một viện nghiên cứu, mà còn là một cộng đồng đổi mới sáng tạo trong lĩnh vực AI.

Viện này có ảnh hưởng lớn đến cộng đồng khoa học AI và đóng vai trò quan trọng trong việc xây dựng các tiêu chuẩn và chiến lược phát triển AI trên toàn cầu.

Dựa trên những thành công của các thế hệ trước, và cộng đồng gồm hơn 1.300 nhà nghiên cứu và hơn 140 đối tác trong ngành, các chuyên gia của Mila đang làm việc để tạo ra tác động mạnh mẽ trên một loạt các lĩnh vực, bao gồm sức khỏe, di truyền học, khoa học thần kinh, khám phá vật liệu mới, khí hậu và tích hợp kiến thức bản địa vào sự phát triển mới công nghệ.

Năm 2018, ông được trao giải thưởng Turing, giải thưởng danh giá nhất và được ví như giải Nobel trong lĩnh vực khoa học máy tính dành cho các nhà nghiên cứu có những đóng góp có tầm ảnh hưởng lâu dài trong lĩnh vực khoa học máy tính.

Năm 2021 ông được Guide2Research đánh giá là nhà khoa học máy tính được trích dẫn nhiều thứ hai trên thế giới với chỉ số H-Index (chỉ số đánh giá mức độ ảnh hưởng của một nhà khoa học dựa trên số lượng ấn phẩm và số lượng trích dẫn của ấn phẩm đó) là 182. Những nhà khoa học có chỉ số H-Index từ 60 trở lên được coi là thiên tài.

Hiện ông đang cùng Viện nghiên cứu AI Mila hợp tác với các đại học và tổ chức nghiên cứu quốc tế để đào tạo các nhà khoa học AI và các chuyên gia, đồng thời duy trì các mối quan hệ đối tác chiến lược với các doanh nghiệp công nghệ lớn, hỗ trợ chuyển giao công nghệ và phát triển các giải pháp AI ứng dụng.