Giới khoa học, các nhà quản lý lo ngại AI phát triển với tốc độ chóng mặt có thể dẫn tới nhân loại đánh mất quyền kiểm soát đối với công nghệ này, gây ra những hệ lụy khôn lường. Nhu cầu cấp bách là phải tăng cường năng lực phối hợp quốc tế, nhằm ngăn chặn nguy cơ.
AI mang lại tiềm năng to lớn trong việc thúc đẩy phát triển bền vững, nâng cao hiệu quả học tập và làm việc, củng cố hệ thống y tế, tăng cường khả năng thích ứng biến đổi khí hậu... Tuy nhiên, ngày càng nhiều người trực tiếp phát triển công nghệ này lên tiếng cảnh báo rằng tốc độ phát triển của AI đang vượt xa sự hiểu biết của con người về các rủi ro.
Sự phát triển của AI đang bước sang một giai đoạn mới, khi các hệ thống không còn chỉ trả lời câu hỏi hay tạo nội dung theo yêu cầu, mà ngày càng có khả năng tự lập kế hoạch, sử dụng công cụ và thực hiện chuỗi hành động với mức độ can thiệp của con người thấp hơn. Bước chuyển này đang làm thay đổi căn bản cuộc tranh luận về an toàn và kiểm soát AI.
Trong bối cảnh các chính phủ, doanh nghiệp và giới công nghệ đặc biệt quan tâm đến chủ quyền số, an ninh mạng và quản trị AI, GovTech 2026 diễn ra tại Nam Phi, dành sự quan tâm đặc biệt về vấn đề kiểm soát AI khi tốc độ tiến hóa của công nghệ này đang đặt ra những câu hỏi nghiêm túc về các rủi ro trong tương lai, đồng thời nhấn mạnh sự cần thiết của một mô hình quản trị nhằm vừa bảo vệ lợi ích của công chúng, vừa đủ linh hoạt để thích ứng với thay đổi công nghệ.
Các cuộc tranh luận về AI giờ đây không chỉ giới hạn trong thung lũng Silicon mà lan rộng ra phạm vi toàn cầu. Những cảnh báo về AI đã được các nhà lãnh đạo ở châu Âu đưa ra ở mức độ nghiêm trọng khác nhau, song cùng hướng tới việc kêu gọi tăng cường kiểm soát công nghệ này. Thủ tướng Tây Ban Nha Pedro Sanchez mới đây lên tiếng cảnh báo về những hậu quả tàn khốc nếu con người mất kiểm soát với AI. Ông đã trình bày một kế hoạch 12 tháng nhằm hướng tới “một hợp đồng xã hội mới cho AI” ở Tây Ban Nha với sự hợp tác của xã hội dân sự. Thỏa thuận này phải mang lại sự an toàn cho người dân trước những thay đổi trong công việc và cuộc sống mà công nghệ này sẽ tạo ra.
Trong chương trình Chủ tịch Nhóm các nền kinh tế phát triển và mới nổi hàng đầu thế giới (G20) năm 2027 của Anh, Thủ tướng Anh Andy Burnham cho biết, nước này sẽ đặt AI vào trọng tâm, với nỗ lực xây dựng một bộ nguyên tắc và tiêu chuẩn thống nhất nhằm tăng cường tính minh bạch và khả năng tiếp cận cần thiết để các nước nâng cao năng lực ứng phó những thách thức liên quan đến AI.
Nhiều nhân vật hàng đầu trong ngành AI ủng hộ việc tăng cường hợp tác, điều chỉnh và làm chậm quá trình phát triển của công nghệ này. Ông Yoshua Bengio, nhà khoa học máy tính người Canada, người từng đoạt giải thưởng Turing năm 2018, cùng nhà tiên phong AI khác là Geoffrey Hinton thậm chí còn nhận định, nhân loại đang dần “mất kiểm soát” đối với AI, đồng thời nhấn mạnh sự cần thiết phải thiết lập các biện pháp bảo vệ với quy mô và tham vọng tương đương như những cơ chế kiểm soát vũ khí hạt nhân.
Trước nhu cầu cấp bách phải thiết lập các công cụ kiểm soát AI, Tổng Thư ký Liên hợp quốc Antonio Guterres cho rằng, cần có sự phối hợp quốc tế nhằm bảo đảm AI vận hành an toàn, minh bạch, có trách nhiệm. Đây không chỉ là câu chuyện giữa các công ty công nghệ hay các nhà quản lý mà còn là vấn đề của các doanh nghiệp, giới nghiên cứu, các tổ chức quốc tế và xã hội dân sự.
https://nhandan.vn/thiet-lap-co-che-kiem-soat-ai-post990611.html?gidzl=Or4wDioxO3PXJ3CsmgLZCcj4CZpV_3LjTKHbOjxyP6rrHZS-sQSnFt8RDZdRyMSuU1yzFp6QsM8toBjjD0