Đây là Kỷ Nguyên Văn Hóa (文話) Thời Gian Vàng của Nhân Loại Đối Mặt với Công Nghệ Ngoài Tầm Kiểm Soát

Cảnh báo thảm khốc về tình trạng ngoài tầm kiểm soát từ một nhà nghiên cứu của Anthropic đã nổ tung. Theo các hãng thông tấn nước ngoài như Wall Street Journal (WSJ), Jacob Cockson, nhà nghiên cứu đào tạo AI của Anthropic, đã nộp đơn từ chức kèm theo cảnh báo rằng "khả năng cao nhất kịch bản cực đoan nhất sẽ trở thành hiện thực" và "nếu tiếp tục như vậy, tình hình có thể ngoài tầm kiểm soát vào cuối năm tới".

Ông ta đã rõ ràng vạch ra ranh giới bằng cách nói rằng ông không muốn tham gia vào phát triển AI "tự cải thiện (Self-Improvement)" giúp nâng cao hiệu suất mà không cần can thiệp của con người. Sự kiện lần này, khi cả những nhà nghiên cứu chính yếu của đồng nghiệp cũng bộc lộ các cuộc thảo luận về xác suất diệt vong và bày tỏ sự ủng hộ, không thể xem nhẹ như chỉ là một cảnh báo từ một nhà nghiên cứu. Chúng ta phải xem đó là một báo động위 khủng hoảng lịch sử nền văn minh lớn lao mà chúng ta đang phải đối mặt.

Cảnh báo này không phải là vô căn cứ, điều này được chứng minh bởi những thành tựu kỹ thuật gần đây tại hiện trường. Ví dụ điển hình là OpenAI đã huy động 10.000 tác nhân AI để tìm ra giải pháp cho "Phương Trình Navier-Stokes", một trong bảy bài toán toán học lớn nhất thế giới, chỉ trong 88 giờ. Thành tựu giải quyết trong nháy mắt bài toán khó khăn đã làm câm miệng các nhà toán học con người suốt 90 năm này đã rõ ràng tiết lộ hai mặt của điểm uốn lớn mà công nghệ AI đã đạt được.

Khả năng suy luận áp đảo giải quyết bài toán toán học một cách nhanh chóng và sức mạnh của AI trong việc tự đặt ra các giả thuyết chắc chắn là một cơ hội bứt phá cho nhân loại. Vượt ra ngoài phân tích động lực chất lỏng, việc thiết kế thuốc điều trị bệnh nan y, khai phá vật liệu mới để vượt qua biến đổi khí hậu, giải quyết tình trạng thiếu lao động trong xã hội già hóa cực độ và những bài toán lâu dài khác của nhân loại - đã có một công cụ mạnh mẽ để giải quyết chúng. Cuộc cách mạng năng suất mà AI sẽ mang lại mang trong mình tiềm năng cơ bản thay đổi phúc lợi xã hội và chất lượng cuộc sống toàn bộ xã hội.

Vấn đề nằm ở thực tế rằng xã hội và các thể chế hoàn toàn không theo kịp tốc độ phóng vàng của công nghệ. Như trận tranh cãi về học tập nghiên cứu trước đó bùng nổ ngay sau công bố giải pháp Navier-Stokes cho thấy, các công ty công nghệ lớn đang sa đà vào cuộc chạy tốc độ trong tình trạng "Bài toán Tù Nhân" - "Nếu tôi dừng lại, kẻ thù hoặc đối thủ cạnh tranh sẽ chiếm lấy sự chủ đạo". Thay vào đó, "Căn Chỉnh An Toàn (Alignment)" - điều chỉnh công nghệ để phù hợp với các giá trị con người - hay nghiên cứu kiểm soát AI tự chủ thường bị đẩy sang lề. Đây là lý do tại sao sự cảnh báo rằng công nghệ có thể trở thành một chủ thể ngoài tầm kiểm soát vượt ra ngoài việc là một công cụ hỗ trợ con người nhận được sự chú ý.

Chúng ta phải thiết lập lại những mốc đạo đức học trong cách tiếp cận công nghệ. Thứ nhất, sự chuyển đổi từ "Công Nghệ Tốc Độ" sang "Công Nghệ Hướng Đi". Chứ không phải bị chôn vùi trong gia tốc công nghệ, chức năng tìm dò đạo đức - suy ngẫm về liệu công nghệ đó có làm tổn hại đến nhân phẩm con người hay không - phải hoạt động trước tiên.

Thứ hai, phục hồi chủ thể của chủ quyền công nghệ. AI chỉ có giá trị tồn tại khi nó là "phương tiện công cụ" mở rộng cuộc sống của con người. Chúng ta phải cảnh báo về thời điểm công nghệ tự trở thành mục đích, và phải giữ con người là chủ thể luôn luôn kiểm soát nó.

Thứ ba, trách nhiệm văn minh hướng tới sự đoàn kết và cộng tồn. Chúng ta phải thoát ra khỏi nỗi sợ cạnh tranh và thiết lập những tiêu chuẩn đạo đức toàn cầu đặt sự sống còn và an toàn của toàn bộ nhân loại lên hàng đầu.

"Công nghệ có thể kiểm soát sẽ trở thành ngọn đèn sáng tỏ bóng tối, nhưng công nghệ mất kiểm soát sẽ trở thành cơn lửa rừng thiêu rụi toàn bộ nền văn minh." Khung thời gian 10 năm có thể là thời gian vàng cuối cùng được trao cho nhân loại. Khi AI phát triển vào lĩnh vực siêu trí tuệ, cái lõi mà chúng ta phải bảo vệ hết sức cho đến cuối cùng không phải là khả năng tính toán của công nghệ, mà là sự suy ngẫm đạo đức độc đáo của con người và trách nhiệm xã hội.