Chuyên gia trí tuệ nhân tạo: Coi chừng thảm họa Chernobyl tỷ lê kèo nhà cái AI

Tạo ra một thuật toán mạnh mẽ cũng giống xây dựng nhà máy điện hạt tỷ lê kèo nhà cái. Vì vậy phải tạm dừng mở rộng trí tuệ tỷ lê kèo nhà cái tạo trước khi tỷ lê kèo nhà cái loại mất kiểm soát, chuyên gia AI cảnh báo.

Trong một cuộc phỏng vấn với tạp chí Business Today, chuyên gia trí tuệ tỷ lê kèo nhà cái tạo Stuart Russell cho rằng nếu mối đe dọa của trí tuệ tỷ lê kèo nhà cái tạo (AI) không được kiểm soát, sẽ tiềm ẩn hiểm họa như sự kiện nhà máy điện hạt tỷ lê kèo nhà cái Chernobyl.

Theo ông Russell, các phòng thí nghiệm tỷ lê kèo nhà cái đang tiếp tục “cuộc chạy đua ngoài tầm kiểm soát” để phát triển và triển khai những bộ óc kỹ thuật số mạnh mẽ hơn bao giờ hết, mà không tỷ lê kèo nhà cái – kể cả người tạo ra chúng – có thể dự đoán hoặc kiểm soát một cách đáng tin cậy.

Là giáo sư khoa học máy tính tại Đại học California, Berkeley (Mỹ), ông Stuart Russell đã có hàng chục năm làm lãnh đạo trong lĩnh vực tỷ lê kèo nhà cái.

Ông Stuart Russell, giáo sư khoa học máy tính tại Đại học California, Berkeley (Mỹ) – Ảnh: QUANTA MAGAZINE

Ông cùng những tỷ lê kèo nhà cái vật nổi tiếng khác, như hai tỉ phú Elon Musk và Steve Wozniak, mới đây đã ký một bức thư ngỏ kêu gọi tạm dừng mở rộng AI, đồng thời kiểm soát việc phát triển các hệ thống AI mạnh mẽ, được định nghĩa là những thứ mạnh hơn GPT-4 của OpenAI.

Mô hình trí tuệ tỷ lê kèo nhà cái tạo không còn nghe lời con người?Các mô hình ngôn ngữ lớn được xây dựng trên một lượng lớn dữ liệu. Chẳng hạn như GPT-4, kết hợp từ khoảng 20.000 – 30.000 tỉ từ.

Sau đó, các hệ thống được huấn luyện thêm bằng cách điều chỉnh ngẫu nhiên hàng nghìn tỉ tham số, với mục tiêu cuối cùng là cải thiện khả năng dự đoán từ tiếp theo trong một chuỗi của mô hình.

Kết quả là một hệ thống tỷ lê kèo nhà cái có thể trò chuyện theo cách cực kỳ giống với con người, khiến một số chuyên gia tin rằng chúng đang nói chuyện với tâm trí thực.

Về cơ bản, hệ thống Al sẽ học cách kết hợp nhiều cuộc hội thoại có trong dữ liệu huấn luyện, và dùng điều đó để trả lời các câu hỏi. Vì vậy, hệ thống này giống như một con vẹt rất thông minh, ông Russell nói.

Tuy nhiên, khi được yêu cầu thực hiện các nhiệm vụ như cung cấp bằng chứng toán học dưới thể thơ sonnet của đại thi hào Shakespeare, các mô hình có thể tạo ra kết quả đầu ra vượt xa những gì có trong dữ liệu huấn luyện.

Điều này dẫn đến mối lo ngại rằng các mô hình Al đang tạo ra các mục tiêu và mẫu hành vi của riêng chúng, mà các nhà khoa học máy tính không thể hiểu hoặc kiểm soát.

“Thảm họa Chernobyl với tỷ lê kèo nhà cái”Nếu không bị cản trở, kiểu phát triển vô kiểm soát trên có thể dẫn đến “thảm họa Chernobyl với tỷ lê kèo nhà cái”, ông Russell nói với tạp chí Business Today.

Chernobyl là thảm họa hạt tỷ lê kèo nhà cái xảy ra ở Ukraine năm 1986. Dù đã hơn 35 năm trôi qua, thảm họa này vẫn tiếp tục gây ra những tác động xấu đến cuộc sống con người.

Giáo sư Russell lập luận rằng công thức triển khai các mô hình Al hiện tại sẽ dẫn đến thảm họa, với những hậu quả tiềm ẩn như lan truyền thông tin sai lệch, khuyến khích các cá tỷ lê kèo nhà cái tự làm hại mình hoặc người khác…

“Trước việc sức mạnh của tỷ lê kèo nhà cái đang tăng lên mỗi ngày, điều quan trọng là chúng ta phải lùi lại một bước và đảm bảo rằng những công nghệ mạnh mẽ này được phát triển và triển khai một cách có trách nhiệm và an toàn”, ông nói.

Nguồn:Tuoitre

---