Sơ lược lại chuyện Facebook vô hiệu 2 con chatbot*
Vào cuối tháng 7 vừa rồi, cả thế giới đã rúng động vì chuyện 2 hệ thống AI của Facebook tự động tự ra ngôn ngữ riêng để giao tiếp với nhau.
Được biết, thay vì sử dụng tiếng Anh như được lập trình thì chúng lại tự chế ra một loại tiếng Anh theo ngữ pháp lạ hoắc mà con người, bao gồm các chuyên gia không thể đọc và hiểu được.
Independent kể lại: Trước hết, con AI tên Bob đã bắt chuyện với chatbot Alice bằng câu 'i can ii everything else'. Ngay lập tức, con còn lại đọc hiểu và hồi đáp là:
'balls have zero to me to me to me to me to me to me to me to me to' rồi cứ thế 2 cái máy học này vô tư trao đổi với nhau theo cấu trúc lặp từ khó hiểu cho đến khi Facebook quyết định vô hiệu hoá chúng.
Sau khi thông tin này được đăng tải, tỷ phú Elon Musk đã chê ông chủ Facebook là 'không thể hiểu về AI vì kiến thức quá hạn hẹp”.
Trong khi đó thì các nhà nghiên cứu AI, chẳng hạn như ông Dhruv Batra lại cảnh báo là 'dần dà, các máy chatbot dạng này sẽ di chuyển ra xa ngôn ngữ mà con người kiến tạo cho chúng và sẽ sử dụng các quy tắc riêng mà chỉ bản thân chúng mới hiểu để thay thế vào'.
Còn đối với một số người yêu thích hay cuồng phim viễn tưởng, chuyện 2 AI Facebook tự giao tiếp theo phương thức riêng chính là tiền đề bàn tán. Là một minh chứng sơ khai cho những giả thuyết rằng robot sẽ được và tự phát triển cực thịnh cho đến khi chủ động chống lại con người.
Thế thì, chuyện như phim viễn tưởng liệu có xảy ra?
Như đã nói, ngay sau khi phát hiện dấu hiệu 'phản bội' của 2 chatbot, Facebook đã vô hiệu hoá và quyết định chỉ cho chạy lại khi đảm bảo chúng chỉ còn dùng duy nhất tiếng Anh (bao gồm cả lúc tự nói chuyện với nhau).
Động thái này của trang mạng xã hội lớn nhất hành tinh được cộng đồng và các trang tin 'giật gân' và cho là họ đang quá sợ hãi trước động thái lạ đời này của máy học hiện đại.
Tuy nhiên, theo chia sẻ của chuyên gia phần mềm Douglas Robertson, đây không hẳn là một sự cố mà chỉ đơn thuần là một 'chuyện ngày thường ở huyện'.
Ông cho biết: 'Thật ra, Bob và Alice chỉ đang làm theo những gì mà chúng được lập trình nhưng theo một cách mà chúng cho là nhanh hơn thôi. Điều này đã từng xảy ra trên khá nhiều máy AI khác trong mọi lĩnh vực từ kinh doanh, dân sự cho đến quân sự.
Cách mà 2 con AI này nói chuyện cũng giống như mấy biệt ngữ xã hội mà chúng ta hay dùng trên mạng hay trong một nhóm người nhất định nào đó' (ví dụ như 'vi diệu', 'clgt' hay tiếng Việt bằng teencode của mấy bạn tuổi teen).
Một minh chứng cụ thể hơn về vấn đề này chính là AI bên trong 'chị' Google Translate.
Theo Douglas Robertson: Chị Google Dịch hiện cũng đang sử dụng một mạng lưới thần kinh tương tự như Bob với Alice.
Mà trong đó, khi gặp các ngôn ngữ lạ chưa từng tiếp xúc, bà chị này sẽ tự sử dụng một loại ngôn ngữ 'nhân tạo trung gian' (tất nhiên con người cũng không thể hiểu) để có thể dịch tốt, thậm chí sửa lại cho đúng nếu bạn có gõ sai.
Thế nên rõ ràng chuyện 2 chatbot tự nói chuyện bằng ngôn ngữ riêng là hoàn toàn có thể hiểu và nó không có gì là nguy hiểm.
Chúng chỉ nguy hiểm khi được thiết lập với một vai trò khác (không phải là chatbot), chẳng hạn như làm phẫu thuật, chiến đấu hay thả vũ khí sinh học,...
Nhìn chung, tạm thời mọi thứ vẫn còn nằm trong tầm kiểm soát của con người nhưng còn tương lai thì khó nói trước.
Một phần là vì có quá nhiều công ty đã và đang tham gia nghiên cứu AI và không phải ai cũng chịu công bố thử nghiệm của họ ra công chúng. Phần còn lại là do AI đang ngày một thông minh và hoàn hảo hơn những gì chúng ta có thể đoán.
Thế nên theo bạn, kịch bản nào sẽ xảy ra trong tương lai? Cùng comment chia sẻ bên dưới với mình và mọi người nhé!
* Trong bài có sử dụng hình ảnh từ The Next Web, Diginomica, CNNMoney, YouTube & TechCrunch.
Xem thêm: Neuralink là gì? Neura Lance là gì? Chúng có liên quan gì đến AI?
Biên tập bởi Tech Funny
