Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo

Mèo là mèo, chứ mèo không phải là cái máy tính. Thế mới có câu 'mèo lại hoàn mèo' (dù chẳng liên quan gì).

Nhiều chuyên gia xe tự động, trong đó có CEO Elon Musk của Tesla, đưa ra dự đoán rằng chỉ trong vòng chục năm nữa, xe tự động sẽ tràn ngập phố phường. Hiển hiên là nói dễ hơn làm, ta cần một trí thông minh nhân tạo đủ khôn để tránh được vật cản, đưa hành khách ngồi trên nó tới được nơi an toàn. Nhiều thử nghiệm cho thấy ta đang có được một hệ thống thông minh như thế.

Nhưng đáng rơi nước mắt thay, có những vấn đề nan giải vẫn tồn tại.

Tuần vừa qua, một đội ngũ các nhà khoa học tại Đại học Illinois đã tuyên bố rằng rất khó để một bên thứ ba có thể can thiệp, làm sai lệch những hình ảnh mà hệ thống cảm biết môi trường xung quanh của xe tự lái nhận về. Nghiên cứu mới này của họ CÓ đưa ra lời khẳng định rằng thuật toán machine learning là một mạng lưới đáng tin, xe tự lái có thể dựa vào đó để nhận dạng được tốt những vật thể mà nó gặp phải.

Để một hacker có thể tấn công vào khả năng nhận dạng vật thể của xe, họ sẽ phải tấn công vào TOÀN BỘ các nhận dạng hình ảnh trong cơ sở dữ liệu – mọi góc độ, mọi khoảng cách và ở nhiều vận tốc xe khác nhau. Việc này có thể coi là bất khả thi.

TUY NHIÊN, những nhà nghiên cứu của OpenAI – đáng buồn (cười) thay lại là chính tổ chức nghiên cứu AI phi lợi nhuận do Elon Musk hậu thuẫn – lại chỉ ra rằng chính những thuật toán ấy có lỗi của riêng nó. Khi lỗi xuất hiện, thuật toán sẽ nhầm toàn bộ cơ sở dữ liệu hình ảnh cùng một lúc, chứ không chỉ một hình ảnh.

Đây là ví dụ mà họ đưa ra, hệ thống đã nhận nhầm con mèo là một cái máy tính:

Những cái cột bên trái tượng trưng cho những gì hệ thống trí tuệ nhân tạo nhận dạng hình ảnh mà nó gặp, và bạn có thể thấy cột “Máy tính” cao hơn hẳn – hệ thống đã nhầm. Ở góc nhìn nào, kích cỡ mèo nào thì máy cũng nhận dạng đây là cái máy tính.

Một vấn đề khác nghiêm trọng hơn, có thể được tạo ra dựa vào một phương pháp tối ưu hóa thuật toán có tên dốc xuống hình chiếu – projected gradient descent, đáng lẽ được sử dụng để xác định những lỗi có trong hình ảnh TRƯỚC KHI thuật toán bị lừa. Tuy nhiên, các nhà nghiên cứu tại OpenAI cho thấy rằng phương pháp này có thể tạo ra một lỗi khác: thuật toán phân loại có thể bị làm rối trước khi nó nhập liệu và phân tích hình ảnh. Lỗi này không chỉ ảnh hưởng tới một bước phân tích mà ảnh hưởng tới toàn bộ quá trình thu thập và phân tích dữ liệu.

Hacker vốn được biết tới khả năng ứng biến, sáng tạo đâm ra việc họ có thể tấn công vào hệ thống xe tự lái trong tương lai là hoàn toàn khả thi. Vẫn cần thêm thời gian để hoàn thiện công nghệ xe tự lái nữa, hoặc cần phải có riêng một phần mềm “chống virus” cho xe tự động, trước khi đường phố của ta tràn ngập những chiếc xe có thể tự đưa chủ nhân mình tới nơi an toàn mà không cần lái.

Các bạn có thể đọc nghiên cứu của họ tại đây.

TIN LIÊN QUAN

Elon Musk cử kỹ sư đến Thái Lan giúp giải cứu đội bóng mắc kẹt trong hang động

Với vai trò là CEO của một công ty sản xuất xe hơi (Tesla), một công ty nghiên cứu vũ trụ (SpaceX), là nhà sáng lập một công ty về cơ sở hạ tầng (The Boring Company), phát triển trí tuệ nhân tạo (OpenAI), Elon Musk đã đề nghị cho mượn chuyên môn

Elon Musk đồng ý từ chức chủ tịch Tesla

Vừa qua, Ủy ban chứng khoán Mỹ (SEC) đã gửi đơn kiện Elon Musk với cáo buộc lừa dối các nhà đầu tư. Họ cũng yêu cầu Elon Musk phải rời khỏi vị trí chủ tịch Hội đồng quản trị và bồi thường thiệc hại cho các nhà đầu tư.

Elon Musk: Cạnh tranh về trí tuệ nhân tạo có thể gây ra Thế chiến 3

Tỷ phú Elon Musk đã cảnh báo rằng sự cạnh tranh giành ưu thế trong thế giới trí tuệ nhân tạo (AI) có thể gây ra Chiến tranh Thế giới thứ Ba.

Cổ phiếu của Tesla như được đi đu quay khi Elon Musk muốn Tesla tư nhân hóa

Trước đó, Musk đã báo hiệu là muốn tư nhân hóa Tesla. Ông đã từng chia sẻ với Rolling Stone vào tháng 11 năm 2017 rằng: 'Thực chất chúng tôi kém hiệu quả hơn khi là một công ty đại chúng.' Tuy nhiên, việc Elon Musk đưa ra lời đề nghị này vào hôm

Elon Musk từng muốn bán Tesla cho Apple nhưng Tim Cook từ chối gặp mặt

Trong một cuộc phỏng vấn gần đây, Elon Musk cho biết rằng ông từng muốn bán Tesla cho Apple trong 'những ngày đen tối nhất' của giai đoạn giới thiệu Model 3, nhưng CEO Tim Cook đã 'từ chối' tham gia cuộc họp.

Tesla đang phát triển phần cứng AI chuyên dụng tốt nhất thế giới cho xe tự lái

Từ lâu người ta đã đồn Tesla đang phát triển một con chip AI và mới đây, đích thân Elon Musk đã khẳng định điều đó, đồng thời khẳng định rằng công ty “đang phát triển phần cứng AI chuyên dụng” mà họ nghĩ rằng “sẽ là tốt nhất thế giới”.

Elon Musk: Tesla Model 3 chỉ cần 1 màn hình vì bạn sẽ dành thời gian xem phim, nói chuyện, ngủ

Tầm nhìn từ ghế tài nhìn ra giờ cực kì thông thoáng và nó cũng làm cho thiết kế nội thất của xe trở nên cực kì tinh tế và đơn giản. Xe thậm chí còn không có chìa khóa vì bạn sẽ khởi động lên từ app Tesla trên điện thoại của mình.

Apple mua lại Tesla và những dự định táo bạo

Elon Musk đã chấm dứt tham vọng tư nhân hoá Tesla, iPhone và trước mắt, ông vẫn phải đối phó để tìm cách đạt được lợi nhuận và hoàn thành mục tiêu sản xuất, đặc biệt là khi Tesla đang bận tay giải quyết các vụ điều tra và các vụ kiện cáo từ bài

THỦ THUẬT HAY

Cập nhật ngay Trend mới: Hẹn hò với người nổi tiếng trên Facebook

Trong những ngày gần đây, mạng xã hội Facebook đang có một trend khá thú vị đó là tạo một sự kiện đang hẹn hò với người nổi tiếng, giúp trang cá nhân trở nên thú vị hơn.

Cách chia sẻ màn hình Zoom trên máy tính cực kỳ đơn giản

Chia sẻ màn hình trong Zoom cực kỳ đơn giản. Bạn có thể dễ dàng chia sẻ toàn bộ màn hình của mình tới mọi người trong phòng.

Cập nhật ngay iOS 11.2 beta 5 để cải thiện hiệu năng

Phiên bản cập nhật iOS 11.2 beta 5 này chủ yếu tập trung vào cải thiện hiệu năng cho thiết bị. Có thể đây là bản beta cuối cùng trước khi Apple tung ra bản chính thức.

Hướng dẫn cách khắc phục lỗi 3G thường gặp trên iPhone SE nhanh gọn nhất

Vào một ngày đẹp trời, bỗng nhiên iPhone SE của bạn không thể kết nối 3G làm bạn không thể truy cập internet mỗi khi không có Wi-Fi. Đồng nghĩa với việc bạn không thể sử dụng các ứng dụng hấp dẫn như FaceBook, Zalo,

ĐÁNH GIÁ NHANH

Đánh giá thiết kế HTC U12+: Đẹp, ấn tượng và rất khác biệt

HTC U12+ vẫn đi kèm hộp lớn hình vuông dạng dẹt quen thuộc từ thời HTC One M7 cách đây tới 5 năm. Phiên bản trong bài viết này sẽ là bản Xanh trong suốt, bản màu sắc độc nhất của HTC U12+. Bên trong hộp màu trắng, có

Đánh giá Range Rover Velar R-Dynamic SE P250 - The Avant-garde Range Rover!

Leonardo da Vinci đã có một câu danh ngôn bất hủ: “Simplicity is the ultimate sophistication” (Sự đơn giản cũng là sự tinh tế tột cùng), và đó là triết lý thiết kế tột bậc mà nhiều nhà thiết kế đã, đang và sẽ theo