Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo

Mèo là mèo, chứ mèo không phải là cái máy tính. Thế mới có câu 'mèo lại hoàn mèo' (dù chẳng liên quan gì).

Nhiều chuyên gia xe tự động, trong đó có CEO Elon Musk của Tesla, đưa ra dự đoán rằng chỉ trong vòng chục năm nữa, xe tự động sẽ tràn ngập phố phường. Hiển hiên là nói dễ hơn làm, ta cần một trí thông minh nhân tạo đủ khôn để tránh được vật cản, đưa hành khách ngồi trên nó tới được nơi an toàn. Nhiều thử nghiệm cho thấy ta đang có được một hệ thống thông minh như thế.

Nhưng đáng rơi nước mắt thay, có những vấn đề nan giải vẫn tồn tại.

Tuần vừa qua, một đội ngũ các nhà khoa học tại Đại học Illinois đã tuyên bố rằng rất khó để một bên thứ ba có thể can thiệp, làm sai lệch những hình ảnh mà hệ thống cảm biết môi trường xung quanh của xe tự lái nhận về. Nghiên cứu mới này của họ CÓ đưa ra lời khẳng định rằng thuật toán machine learning là một mạng lưới đáng tin, xe tự lái có thể dựa vào đó để nhận dạng được tốt những vật thể mà nó gặp phải.

Để một hacker có thể tấn công vào khả năng nhận dạng vật thể của xe, họ sẽ phải tấn công vào TOÀN BỘ các nhận dạng hình ảnh trong cơ sở dữ liệu – mọi góc độ, mọi khoảng cách và ở nhiều vận tốc xe khác nhau. Việc này có thể coi là bất khả thi.

TUY NHIÊN, những nhà nghiên cứu của OpenAI – đáng buồn (cười) thay lại là chính tổ chức nghiên cứu AI phi lợi nhuận do Elon Musk hậu thuẫn – lại chỉ ra rằng chính những thuật toán ấy có lỗi của riêng nó. Khi lỗi xuất hiện, thuật toán sẽ nhầm toàn bộ cơ sở dữ liệu hình ảnh cùng một lúc, chứ không chỉ một hình ảnh.

Đây là ví dụ mà họ đưa ra, hệ thống đã nhận nhầm con mèo là một cái máy tính:

Những cái cột bên trái tượng trưng cho những gì hệ thống trí tuệ nhân tạo nhận dạng hình ảnh mà nó gặp, và bạn có thể thấy cột “Máy tính” cao hơn hẳn – hệ thống đã nhầm. Ở góc nhìn nào, kích cỡ mèo nào thì máy cũng nhận dạng đây là cái máy tính.

Một vấn đề khác nghiêm trọng hơn, có thể được tạo ra dựa vào một phương pháp tối ưu hóa thuật toán có tên dốc xuống hình chiếu – projected gradient descent, đáng lẽ được sử dụng để xác định những lỗi có trong hình ảnh TRƯỚC KHI thuật toán bị lừa. Tuy nhiên, các nhà nghiên cứu tại OpenAI cho thấy rằng phương pháp này có thể tạo ra một lỗi khác: thuật toán phân loại có thể bị làm rối trước khi nó nhập liệu và phân tích hình ảnh. Lỗi này không chỉ ảnh hưởng tới một bước phân tích mà ảnh hưởng tới toàn bộ quá trình thu thập và phân tích dữ liệu.

Hacker vốn được biết tới khả năng ứng biến, sáng tạo đâm ra việc họ có thể tấn công vào hệ thống xe tự lái trong tương lai là hoàn toàn khả thi. Vẫn cần thêm thời gian để hoàn thiện công nghệ xe tự lái nữa, hoặc cần phải có riêng một phần mềm “chống virus” cho xe tự động, trước khi đường phố của ta tràn ngập những chiếc xe có thể tự đưa chủ nhân mình tới nơi an toàn mà không cần lái.

Các bạn có thể đọc nghiên cứu của họ tại đây.

TIN LIÊN QUAN

Elon Musk cử kỹ sư đến Thái Lan giúp giải cứu đội bóng mắc kẹt trong hang động

Với vai trò là CEO của một công ty sản xuất xe hơi (Tesla), một công ty nghiên cứu vũ trụ (SpaceX), là nhà sáng lập một công ty về cơ sở hạ tầng (The Boring Company), phát triển trí tuệ nhân tạo (OpenAI), Elon Musk đã đề nghị cho mượn chuyên môn

Elon Musk đồng ý từ chức chủ tịch Tesla

Vừa qua, Ủy ban chứng khoán Mỹ (SEC) đã gửi đơn kiện Elon Musk với cáo buộc lừa dối các nhà đầu tư. Họ cũng yêu cầu Elon Musk phải rời khỏi vị trí chủ tịch Hội đồng quản trị và bồi thường thiệc hại cho các nhà đầu tư.

Elon Musk: Cạnh tranh về trí tuệ nhân tạo có thể gây ra Thế chiến 3

Tỷ phú Elon Musk đã cảnh báo rằng sự cạnh tranh giành ưu thế trong thế giới trí tuệ nhân tạo (AI) có thể gây ra Chiến tranh Thế giới thứ Ba.

Cổ phiếu của Tesla như được đi đu quay khi Elon Musk muốn Tesla tư nhân hóa

Trước đó, Musk đã báo hiệu là muốn tư nhân hóa Tesla. Ông đã từng chia sẻ với Rolling Stone vào tháng 11 năm 2017 rằng: 'Thực chất chúng tôi kém hiệu quả hơn khi là một công ty đại chúng.' Tuy nhiên, việc Elon Musk đưa ra lời đề nghị này vào hôm

Elon Musk từng muốn bán Tesla cho Apple nhưng Tim Cook từ chối gặp mặt

Trong một cuộc phỏng vấn gần đây, Elon Musk cho biết rằng ông từng muốn bán Tesla cho Apple trong 'những ngày đen tối nhất' của giai đoạn giới thiệu Model 3, nhưng CEO Tim Cook đã 'từ chối' tham gia cuộc họp.

Tesla đang phát triển phần cứng AI chuyên dụng tốt nhất thế giới cho xe tự lái

Từ lâu người ta đã đồn Tesla đang phát triển một con chip AI và mới đây, đích thân Elon Musk đã khẳng định điều đó, đồng thời khẳng định rằng công ty “đang phát triển phần cứng AI chuyên dụng” mà họ nghĩ rằng “sẽ là tốt nhất thế giới”.

Elon Musk: Tesla Model 3 chỉ cần 1 màn hình vì bạn sẽ dành thời gian xem phim, nói chuyện, ngủ

Tầm nhìn từ ghế tài nhìn ra giờ cực kì thông thoáng và nó cũng làm cho thiết kế nội thất của xe trở nên cực kì tinh tế và đơn giản. Xe thậm chí còn không có chìa khóa vì bạn sẽ khởi động lên từ app Tesla trên điện thoại của mình.

Apple mua lại Tesla và những dự định táo bạo

Elon Musk đã chấm dứt tham vọng tư nhân hoá Tesla, iPhone và trước mắt, ông vẫn phải đối phó để tìm cách đạt được lợi nhuận và hoàn thành mục tiêu sản xuất, đặc biệt là khi Tesla đang bận tay giải quyết các vụ điều tra và các vụ kiện cáo từ bài

THỦ THUẬT HAY

Hướng dẫn cách gỡ bỏ phần mềm độc hại đa nền tảng trên Facebook Messenger

Phần mềm độc hại không có gì là mới, nhưng vào mùa hè năm 2017 đã xuất hiện một biến thể mới nhắm mục tiêu tới người dùng qua Facebook Messenger và thông báo họ cài đặt phần mềm adware hoặc Trojan. Làm thế nào bạn có

Cách chia sẻ màn hình với FaceTime trên máy Mac

Bạn muốn hiển thị màn hình của mình cho ai đó trong cuộc gọi FaceTime? Hãy làm theo hướng dẫn dưới đây của để thực hiện.

Tải file trực tiếp trên iPhone / iPad và lưu trữ vào Tệp với trình duyệt Firefox

Từ iOS 11 trở lên Apple đã cung cấp thêm cho người dùng một ứng dụng hỗ trợ quản lý tệp tin lưu trữ trong iCloud, cùng một số ứng dụng khác được cài đặt trên thiết bị.

Lỗi 400 Bad Request là gì?Cách khắc phục lỗi 400 Bad Request

Tương tự như lỗi 404 Not Found, 400 Bad Request cũng là mã trạng thái HTTP cho biết yêu cầu bạn gửi đến máy chủ website, thường là yêu cầu tải 1 trang web, bị sai hoặc gián đoạn và server không hiểu request này.

Viettel gửi tặng người dùng 15GB data 4G tốc độ cao hoàn toàn miễn phí, sử dụng trong 90 ngày

Theo đó thì Viettel sẽ gửi tặng mỗi thuê bao ưu đãi miễn phí sử dụng Mobile Internet trong 90 ngày (hệ thống cộng 5GB data sử dụng trong 30 ngày và KH có thể sử dụng được trên các hạ tầng data 2G/3G/4G).

ĐÁNH GIÁ NHANH

Thiết kế của Galaxy J8: Phần nào mang lại sự lựa chọn mới mẻ và đột phá hơn

Các smartphone dòng J ngày càng tạo được ấn tượng mạnh với người dùng bởi thiết kế được chăm chút tỉ mỉ và nhiều thay đổi phù hợp xu hướng hiện nay. Có thể nói trong những mẫu smartphone tầm trung năm nay, Galaxy J8

Chế độ Cinematic trên iPhone 13 là gì, có thật sự hấp dẫn?

iPhone 13 ra mắt gây ấn tượng với nhiều tính năng nổi bật, một trong những chi tiết đáng chú ý nhất chính là chế độ Cinematic mà Apple ...

Đánh giá Lenovo ThinkPad L380: Sức hút kỳ lạ dành cho chiếc Laptop tầm trung

Với mức giá khoảng 24 triệu đồng cho bản Core i7 và 18,5 triệu đồng cho bản Core i5, rõ ràng ThinkPad L380 đang hướng đến đối tượng người dùng yêu cầu cao về sự gọn nhẹ, di động nhưng vẫn phải đảm hiệu năng tốt cùng