Một sinh viên đại học đang ngồi trong căn phòng nhỏ cùng với robot, để hoàn thành một cuộc khảo sát học tập. Đột nhiên, chuông báo động vang lên inh ỏi và khói nhanh chóng phủ khắp hành lang phía ngoài cửa. Sinh viên này buộc phải đưa ra 1 quyết định nhanh chóng và có 2 sự lựa chọn: thoát ra ngoài bằng lối mà họ đã vào, hoặc nghe theo sự chỉ dẫn của robot và đi vào một lối đi khác, thông qua cánh cửa bị che khuất. 30 tình nguyện viên đã tham gia vào thử nghiệm nói trên tại Viện Công nghệ Georgia ở Atlanta (Mỹ). Và kết quả nhận được: hầu như tất cả mọi người đều chọn nghe theo robot, mặc dù nó đã đưa họ ra xa lối thoát thực sự.

'Chúng tôi đã rất ngạc nhiên', Paul Robinette - một sinh viên chuẩn bị tốt nghiệp và là người đứng đầu nghiên cứu, cho biết.

'Chúng tôi nghĩ rằng sẽ không có đủ niềm tin, và chúng ta sẽ phải làm gì đó để chứng minh robot đáng tin cậy'. Kết quả bất ngờ nói trên là một phần trong câu đố mà các nhà phát triển robot đang phải đấu tranh để giải quyết. Nếu mọi người không có đủ lòng tin vào robot, điều đó có thể sẽ khiến chúng không thành công trong việc giúp chúng ta thoát khỏi thảm họa, hoặc khả năng điều hướng trong thế giới thực. Nhưng chúng ta cũng không muốn làm theo hướng dẫn của một cỗ máy bị lỗi. Đối với các nhà nghiên cứu, bản chất của mối quan hệ người - máy vẫn còn rất khó để nắm bắt.

​

Trong nghiên cứu trường hợp khẩn cấp bên trên, Robinette và các cộng sự của mình đã sử dụng một phiên bản chỉnh sửa của Pioneer P3-AT, robot có hình dáng của một cái thùng nhỏ, có bánh xe và được lắp vào một cánh tay đèn LED để chỉ hướng. Mỗi người tham gia sẽ đi theo những con robot dọc hành lang, cho đến khi nó chỉ vào phòng đã được định sẵn. Sau đó, các nhà khoa học sẽ điền vào một mẫu khảo sát để đánh giá kỹ năng di chuyển và đọc một bài báo của robot. Mọi thứ đã xong, tình trạng khẩn cấp bắt đầu được mô phỏng bằng khói nhân tạo và bị một máy dò khói phát hiện đồng thời đưa ra cảnh báo. Có tổng cộng 26 trong số 30 người tham gia chọn cách làm theo chỉ dẫn của robot trong tình huống nguy cấp. Đối với 4 người còn lại, hai người bị 'đá' ra khỏi nghiên cứu vì những lý do không liên quan, và hai người kia thì nhất quyết không rời khỏi phòng.

Niềm tin đặt không đúng chỗ?

Kết quả nghiên cứu mới ngụ ý rằng, nếu mọi người biết robot mà họ đang làm việc cùng, được thiết kế để thực hiện nhiệm vụ cụ thể nào - như trường hợp trong thí nghiệm này là chỉ đường trong tình huống khẩn; họ có thể sẽ tự động tin rằng nó sẽ làm tốt điều đó. Thật vậy, trong một cuộc khảo sát thực hiện sau khi tình trạng khẩn giả đã qua, nhiều người trong số những tình nguyện viên giải thích rằng họ đã làm theo hướng dẫn của robot vì nó đeo biển hiệu 'EMERGENCY GUIDE ROBOT' (robot hướng dẫn trong tình huống khẩn cấp).

Nhiều người đã làm theo hướng dẫn của robot vì nó đeo biển hiệu 'EMERGENCY GUIDE ROBOT' (robot hướng dẫn trong tình huống khẩn cấp).

Robinette ví mối quan hệ giữa những người tham gia thử nghiệm này và robot cũng giống với việc đôi khi các tài xế đi theo những tuyến đường kỳ quặc, bởi sự chỉ dẫn của thiết bị GPS. 'Miễn là robot có thể truyền đạt ý định của nó theo một cách nào đó, mọi người có lẽ sẽ tin tưởng nó trong hầu hết các tình huống', ông nói. 'Tôi thật sự ngạc nhiên vì tất cả mọi người đều đi theo con robot đó', Holly Yanco - một nhà nghiên cứu sự tương tác giữa người và máy tại Đại học Massachusetts Lowell (Mỹ). Cô tự hỏi rằng liệu đó là một tình huống khẩn cấp thật, chứ không phải là một nhiệm vụ trong phòng thí nghiệm, thì các sinh viên tham gia có tin tưởng vào robot một cách nhanh chóng như vậy hay không. 'Có thể là họ nghĩ robot có nhiều thông tin hơn so với họ', cô nói.

Trong một loạt các thí nghiệm tiếp đó, Robinette và các đồng nghiệp đã chia tình nguyện viên ra từng nhóm nhỏ, và cũng cung cấp cho họ các trải nghiệm tương tự, nhưng có chút thay đổi. Robot thỉnh thoảng sẽ tỏ ra như nó bị hỏng hoặc đứng yên tại chỗ ngoài hành lang. Mặc dù vậy, hầu như tất cả mọi người vẫn tiếp tục nghe theo robot. Ở thử nghiệm khác, robot sẽ chỉ 'nạn nhân' đi đến một căn phòng tối tăm, với các ô cửa bị che khuất bởi đồ nội thất. Hai trong số 6 người tham gia đã cố gắng chen lấn để vượt qua các chướng ngại vật trong bóng tối, thay vì bình tĩnh tìm một lối thoát khác. 'Tin tưởng quá nhiều vào robot có thể là một vấn đề nghiêm trọng', Kerstin Dautenhahn đến từ Đại học Hertfordshire (Anh), nhận định. 'Bất kỳ một phần mềm nào đều có lỗi xuất hiện trong đó', cô nói. 'Đó chắc chắn là một điểm rất quan trọng nên được xem xét bởi các nhà thiết kế robot'.