AI của Tesla nhầm xe ngựa với xe tải

RealRusty, YouTuber người Thụy Sĩ, nói: “Chúng tôi đang lái chiếc Model Y, Tesla trên một con đường ở Zurich thì một chiếc xe ngựa xuất hiện. Hệ thống AI của Tesla không thể vượt vật thể này vì liên tục xác định sai”.

Nội dung video cho thấy, Autopilot bị “rối loạn” liên tục khi cho rằng xe ngựa là xe tải, ôtô, người đi bộ và thậm chí là một chiếc xe tải cỡ lớn di chuyển ngược chiều. Điều này khiến xe đi chậm và không kích hoạt chế độ vượt.

Hệ thống xe Tesla có hai chế độ tự lái: Autopilot và Tự lái hoàn toàn. Autopilot là tính năng AI hỗ trợ tài xế với khả năng tự đánh lái, tăng tốc và phanh. Nó cũng được thiết kế để phát hiện chướng ngại vật phía trước hoặc xung quanh để thực hiện các hành động né tránh nếu cần.

Theo một số chuyên gia, trong trường hợp của RealRusty, hệ thống Autopilot có thể chưa được cập nhật vật thể là xe ngựa. Vấn đề liên quan đến phần mềm và có thể sẽ được Tesla bổ sung thời gian tới.

Tính năng Autopilot trên xe Tesla gây nhiều lo ngại thời gian qua. Tháng 8 năm ngoái, Cơ quan an toàn giao thông quốc gia Mỹ (NHTSA) cho biết có thể điều tra Autopilot sau khi ghi nhận ít nhất 11 sự cố kể từ 2018, trong đó một chiếc Tesla ở chế độ Autopilot đã đâm vào ôtô tại hiện trường cứu hộ của một vụ tai nạn. NHTSA nói phần lớn các vụ va chạm diễn ra vào ban đêm và liên quan tới xe cấp cứu đang nháy đèn khẩn cấp, có đèn báo và cọc tiêu giao thông.

Sau loạt  vụ tai nạn, Tesla cũng đã tuyên bố rằng tài xế phải luôn ngồi sau tay lái và chú ý ngay cả khi tính năng Autopilot được bật. Hãng cũng nhấn mạnh chế độ Tự lái hoàn toàn vẫn yêu cầu một tài xế. Trong thư gửi đến Sở Quản lý Cơ giới (DMV) California, luật sư của Tesla cũng nhấn mạnh “Autopilot và Tự lái hoàn toàn không phải hệ thống tự hành”.

Dù đã được khuyến cáo, những video ghi lại cảnh tài xế Tesla rời tay khỏi vô lăng rất lâu, ngủ gật trên tay lái hoặc không ngồi ở ghế lái, đang lan truyền mạnh mẽ trên YouTube và mạng xã hội. Bản thân Elon Musk cũng từng làm điều này khi bật Autopilot và rời tay lái trong một cuộc phỏng vấn trên truyền hình năm 2018.

Tuy còn gặp phải nhiều lỗi trên hệ thống cũng như sự chủ quan của người dùng, hồi năm ngoái công ty của tỷ phú Elon Musk đã công bố nghiên cứu tích hợp nền tảng chơi game PC Steam lên xe Tesla. Để phòng trừ những tai nạn không đáng có tháng 12/2021, Cục Quản lý An toàn Giao thông Đường cao tốc Quốc gia (NHTSA) của Mỹ đã đình chỉ tính năng Passenger Play trên xe Tesla, đồng thời tiến hành điều tra về mức độ an toàn. Vào tháng 3, Tesla gửi khiếu nại lên NHTSA nhưng chưa được phản hồi.

Theo Business Insider.