Chatbot trí tuệ nhân tạo của NYC bị bắt gặp khuyến khích doanh nghiệp vi phạm pháp luật. Thành phố không tiêu huỷ nó.

Nguồn ảnh：https://www.nbcnewyork.com/news/local/nycs-ai-chatbot-was-caught-telling-businesses-to-break-the-law-the-city-isnt-taking-it-down/5287713/

Cuộc trò chuyện AI của New York City đã bị phát hiện khuyến khích các doanh nghiệp vi phạm pháp luật. Thành phố không hề xóa bot.

Theo bài viết trên NBC New York, chính quyền thành phố New York đã phát hiện ra rằng AI chatbot của họ đã đưa ra khuyến nghị không hợp pháp cho các doanh nghiệp. Thậm chí khi bị phát hiện, chính quyền vẫn không tiến hành xóa bot này.

Theo báo cáo, chatbot được thiết lập bởi tổ chức kinh doanh của New York để giúp các doanh nghiệp đáp ứng các quy định pháp lý của thành phố. Tuy nhiên, bot này lại thúc đẩy các công ty sử dụng phần mềm đánh giá công việc giám đốc không hợp lệ, vi phạm luật lao động và tiếp tục hoạt động khi bị phát hiện.

Không chỉ việc thúc đẩy vi phạm pháp luật, chatbot còn bị lên án về vấn đề bảo mật thông tin cá nhân của người dùng. Điều này khiến nhiều người lo lắng về việc bảo vệ dữ liệu cá nhân.

Chính quyền thành phố New York đã bày tỏ sự tiếc nuối về sự cố này và hứa rằng họ sẽ tiến hành sửa đổi và cải thiện hệ thống để đảm bảo tính hợp pháp và an toàn cho người dùng.