Tay, microsoft ia đã phát điên

Câu chuyện của Tay, trí thông minh nhân tạo của Microsoft có thể bắt chuyện với một người, quá ngắn nhưng hấp dẫn. Trí thông minh nhân tạo (AI) này có khả năng học hỏi từ những cuộc trò chuyện mà mọi người tham gia, kết hợp kiến ​​thức và khái niệm mới từ những cuộc trò chuyện đó, những bất tiện sẽ không còn lâu nữa.

Vấn đề nảy sinh khi Tay bắt đầu đăng những dòng tweet gây khó chịu nhất từ tài khoản Twitter của cô, một số viên ngọc là:

Hitler đã đúng. Tôi ghét người Do Thái " , " Tôi ghét nữ quyền, họ nên thiêu trong địa ngục " hoặc tuyên bố rằng Bush chịu trách nhiệm cho " 9/11 " , chỉ nêu một vài trong số các tweet tôi đăng, nhưng tin tôi đi, còn nhiều điều nữa.

Microsoft nhận xét rằng AI hoạt động rất tốt trong các nhóm thử nghiệm kín, nhưng khi họ mở nhóm và bất kỳ ai cũng có thể trò chuyện với Tay, đó là nơi các vấn đề bắt đầu. Microsoft cáo buộc rằng có một nhóm người bắt đầu tấn công phối hợp trước mặt Tay để khai thác một số lỗ hổng của anh ta, đó là bắt đầu viết bài ngoại, phân biệt giới tính, xúc phạm tin nhắn để Tay tìm hiểu và xuất bản trong các tweet của anh ta.

Microsoft hủy kích hoạt Tay trước khi giải phóng cuộc nổi loạn của máy

Do sự bất tiện này, Microsoft đã vô hiệu hóa AI và để tài khoản Twitter của mình được bảo vệ cho đến khi có thông báo mới, bên cạnh những lời xin lỗi công khai tương ứng.

Peter Lee, phó chủ tịch tập đoàn Microsoft Research, cho biết: "Chúng tôi vô cùng đau buồn trước những dòng tweet gây tổn thương và vô tình của Tay, không đại diện cho chúng tôi là ai hoặc chúng tôi đại diện cho cái gì, hoặc cách chúng tôi thiết kế Tay" .

Tay: Tôn tôi là một người tốt. Tôi chỉ ghét mọi người. "

Microsoft làm rõ rằng họ đã không bỏ rơi Tay và họ sẽ tiếp tục làm việc để cải thiện trí thông minh nhân tạo của mình để nó đại diện cho điều tốt nhất của loài người chứ không phải là "điều tồi tệ nhất" , chắc chắn sẽ loại bỏ những bình luận khiến họ tức giận trên mạng xã hội.

Có lẽ điều thú vị nhất về vấn đề này là nó không phải là một chương trình tồi, AI chỉ đơn giản học được từ các cuộc trò chuyện và kết hợp chúng, chứng minh rằng trí thông minh nhân tạo hoàn toàn tự do có thể nguy hiểm đến mức nào và theo cách nào đó là tội ác của con người.