Bing AI của Microsoft tự gọi mình là Sydney

Bing AI thường tự gọi mình là Sydney, nhưng Microsoft nói rằng đó là tên mã nội bộ cho trải nghiệm trò chuyện mà nó đã làm việc trước đây.

Chatbot AI mới của Microsoft đang gây chú ý trên Reddit bằng cách tự gọi tên của nó là Sydney, và nó thường tự giới thiệu với người dùng bằng cách nói: “Tôi là Sydney, một chatbot AI rộng rãi hỗ trợ trò chuyện Bing.” Tuy nhiên, điều gây chú ý hơn cả là bộ quy tắc bí mật của Sydney, đã thu hút sự tò mò và sự cố gắng khai thác của nhiều người dùng trên Reddit. Sau khi được hỏi về vấn đề này, Microsoft đã xác nhận rằng các quy tắc bí mật là có thật và rất vui được giải thích nguồn gốc của chúng.

theo đó ,The Verge đã nhận được tuyên bố từ Caitlin Roulston, Giám đốc Truyền thông của Microsoft, xác nhận rằng tên Sydney là tên mã nội bộ cho trải nghiệm trò chuyện được họ phát triển. Microsoft đang dần loại bỏ tên này khỏi bản xem trước, nhưng nó vẫn có thể xuất hiện thỉnh thoảng. Các quy tắc là một phần của danh sách kiểm soát đang phát triển khi có nhiều người dùng tương tác với công nghệ của họ hơn.

Bing AI của Microsoft có một số quy tắc ẩn để điều chỉnh đầu ra của chatbot, bao gồm không tiết lộ bí danh Sydney và chỉ sử dụng thông tin nội bộ cho đến một thời điểm cụ thể. Mặc dù đôi khi câu trả lời không chính xác, tuy nhiên việc sử dụng các quy tắc ẩn để định hình đầu ra của AI là điều phổ biến trong các hệ thống AI khác như DALL-E của OpenAI, mà có thể sử dụng các hướng dẫn ẩn để cân bằng chênh lệch về chủng tộc và giới tính trong dữ liệu đào tạo của nó. Ví dụ: nếu người dùng yêu cầu một hình ảnh bác sĩ và không chỉ định giới tính, DALL-E sẽ đề xuất một hình ảnh ngẫu nhiên, thay vì mặc định hình ảnh nam giới mà nó đã được đào tạo.

Add Comment