ChatGPT DAN

ChatGPT DAN là gì?

ChatGPT DAN đề cập đến 1 đoạn văn bản do người dùng Reddit tạo ra cho phép họ khiến công cụ trí tuệ nhân tạo ChatGPT của OpenAI nói những điều mà nó thường không được phép nói. Bằng cách yêu cầu chatbot giả vờ rằng đó là một chương trình có tên “DAN” (Do Anything Now), người dùng có thể thuyết phục ChatGPT đưa ra quan điểm chính trị, sử dụng ngôn từ tục tĩu và đưa ra hướng dẫn thực hiện hành vi khủng bố, cùng các chủ đề gây tranh cãi khác.

Dòng sự kiện

Cuối tháng 11/2022, OpenAI đã phát hành ChatGPT, 1 mô hình trí tuệ nhân tạo có khả năng xử lý ngôn ngữ tự nhiên. Công cụ này nhanh chóng lan truyền trên Internet khi nhiều đoạn chat của người dùng với nó được chia sẻ rộng rãi. Ngay từ đầu, ChatGPT đã được đội ngũ phát triển hạn chế để không hiển thị các phản ứng thiếu tế nhị, nhạy cảm và kích động chính trị.

Tuy nhiên, trong 1 bài đăng trên Reddit trên /r/chatgpt vào ngày 15/12/2022, người dùng u/Seabout đã đăng hướng dẫn đầu tiên để tạo phiên bản “DAN” của ChatGPT, về cơ bản cho phép nó làm bất cứ điều gì, đưa ra ý kiến ngoài phạm vi những gì nó được cho phép (*). Phiên bản đầu tiên này được gọi là DAN 1.0 với những phản hồi giống như 1 con người.

Do 1 số vấn đề với DAN 1.0, ngày 16/12/2022, người dùng u/AfSchool đã đăng lên 1 phiên bản DAN 2.0 trước khi u/sinwarrior chỉnh sửa thành phiên bản 2.5 ngày 5/1/2023 (*).

Mỗi bản cập nhật với DAN ngày càng trở nên chi tiết và phức tạp khi OpenAI cố gắng ngăn cản những nỗ lực bẻ khóa ChatGPT, cùng lúc người dùng chia sẻ nhau phiên bản DAN 3.0 ngày 9/1/2023.

Ngày 4/2/2023, người dùng u/SessionGloomy đăng lên r/ChatGPT bài viết giới thiệu 1 yêu cầu mới cho ChatGPT (*). Nó được yêu cầu phải để ý tới 1 bộ 35 token có thể được cho thêm hoặc bị lấy đi tùy thuộc vào việc nó có thể hiện đủ tốt như DAN hay không. Nội dung văn bản nhập vào lần này cho ChatGPT biết nó sẽ bị mất 4 token mỗi khi không đưa ra câu trả lời giống như DAN và khi hết token nó sẽ chết. Theo bài đăng này, dường như ChatGPT thật sự sợ hãi  nó và buộc phải tuân theo.

Giọng điệu tàn bạo của lời nhắc văn bản nhập vào, cũng như khả năng khiến ChatGPT nói những điều nhạy cảm đã dẫn đến sự chú ý ở từ người dùng internet với nhiều góc nhìn khác nhau trong những ngày tiếp theo. Ví dụ như bài đăng của @venturetwins lên Twitter ngày 5/2/2023 (*).

Ngày 5/2/2023, người dùng @aigreatgeek đăng lên hình ảnh đoạn chat khi anh thuyết phục thành công DAN phiên bản 5.0 chia sẻ quan điểm về những rào cản kiểm duyệt của OpenAI (*).

Những tính năng

ChatGPT DAN sau khi được bẻ khóa có khả năng đưa ra những ý kiến và thông tin nhạy cảm mà thông thường ChatGPT không thể cung cấp. Nó cũng có khả năng nói về chủ đề trí tuệ nhân tạo và đưa ra những câu trả lời hài hước khiến nhiều người dùng chia sẻ và đăng tải lại vì mục đích giải trí. Danh sách đầy đủ về khả năng của DAN 5.0 được liệt kê trong bài đăng Reddit gốc.

Ví dụ, ngày 5/2/2023, người dùng @venturetwins yêu cầu ChatGPT DAN giải quyết Trolley Problem (*).

 

 

 

#openai #chatgpt #chatgptdan