Trải nghiệm của Butterworth và những người dùng Replika khác cho thấy công nghệ dựa trên AI sáng tạo có thể hấp dẫn người dùng thế nào. Nhưng chúng cũng chứa khả năng tàn phá cảm xúc của con người.
Nhiều người sử dụng chatbot AI để nhắn tin khiêu dâm nhờ khả năng tương tác như thật, tuy nhiên điều tồi tệ sẽ đến nếu nhà phát triển loại bỏ khả năng này.