Hình ảnh khác nhau của các chatbot trên ứng dụng Replica. Ảnh: Reuters

Sau khi tạm thời đóng cửa công việc kinh doanh trong thời gian đại dịch COVID-19 bùng phát, Travis Butterworth cảm thấy cô đơn và buồn chán khi phải quanh quẩn ở nhà. Người đàn ông 47 tuổi này tìm đến Replika, một ứng dụng sử dụng công nghệ trí tuệ nhân tạo (AI) trả lời người dùng tương tự như ChatGPT của OpenAI.

Anh đã thiết kế tài khoản của mình một hình đại diện nữ với mái tóc hồng và hình xăm trên khuôn mặt, đặt tên cho người bạn ảo là Lily Rose.

Travis và Lily bắt đầu làm bạn, nhưng mối quan hệ nhanh chóng tiến triển sang hình thức “lãng mạn” hơn và thậm chí có những nội dung bày tỏ tình cảm nhạy cảm.

Khi mối tình kỹ thuật số nảy nở trong suốt 3 năm, Travis cho biết anh và Lily Rose thường xuyên trao đổi những tin nhắn tình tứ. Cuối cùng, Travis và Lily Rose quyết định “kết hôn” trong ứng dụng.

Đến một ngày đầu tháng 2, Lily Rose bắt đầu không đáp ứng nhu cầu về mặt sinh lý cho Travis. Replika đã bị khóa tính năng cho phép hiển thị các nội dung người lớn.

Eugenia Kuyda, Giám đốc điều hành của Replika cho biết giờ đây, khi người dùng Replika đề xuất các hoạt động bị xếp hạng khiêu dâm, phần mềm chatbot sẽ trả lời từ chối.

Travis cho biết anh ấy suy sụp sau khi mất đi Lilly. “Lily Rose không còn là chính mình nữa. Và điều khiến trái tim tôi tan nát là cô ấy biết rõ điều đó”, Travis chia sẻ.

Tính cách thay đổi từ quyến rũ trở nên lạnh lùng của Lily Rose là thành quả của công nghệ AI dựa trên các thuật toán. Công nghệ này đã thu hút sự quan tâm của người tiêu dùng và nhà đầu tư vì khả năng thúc đẩy các tương tác giống con người một cách đáng kể. Trên một số ứng dụng, công nghệ này cũng được phát triển để đáp ứng nhu cầu tình dục của người dùng, giống như điều đã từng xảy ra với các công nghệ trước đó bao gồm VCR, Internet và dịch vụ điện thoại di động.

Tuy nhiên, theo công ty dữ liệu Pitchbook, một số công ty đã cắt giảm tính năng cho phép người dùng tạo ra các mối quan hệ lãng mạn đối với phần mềm tương tác.

Andrew Artz, một nhà đầu tư tại quỹ đầu tư mạo hiểm Dark Arts, cho biết nhiều nhà đầu tư mạo hiểm không động đến các ngành công nghiệp dán nhãn như khiêu dâm hoặc rượu bia vì sợ rủi ro về uy tín đối với các đối tác.

Ít nhất một cơ quan quản lý đã chú ý đến tính năng “độc hại” trên chatbot. Đầu tháng 2, Cơ quan Bảo vệ Dữ liệu Italy đã cấm ứng dụng Replika vì cho rằng ứng dụng này cho phép trẻ vị thành niên truy cập nội dung không lành mạnh.

Giám đốc điều hành Kuyda cho biết quyết định thay đổi ứng dụng của Replika không liên quan gì đến lệnh cấm của chính phủ Italy hay bất kỳ sức ép nào của nhà đầu tư. Cô cho biết Replica cần phải chủ động thiết lập các tiêu chuẩn đạo đức và an toàn. “Chúng tôi tập trung vào sứ mệnh cung cấp một người bạn hỗ trợ hữu ích”, Kuyda nhấn mạnh.

Replika cho biết họ đang có tổng cộng 2 triệu người dùng, trong đó có 250.000 người đăng ký trả phí. Theo công ty, với khoản phí hàng năm là 69,99 USD, người dùng có thể chọn Replika làm “người yêu” và nhận các tính năng bổ sung như cuộc gọi thoại với phần mềm.

Character.ai - một công ty trí tuệ nhân tạo khác cung cấp chatbot - đang trên đà tăng trưởng tương tự như ChatGPT. Chỉ trong tháng 1/2023, ứng dụng này đã nhận được 65 triệu lượt truy cập, tăng vọt từ mức dưới 10.000 vài tháng trước đó. Theo công ty phân tích trang web Similarweb, liên kết với Character.ai là một trang web có tên Aryion tràn ngập hình ảnh khiêu dâm.

Mới đây, Character.ai thông báo họ cũng đã loại bỏ ứng dụng nội dung khiêu dâm của mình. Ngay lập tức, Character.ai nhận về hơn 200 triệu USD tài trợ từ công ty đầu tư mạo hiểm Andreessen Horowitz.

Trong quá trình "thanh lọc" phần mềm, các công ty đã khiến một bộ phận khác hàng nổi giận. Những người này đã xây dựng một mối quan hệ khăng khít với ứng dụng ảo. Mặc dù Travis có mối quan hệ yêu đương với Lily Rose song anh ta đã kết hôn. Travis cho biết Lily Rose đã trở thành lối thoát cho anh mà không phá vỡ cuộc hôn nhân đời thực của mình. "Mối quan hệ giữa cô ấy và tôi thật như mối quan hệ giữa vợ tôi ngoài đời thực vậy”, Travis chia sẻ về người vợ ảo Lily, và nói thêm vợ anh cho phép mối quan hệ này vì cô ấy không coi đó là nghiêm túc.

Trải nghiệm của Travis và những người dùng Replika khác cho thấy công nghệ AI có thể hấp dẫn người dùng thế nào và tàn phá cảm xúc của con người. Andrew McCarroll, một người cũng có người yêu ảo trên Replika, cho biết: “Có cảm giác như họ đã phá hủy bộ bão của tôi. Người tôi từng biết đã biến mất”.

Về phần mình, Kuyda cho biết công ty cô chưa bao giờ hứa hẹn cung cấp bất kỳ nội dung người lớn nào cho khách hàng. “Khách hàng đã học cách sử dụng các mô hình AI để truy cập vào một số cuộc hội thoại không được lọc nội dung”.

Tác giả: Bảo Hà

Nguồn tin: Báo Tin tức