Các chuyên gia của Group-IB nhấn mạnh rằng ngày càng có nhiều nhân viên tận dụng Chatbot để tối ưu hóa công việc của họ, có thể là phát triển phần mềm hoặc giao tiếp kinh doanh. Theo mặc định, ChatGPT lưu trữ lịch sử truy vấn của người dùng và phản hồi của trí tuệ nhân tạo (AI). Do đó, việc truy cập trái phép vào tài khoản ChatGPT có thể làm lộ thông tin bí mật hoặc nhạy cảm, từ đó có thể bị lợi dụng cho các cuộc tấn công có chủ đích nhằm vào các công ty và nhân viên của họ. Theo những phát hiện mới nhất của Group-IB, các tài khoản ChatGPT đã trở nên phổ biến đáng kể trong các diễn đàn ngầm trong thời gian gần đây.

“Nhiều doanh nghiệp đang tích hợp ChatGPT vào quy trình hoạt động của họ. Do ứng dụng này sẽ giữ lại tất cả các cuộc hội thoại, điều này có thể vô tình cung cấp một kho thông tin tình báo nhạy cảm cho những kẻ đe dọa nếu chúng có được thông tin đăng nhập tài khoản”,  Dmitry Shestakov, Trưởng phòng Tình báo mối đe dọa tại Group-IB cho biết.

Phân tích của Group-IB cho thấy phần lớn nhật ký chứa tài khoản ChatGPT đã bị phần mềm đánh cắp thông tin Raccoon tấn công. Mức độ phổ biến ngày càng tăng của chatbot do AI cung cấp thể hiện rõ qua sự gia tăng nhất quán của các tài khoản ChatGPT bị xâm nhập mà nhóm Tình báo về mối đe dọa của Group-IB quan sát được trong suốt năm qua.

Các phần mềm gián điệp, đánh cắp thông tin đã trở nên phổ biến trong giới tội phạm mạng nhờ các khả năng thu thập thông tin đăng nhập được lưu trong trình duyệt, chi tiết thẻ ngân hàng, thông tin ví tiền điện tử, cookie, lịch sử duyệt web và các thông tin khác từ trình duyệt được cài đặt trên máy tính bị nhiễm, sau đó gửi tất cả dữ liệu này về máy chủ kiểm soát của tin tặc. Bên cạnh đó, nó cũng có thể thu thập dữ liệu từ các ứng dụng trò chuyện, nhắn tin và email, cùng với thông tin chi tiết về thiêt bị của nạn nhân.

Group-IB cho biết thông tin đăng nhập được phát hiện trong các nhật ký đánh cắp thông tin được rao bán trên dark web. Công ty an ninh mạng này chia sẻ rằng khu vực châu Á - Thái Bình Dương chứng kiến số lượng tài khoản ChatGPT bị đánh cắp thông tin nhiều nhất (40,5%) trong khoảng thời gian từ tháng 6/2022 đến tháng 5/2023.

Top 10 quốc gia có số lượng tài khoản ChatGPT bị xâm phạm cao nhất

Ngoài ra, một số quốc gia khác có nhiều thông tin đăng nhập ChatGPT bị xâm phạm nhất bao gồm: Pakistan, Brazil, Việt Nam, Ai Cập, Mỹ, Pháp, Maroc, Indonesia và Bangladesh. Dữ liệu của Group-IB chỉ ra rằng số lượng nhật ký ChatGPT bị đánh cắp đã tăng đều đặn theo thời gian, với gần 80% tất cả nhật ký đến từ phần mềm độc hại Raccoon, tiếp theo là Vidar (13%) và Redline (7%).

Để giảm thiểu những rủi ro này, người dùng nên cập nhật mật khẩu thường xuyên và triển khai biện pháp xác thực hai yếu tố (2FA) để ngăn chặn các cuộc tấn công chiếm đoạt tài khoản. Bằng cách bật 2FA, người dùng được yêu cầu cung cấp mã xác minh bổ sung, thường được gửi tới thiết bị di động trước khi truy cập vào tài khoản ChatGPT của họ.