Ngày 21 tháng 2 năm 2025, OpenAI thông báo đã xóa bỏ các tài khoản người dùng từ Trung Quốc và Triều Tiên, do nghi ngờ họ sử dụng công nghệ AI của công ty cho các mục đích độc hại, bao gồm giám sát và thao túng dư luận. Công ty cho biết, các hoạt động này có thể được các chế độ độc tài sử dụng để chống lại Hoa Kỳ cũng như chính công dân của họ. OpenAI đã sử dụng các công cụ AI để phát hiện và ngăn chặn những hành vi này. Tuy nhiên, công ty không tiết lộ số lượng tài khoản bị xóa hoặc khoảng thời gian cụ thể của hành động này. Trong một trường hợp, người dùng đã sử dụng ChatGPT để tạo ra các bài báo bằng tiếng Tây Ban Nha với nội dung chống Mỹ, được xuất bản trên các phương tiện truyền thông chính thống ở Mỹ Latinh dưới tên của một công ty Trung Quốc. Trong một trường hợp khác, các tác nhân có thể liên quan đến Triều Tiên đã tạo ra hồ sơ và sơ yếu lý lịch giả mạo nhằm mục đích lừa đảo xin việc tại các công ty phương Tây. Ngoài ra, một số tài khoản ChatGPT có liên quan đến một hoạt động lừa đảo tài chính có trụ sở tại Campuchia đã sử dụng công nghệ của OpenAI để dịch và tạo bình luận trên các nền tảng truyền thông xã hội như X và Facebook. Hành động này của OpenAI diễn ra trong bối cảnh chính phủ Hoa Kỳ bày tỏ lo ngại về việc Trung Quốc sử dụng AI để đàn áp dân chúng, lan truyền thông tin sai lệch và đe dọa an ninh quốc gia của Hoa Kỳ và các đồng minh. Hiện tại, ChatGPT của OpenAI là chatbot AI phổ biến nhất, với số lượng người dùng hoạt động hàng tuần đã vượt quá 400 triệu. Công ty đang trong quá trình đàm phán để huy động tới 40 tỷ USD với mức định giá 300 tỷ USD, có thể trở thành vòng gọi vốn kỷ lục cho một công ty tư nhân.
Động thái này của OpenAI cho thấy sự quyết tâm trong việc ngăn chặn việc lạm dụng công nghệ AI cho các mục đích độc hại, đồng thời phản ánh mối quan ngại ngày càng tăng về an ninh và đạo đức trong lĩnh vực trí tuệ nhân tạo.