OpenAI 已禁止多個來自中國的賬戶濫用其 ChatGPT 技術來開發人工智能驅動的社交媒體監控工具。這些帳戶利用 ChatGPT 為一個旨在監控 X（以前稱為 Twitter）、Facebook、YouTube 和 Instagram 等平台上的反華情緒的程序編寫銷售宣傳和調試代碼。該工具旨在識別針對中國侵犯人權行為的抗議呼籲，並打算與中國當局分享這些見解。此外，該組織還使用 ChatGPT 為中國客戶生成網絡釣魚電子郵件。
這一行動是 OpenAI 更廣泛努力的一部分，旨在防止其人工智能模型被濫用於惡意活動，包括監視和影響操作。在一個相關的例子中，OpenAI 禁止了與朝鮮相關的賬戶，這些賬戶生成虛假簡歷和在線個人資料，以欺詐手段確保西方公司的就業。另一個案例涉及柬埔寨的金融欺詐活動，該活動使用 ChatGPT 在社交媒體平台上翻譯和生成評論。
美國政府對獨裁政權可能利用人工智能技術壓制異議和傳播錯誤信息表示擔憂。開放人工智能積極措施識別和阻止參與此類活動的賬戶凸顯了人工智能公司在確保其技術不被用於有害目的方面所面臨的挑戰。隨著人工智能工具變得越來越容易獲得，監控和防止其濫用的責任仍然是開發人員和政策制定者的首要任務。
同樣，由於對數據隱私和安全的擔憂，中國人工智能初創公司 DeepSeek 也面臨著各國的監管行動。韓國個人信息保護委員會以不遵守個人數據保護規則為由，暫停了 DeepSeek 人工智能應用程序的新下載。儘管網絡服務仍然可以訪問，但暫停將持續到該應用程序滿足必要的隱私法標準為止。此外，意大利數據保護局因隱私問題屏蔽了 DeepSeek 的聊天機器人，這反映出全球對可能損害用戶數據的人工智能應用程序的審查日益嚴格。
這些實例凸顯了監管人工智能技術、平衡創新與保護用戶隱私和防止濫用的必要性之間的全球挑戰。隨著人工智能的不斷發展，世界各地的公司和政府都在努力建立框架，以促進技術進步，同時維護道德標準和人權。