Openai禁止了来自中国的几个帐户，这些帐户滥用其Chatgpt技术以开发AI驱动的社交媒体监视工具。这些帐户利用Chatgpt为一个程序编写销售宣传和调试代码，该程序旨在监视X（以前为Twitter），Facebook，YouTube和Instagram等平台上的反中国情感。该工具旨在确定呼吁抗议中国侵犯人权行为的呼吁，并打算与中国当局分享这些见解。此外，该小组使用Chatgpt为中国客户生成网络钓鱼电子邮件。
这项行动是Openai的一部分，以防止其AI模型用于恶意活动，包括监视和影响操作。在相关的情况下，OpenAI禁止与朝鲜相关的帐户，该帐户产生了假简历和在线资料，以欺诈性地确保西方公司就业。另一个案例涉及在柬埔寨使用Chatgpt进行的财务欺诈行动，以在社交媒体平台上翻译和生成评论。
美国政府对专制政权对AI技术的潜在使用表示担忧，以抑制异议和传播错误信息。 Openai的积极的措施确定并阻止从事此类活动的帐户强调了AI公司在确保其技术不得出于有害目的而面临的挑战。随着AI工具变得越来越容易访问，监控和防止其滥用的责任仍然是开发人员和政策制定者的关键优先事项。
了解更多：Openai可能正在建立一个由Chatgpt的社交网络，以竞争X和Instagram
同样，由于对数据隐私和安全性的担忧，DeepSeek是中国人工智能初创公司，在各个国家都面临监管行动。韩国的个人信息保护委员会暂停了DeepSeek AI应用程序的新下载，理由是与个人数据保护规则不合规。暂停将保留，直到该应用达到必要的隐私法标准为止，尽管Web服务仍然可以访问。此外，意大利的数据保护局阻止了DeepSeek在隐私问题上的聊天机器人，这反映了对可能损害用户数据的AI应用程序日益增长的审查。
这些实例强调了调节AI技术的全球挑战，平衡创新与保护用户隐私和防止滥用的命令。随着人工智能的不断发展，全世界的公司和政府正在努力建立框架，以促进技术进步，同时维护道德标准和人权。