ChatGPT开发商OpenAI表示，它与**投资者微软合作，挫败了五次“国家附属”网络攻击。
OpenAI周三表示，网络攻击来自两个隶属于中国的组织——木炭台风和三文鱼台风，以及伊朗的深红沙尘暴、朝鲜的翡翠Sleet和俄罗斯的森林暴雪。
OpenAI表示，这些组织试图将GPT-4用于公司和网络安全工具研究、代码调试、脚本生成、网络钓鱼活动、翻译技术论文、恶意软件检测规避以及卫星通信和雷达技术研究。这些帐户在被识别后被终止。“”
OpenAI在一篇博客文章中表示：“我们已经瓦解了五个试图使用人工智能服务支持恶意网络活动的国家附属行为者。”该博客文章还分享了该公司“检测和瓦解此类行为者的方法，以促进其活动的信息共享和透明度。”
OpenAI和微软没有立即回应Decrypt的置评请求。
OpenAI表示：“绝大多数人使用我们的系统来帮助改善他们的日常生活，从学生的虚拟导师到可以为视力受损的人转录世界的应用程序。”。“与许多其他生态系统的情况一样，有少数恶意行为者需要持续关注，以便其他所有人都能继续享受好处。”
微软发言人告诉Decrypt，微软威胁情报使用安全图来识别、集群和跟踪威胁，从而能够快速检测新出现的危险。
这位发言人说：“在我们的全球知名度中，微软利用数万亿个信号来增强我们的威胁情报工作。”。“这些信号包含相关的安全信息，这些信息被收集、处理和丰富，形成一个智能安全图，使我们的防御者能够保护客户。”
虽然OpenAI成功地阻止了这些情况，但该公司承认不可能阻止每一次滥用。
在ChatGPT推出后，人工智能生成的深度伪造和骗局激增，政策制定者加强了对生成人工智能开发者的审查。9月，OpenAI宣布了一项加强其人工智能模型网络安全的举措，包括求助于第三方“红队”来寻找OpenAI安全漏洞。
尽管OpenAI在网络安全方面进行了投资，并采取措施阻止ChatGPT以恶意、种族主义或危险的回应进行回复，但黑客们已经找到了破解该程序并让聊天机器人做到这一点的方法。10月，布朗大学的研究人员发现，使用祖鲁语和盖尔语等不太常见的语言可以绕过ChatGPT的限制。
OpenAI强调了领先于不断演变的威胁的必要性，并强调了他们保护其人工智能模型的方法，包括透明度、与其他人工智能开发人员合作以及从现实世界的网络攻击中学习。
上周，包括OpenAI、微软、Anthropic和谷歌在内的200多个组织与拜登政府联合成立了人工智能安全研究所和美国人工智能安全学会联合会（AISIC），旨在安全开发人工智能，打击人工智能生成的深度伪造，并解决网络安全问题。
OpenAI表示：“通过继续创新、调查、合作和共享，我们使恶意行为者更难在整个数字生态系统中被发现，并改善其他人的体验。”。
由Ryan Ozawa编辑。已更新以添加来自Microsoft的评论。
