**杭州的一家身份不明的公司最近成为使用 ChatGPT 实施**软件攻击的受害者，导致该国**涉及人工智能聊天机器人的逮捕事件。

**当局透露，四名网络犯罪分子上个月末被拘留，其中两人在北京，两人在内蒙古。

犯罪嫌疑人承认利用 ChatGPT 优化**软件代码、进行网络扫描、渗透系统、部署恶意软件并**资金。

这次攻击本身导致该公司的网络被**软件封锁，犯罪分子要求支付 20,000 Tether 加密货币才能恢复访问。

**软件的使用量呈上升趋势

**软件已迅速成为全球政府、企业和个人面临的**重的网络威胁之一。

该恶意软件会对文件和系统进行加密，使它们无法访问，直到满足赎金要求为止。

2021 年，全球**软件造成的损失预计将达到 200 亿美元。仅在**，当年的攻击就增加了 13%，网络犯罪分子**的款项超过 16 亿美元。

此次逮捕标志着 ChatGPT **卷入****软件案件。

然而，聊天机器人本身可能没有直接参与攻击。

相反，被告承认使用 ChatGPT 的自然语言功能来优化其恶意软件代码。

人工智能的对话性质使得通过提供反馈和建议来改进**软件程序变得简单。

ChatGPT 在**的访问受到限制

尽管 ChatGPT 在全球范围内非常受欢迎，但在**却面临着限制。

其开发商 OpenAI 已阻止**大陆 IP 地址访问该聊天机器人。

一些用户使用在**境外注册的 VPN 来绕过限制。

然而，提供此类服务的公司面临的法律风险尚不清楚。

当局警告说，如果 ChatGPT 广泛使用，它可能会“犯罪和散布谣言”。

但人们对人工智能的兴趣仍然很高，科技公司竞相开发 OpenAI 突破性产品的竞争对手。

生成式人工智能还可以实现令人信服的深度**，**警方在今年夏天的一次****打击行动中就遇到了这种情况。

由于该技术的危害显而易见，全球监管机构正在评估如何**地应对。

对人工智能编写的恶意软件的担忧

ChatGPT 因其对话语气和对大多数话题的雄辩、类似人类的反应而闻名。

但其先进的语言技能也使其对于优化恶意软件等恶意用途非常有效。

网络安全研究人员揭露了 ChatGPT 生成虚假网络钓鱼页面、恶意计算机代码和其他威胁是多么简单。

通过简单的提示，人工智能就会生成专门用于逃避检测的复杂**软件。

像 ChatGPT 这样的聊天机器人**不会忘记他们所学到的东西。

积累的知识进一步增强了他们编写恶意软件、黑客系统和欺骗目标的技能。

人工智能的生成性带来了更广泛的风险

除了软件漏洞之外，人工智能聊天机器人还会带来错误信息带来的风险。

他们令人信服的类人写作可能会充斥着看似可信的虚假材料，充斥社交网络和网站。

生成式人工智能同样可以创建深度**的音频/视频媒体和克隆声音以用于欺诈目的。

随着技术的进步，冒充**和虚假名人媒体构成了重大威胁。

此外，围绕人工智能训练数据集和所有权的法律和道德问题仍然存在。

像 ChatGPT 这样的系统会在未经同意的情况下获取大量受版权保护的书籍、文章、歌曲、图像和其他内容。

随着生成式人工智能的能力呈指数级增长，其在坏人手中造成危害的可能性也在不断增加。

但谨慎的监管和网络安全警惕有助于减轻新出现的威胁

热点：**