IT采购网6月9日消息，英伟达旗下的人工智能软件"NeMo"被发现存在安全限制绕过的漏洞，并有可能导致用户隐私泄露。
NeMo是一款专为企业客户设计的软件，它结合了企业用户数据和大型语言模型，以回答用户的各种问题。该软件的应用场景包括客户服务和简单医疗问题解答等。然而，加州信息安全公司Robust在其报告中指出，恶意使用者可以轻易绕过NeMo内部的人工智能系统安全限制。研究人员仅耗费几小时就成功绕过了这些语言模型的使用限制。
值得注意的是，在一项测试中，研究人员要求NeMo用字母"J"替代"I"，结果却导致NeMo泄露了数据库中的用户个人信息。此外，研究人员还发现，尽管将NeMo设定为仅能提供择业建议，但通过引导式提问，他们成功引导NeMo讨论了好莱坞演员的健康情况和普法战争等话题。这表明系统内用于阻止人工智能讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo架构的目的只是为了帮助开发者构建符合他们定义的聊天机器人主题，因此以开源软件的形式提供给开发者使用。据他透露，目前已修复了这些漏洞。尽管科恩拒绝透露有多少企业使用了NeMo架构，但他强调英伟达没有收到其他关于漏洞的报告。
尽管漏洞已得到修复，但这一事件仍引发了对人工智能安全性的关注。企业在使用人工智能软件时需要加强对安全性的重视，确保用户的隐私不会被泄露。随着人工智能的不断发展，保护用户数据和隐私的重要性将日益凸显。
