伦敦[英国]，4月28日(ANI):随着全球对生成式人工智能(AI)系统的兴趣日益浓厚，萨里大学的研究人员开发了一种软件，能够验证人工智能从组织的数字数据库中获取了多少信息。
Surrey的验证软件可以作为公司在线安全协议的一部分，帮助组织了解人工智能是否学得太多，甚至是否访问了敏感数据。
该软件还能够识别人工智能是否已经识别并能够利用软件代码中的缺陷。例如，在在线游戏环境中，它可以识别人工智能是否已经学会了通过利用编码错误来赢得在线扑克。
Solofomampionona Fortunat Rajaona博士是萨里大学(University of Surrey)隐私正式验证领域的研究员，也是该论文的主要作者。他说:
“在许多应用中，人工智能系统相互之间或与人类互动，例如高速公路上的自动驾驶汽车或医院机器人。弄清楚智能人工智能数据系统知道什么是一个持续存在的问题，我们花了数年时间才找到一个可行的解决方案。
“我们的验证软件可以推断出人工智能可以从他们的互动中学到多少东西，他们是否有足够的知识来实现成功的合作，以及他们是否有太多的知识会破坏隐私。通过验证人工智能学到的东西，我们可以让组织有信心安全地将人工智能的力量释放到安全的环境中。”
关于Surrey软件的研究在第25届国际形式方法研讨会上获得了最佳论文奖。
萨里大学以人为本的人工智能研究所所长阿德里安·希尔顿教授说:
“在过去的几个月里，由于ChatGPT等大型语言模型的进步，公众和业界对生成式人工智能模型的兴趣急剧上升。创建能够验证生成式人工智能性能的工具对于支持其安全和负责任的部署至关重要。这项研究是维护训练中使用的数据集的隐私和完整性的重要一步。”(ANI)
