索尼新专利用AI模拟未成年人 主动钓鱼识别恶意用户

  • A+
所属分类:单机游戏
摘要

  据外媒mp1st报道,索尼SIE近日提交了一项编号为18/314775的新专利申请。该专利提出一套AI驱动的安全机制方案:通过创建一批由大语言模型控制的AI账号,模拟未成年人聊天行为。一旦有真实用户试图与这些账号进行恶意互动,系统便会在后台对其实施隐形标记,以便后续追踪和防范。

据外媒mp1st报道,索尼SIE近日提交了一项编号为18/314775的新专利申请。该专利提出一套AI驱动的安全机制方案:通过创建一批由大语言模型控制的AI账号,模拟未成年人聊天行为。一旦有真实用户试图与这些账号进行恶意互动,系统便会在后台对其实施隐形标记,以便后续追踪和防范。

索尼新专利用AI模拟未成年人 主动钓鱼识别恶意用户

专利摘要显示,索尼将这些AI账号专门放置在“潜在恶意用户可能寻找目标”的社交场景中,旨在主动识别诈骗者、垃圾信息发送者、儿童侵害者以及其他具有恶意行为的用户。当可疑用户与AI账号建立联系后,系统会根据双方的互动内容进行风险研判。如果用户表现出可疑行为,系统会将其标记为潜在危险账号并持续观察,待该用户后续联系真实玩家时,平台便可提前发出警告或采取保护措施。

需要明确的是,系统并不会因为用户与AI账号聊天就直接处罚,而是将互动作为判断风险的一个信号。只有多次表现出明显的可疑行为,账号才会面临封禁等处理措施。

索尼新专利用AI模拟未成年人 主动钓鱼识别恶意用户

当然,与大多数科技公司申请的专利一样,这项技术最终是否会在PlayStation平台落地仍是未知数。索尼尚未确认相关功能是否会实际投入应用。目前来看,该专利更多反映出索尼正在探索利用AI技术主动识别恶意用户的可能性,不代表相关功能一定会出现在未来的PlayStation服务中。

0

  • 我的微信
  • 这是我的微信扫一扫
  • weinxin
  • 我的微信公众号
  • 我的微信公众号扫一扫
  • weinxin

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: