通话异常检测方法、装置及相关设备与流程

本技术实施例涉及通信，尤其是涉及一种通话异常检测方法、装置及相关设备。

背景技术：

1、目前音视频通话时通过生成式人工智能(artificial intelligence generatedcontent，aigc)换脸换声伪造亲朋好友、同事、领导的形象声音诈骗的场景正在出现，需要针对性的进行预防。一种技术方案是通过ai技术训练出检测模型来进行异常检测。

2、然而，训练出的模型侧重于通用性，在实际效果上难以平衡，存在检测成功率不高的问题。

技术实现思路

1、本技术实施例提供一种通话异常检测方法、装置及相关设备，以实现更有效地检测通话是否异常，提高检测成功率。

2、为了解决上述问题，本技术是这样实现的：

3、第一方面，本技术的实施例提供了一种通话异常检测方法，由网络设备执行，包括：

4、在通话过程中，触发终端播放目标音频；

5、接收所述终端根据所述目标音频发送的音频信息和/或通话异常检测结果；

6、根据所述音频信息和/或通话异常检测结果，判断所述通话是否存在异常。

7、可选地，所述根据所述音频信息和/或通话异常检测结果，判断所述通话是否存在异常，包括：

8、基于所述音频信息和/或通话异常检测结果，确定所述终端采集的音频是否包括所述目标音频以及对应用户的声音；其中，所述终端包括主叫终端和/或被叫终端；

9、在满足预设条件的情况下，确定所述通话存在异常；其中，所述预设条件包括以下至少一项：

10、主叫终端采集的音频不包括所述目标音频；

11、主叫终端采集的音频不包括第一用户的声音，所述第一用户为主叫终端的用户；

12、被叫终端采集的音频不包括所述目标音频；

13、被叫终端采集的音频不包括第二用户的声音，所述第二用户为主叫终端的用户。

14、可选地，所述方法还包括：

15、在所述通话存在异常的情况下，基于所述音频信息和/或通话异常检测结果进行风险评估，得到评估结果值；

16、若所述评估结果值大于第一阈值，则中断所述通话；

17、若所述评估结果值小于或等于第一阈值，则向所述终端发送异常提醒信息。

18、可选地，所述方法包括：

19、创建所述通话的第二通道；

20、所述触发终端播放目标音频，包括：

21、通过所述第二通道向所述终端发送音频触发指令。

22、可选地，所述方法还包括：

23、触发所述终端的摄像头启动；

24、接收所述终端发送的所述摄像头采集的图像。

25、可选地，所述预设条件还包括以下至少一项：

26、主叫终端采集的图像与当前通话过程中的图像不匹配：

27、被叫终端采集的图像与当前通话过程中的图像不匹配。

28、第二方面，本技术的实施例提供了一种通话异常检测方法，由终端执行，包括：

29、在通话过程中，响应网络设备的触发播放目标音频；

30、在播放所述目标音频时获取音频信息；

31、发送所述音频信息至所述网络设备，和/或，根据所述音频信息确定通话异常检测结果并向所述网络设备发送通话异常检测结果。

32、可选地，所述根据所述音频信息确定通话异常检测结果并向所述网络设备发送通话异常检测结果，包括：

33、基于所述音频信息，确定所述终端采集的音频是否包括所述目标音频以及对应用户的声音，并生成所述通话异常检测结果；其中，所述通话异常检测结果用于指示所述终端采集的音频是否包括所述目标音频以及所述终端的用户的声音。

34、可选地，所述方法还包括：

35、接收所述网络设备发送的异常提醒信息，所述异常提醒信息用于提醒所述终端当前通话存在异常。

36、可选地，所述方法还包括：

37、响应所述网络设备的触发启动摄像头；

38、向所述网络设备发送所述摄像头采集的图像。

39、第三方面，本技术的实施例提供了一种通话异常检测装置，包括：

40、第一处理模块，用于在通话过程中，触发终端播放目标音频；

41、接收模块，用于接收所述终端根据所述目标音频发送的音频信息和/或通话异常检测结果；

42、第二处理模块，用于根据所述音频信息和/或通话异常检测结果，判断所述通话是否存在异常。

43、可选地，所述第二处理模块包括：

44、第一处理单元，用于基于所述音频信息和/或通话异常检测结果，确定所述终端采集的音频是否包括所述目标音频以及对应用户的声音；其中，所述终端包括主叫终端和/或被叫终端；

45、第二处理单元，用于在满足预设条件的情况下，确定所述通话存在异常；其中，所述预设条件包括以下至少一项：

46、主叫终端采集的音频不包括所述目标音频；

47、主叫终端采集的音频不包括第一用户的声音，所述第一用户为主叫终端的用户；

48、被叫终端采集的音频不包括所述目标音频；

49、被叫终端采集的音频不包括第二用户的声音，所述第二用户为主叫终端的用户。

50、可选地，所述装置还包括：

51、第五处理模块，用于在所述通话存在异常的情况下，基于所述音频信息和/或通话异常检测结果进行风险评估，得到评估结果值；

52、第六处理模块，用于若所述评估结果值大于第一阈值，则中断所述通话；

53、第七处理模块，用于若所述评估结果值小于或等于第一阈值，则向所述终端发送异常提醒信息。

54、可选地，所述装置还包括：

55、第八处理模块，用于创建所述通话的第二通道；

56、所述第一处理模块还用于：

57、通过所述第二通道向所述终端发送音频触发指令。

58、可选地，所述装置还包括：

59、第九处理模块，用于触发所述终端的摄像头启动；

60、第十处理模块，用于接收所述终端发送的所述摄像头采集的图像。

61、可选地所述预设条件还包括以下至少一项：

62、主叫终端采集的图像与当前通话过程中的图像不匹配：

63、被叫终端采集的图像与当前通话过程中的图像不匹配。

64、第四方面，本技术的实施例提供了一种通话异常检测装置，包括：

65、第三处理模块，用于在通话过程中，响应网络设备的触发播放目标音频；

66、第四处理模块，用于在播放所述目标音频时获取音频信息；

67、发送模块，用于发送所述音频信息至所述网络设备，和/或，根据所述音频信息确定通话异常检测结果并向所述网络设备发送通话异常检测结果。

68、可选地，所述发送模块还用于：

69、基于所述音频信息，确定所述终端采集的音频是否包括所述目标音频以及对应用户的声音，并生成所述通话异常检测结果；其中，所述通话异常检测结果用于指示所述终端采集的音频是否包括所述目标音频以及所述终端的用户的声音。

70、可选地，所述装置还包括：

71、异常提醒信息接收模块，用于接收所述网络设备发送的异常提醒信息，所述异常提醒信息用于提醒所述终端当前通话存在异常。

72、可选地，所述装置还包括：

73、摄像头启动模块，用于响应所述网络设备的触发启动摄像头；

74、图像发送模块，用于向所述网络设备发送所述摄像头采集的图像。

75、第五方面，本技术实施例提供了一种通话异常检测设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的程序；所述处理器，用于读取存储器中的程序实现如前所述的通话异常检测方法中的步骤。

76、第六方面，本技术实施例提供了一种可读存储介质，用于存储程序，所述程序被处理器执行时实现如前所述的通话异常检测方法中的步骤。

77、第七方面，提供一种计算机程序产品，包括计算机指令，所述计算机指令被处理器执行时实现如第一方面或第二方面所述的方法的步骤。

78、本技术的实施例方法，网络设备能够在通话过程中，触发终端播放目标音频，使得终端根据所述目标音频采集音频信息和/或确定通话异常检测结果。若网络设备接收到音频信息，则根据该音频信息判断所述通话是否存在异常；若网络设备接收到通话异常检测结果，则根据该通话异常检测结果判断所述通话是否存在异常。如此，通过在通话过程中增加目标音频干扰，同时采集音频信息检测通话异常，提高识别通话异常的准确率，保障通话的安全性。