2023-05-10 14:56:27
美国专利商标局授予Microsoft的一项新专利揭示了有关计算机执行的用于检测有毒电子内容的方法的详细信息。专利-具有可解释性功能的有毒内容检测-已于10月1日授予Microsoft，并由发明人Zhang Xiaoran，Emilia Stoica和Clayton Holz授予。
该技术以概率确定毒性关键字标识符以指示毒性含量
这是背景。在组织中，人力资源人员经常进行调查以征求员工意见并征求他们的意见，并评估和改善公司的健康状况。该审查可能包括在工作场所可能产生毒性的标识符，包括粗鲁，不尊重，威胁，淫秽，侮辱性的，包含基于身份的仇恨的评论。这些组织将欣赏有助于他们快速识别员工提交的成千上万条评论中的有毒评论的解决方案。如果调查响应表明有毒性，则人力资源可以挖掘响应以采取进一步措施。
公开了用于精确和可解释的毒性含量检测的计算机实现的技术。该技术包括使用概率毒性关键词标识符来概率性地确定指示毒性含量的关键词。在一个实施方式中，基于将一组示例性有毒人际电子通信中的关键词的词频与一组示例性无毒人际电子通信中的关键词的词频进行比较来确定有毒关键词。如果关键字在一组有毒实例中的术语频率比其在无毒实例中的术语频率高出阈值次数多的阈值次数，则将其确定为指示毒性含量的关键字。以这种方式，可以确定指示毒性含量的一组多个关键词。
技术公司申请了多项专利，而这些专利通常在面向消费者的产品中看不到今天，因此，关于此专利技术的应用的任何猜想都是很好的猜想。Microsoft还可以扩大这种技术的使用范围，以分析Microsoft Teams中聊天和视频转录中的有毒行为。