在线症状检查的解释可以提高用户信任

您最近转向您的移动设备或计算机，了解您的咳嗽，嗅闻或发烧是否可能是由Covid-19引起的？

您使用的在线症状检查器可能已建议您留下回家并致电您的医疗提供者如果症状恶化，或者也许告诉您您可能有资格获得Covid-19测试。但为什么这会提出这项建议？你应该如何了解您是否可以信任它？

这些是宾夕法尼亚州信息科学学院的研究人员最近通过一个项目探索的研究人员通过在其中通过提供了对系统如何产生可能的诊断和建议的说明来增强在线症状检查 - 同时研究用户对这些建议的看法。

“人们对为什么在线症状检查给某些问题以及如何做出某些建议和决定，”研究论文助理研究教授和第一个作者表示某些问题以及如何做出某些建议和决定。“这些互动不是很透明，如果你刚刚患有普遍的感冒，而且有科夫迪可能非常严重。”

TSAI解释说，目前的在线症状检查器，由机器学习算法供电，使用用户提供的信息来指导检查器的下一个步骤朝向可能的诊断。但是，如果用户没有完全理解它提供的建议，AI驱动系统缺乏透明度和可理解语言可能导致意外悲惨的后果。

例如，如果在线症状检查器只是建议基于用户的输入对CoVID-19进行测试，则可能会导致医疗设施的过度担忧或不必要的程度。相反，如果用户从在线症状检查器中学到的，他们可能有冠状病毒，它可能会导致他们制定良好的医学决策，例如自己服用药物，而不是进行测试或寻求适当的医疗。

“医学诊断相互作用的解释强调了语用学的重要性，”杰克卡罗尔，杰出教授和技术教授以及研究论文的作者之一。

新宁桂助助理教授和该项目的另一位合作者表示，该团队的工作具有超越Covid-19的潜在应用。

“即使在Covid-19之前，数以万计的人已经使用症状检查员对众多健康状况的自我诊断或自拍，”她说。“然而，从用户的角度来看，对诸如合法性，安全，信任和透明等的关键问题几乎没有注意。我们的工作只是填补这一差距的开始。”

在他们的工作中，研究人员使用了用户与在线症状检查器的互动，并为什么聊天询问某些问题以及如何产生建议的原因 - 例如，如果从疾病控制和预防准则中汲取建议。

“根据这些解释，我们的研究结果表明，当他们收到这些建议时，用户更自信（以症状检查器的准确性），”Tsai说。“透明的症状检查者对人们来说真正有用，让人们了解自己的情况，以提高医疗决定。可能，这可能是一种用于应对我们今天所面临的大流行公共卫生危机的工具。”

在他们的研究中，研究人员采访了在线症状检查的用户，了解解释是否会改善他们的用户体验和对在线工具的信任。面试产生了用户经常被聊天的问题所困惑，并询问哪些症状和信息导致建议的诊断和建议。

“对于我列出的可能原因，（Chatbot）没有告诉我为什么我的症状有一场比赛。它只是以统计方式说些什么，就像有多少人可能有这一原因。我认为该应用程序应该显示关系，如解释为什么它认为这可能是一个可能的原因，它提出的问题，以及我给予的哪个答案导致我诊断，“在研究论文中发表的一个调查参与者说。

然后，研究人员设计了一个Covid-19在线症状检查器，包括三种类型解释风格：基于理由，在每个问题促销到用户后提供解释;基于功能，基于用户的答案提供个性化摘要;基于示例，突出了基于相同答案的用户接收与用户相同的临床推荐的患者的相同示例。

他们发现不仅可以显着改善的解释用户体验，也可以促进医疗决策，提高用户信任。

“解释可以赋予健康消费者做出明智的决定，”GUI说。“如果没有解释症状检查者如何实现结果和支撑证据，健康消费者将面临理解或信任诊断结果的挑战。”

她补充说：“我们的研究证明，提供合适的解释可以帮助用户更好地解释结果并做出明智的决定。”

研究人员的调查结果可以告知未来的在线设计症状跳棋，帮助用户可能导航在Covid-19之外的许多医疗问题。

“我们的调查结果可以推进健康推荐系统的研究领域，并在个人医疗保健，公平和用户信任方面解释AI [人工智能]，”Tsai说。

---

---