类别

类别: 人工智能

解释你自己,机器。为人工智能可解释性生成简单的文本描述

作者: 卢克 · OAKDEN-RAYNER,医学博士

人工智能研究的一个大主题是可解释性的想法。人工智能系统应该如何解释他们的决定来建立对人类用户的信任?如果我们不理解影响决策的因素,我们能相信决策吗?

关于后一个问题,我将在其他时间有更多的话要说,这个问题本质上是哲学的,而不是技术的,但是今天我想分享我们的一些研究进入第一个问题。我们的模型能解释他们的决定吗说服人类去信任他们?


蟹角

我是一名放射科医生,这使我成为人类图像分析领域的专家。我们经常被要求向我们的同事或其他医生或病人解释我们对图像的评估。总的来说,我们表达两件事。

  1. 我们正在看图像的哪一部分。
  2. 我们在图像中看到的具体特征是什么。

这部分就是放射学报告。我们描述一个特征,给出一个位置,然后综合一个结论。例如:

乳房外象限上部有一个不规则的肿块,伴有微钙化。发现与恶性肿瘤一致。

你不需要理解我在这里使用的单词,但关键是特征 (不规则肿块、微钙化) 与诊断 (乳腺癌、恶性肿瘤) 一致。一位医生阅读这份报告已经看到了内部的一致性,这让他们确信这份报告没有错。错误报告的一个常见例子可能是:

继续阅读…

RSNA 2019 人工智能综述

伊斯兰国王
休 · 哈维

作者: 休 · 哈维,MBBS 和沙阿 · 伊斯兰,MBBS

就在几年前,医学成像领域的人工智能进入了放射科医生的意识,尤其是在 2016年杰弗里 · 辛顿宣布放射科医生的时代到了, 紧随其后的是第一个人工智能初创公司在 RSNA 预订展台。三年过去了,专注于人工智能的产品的数量和规模已经加快了步伐, 如此之多,以至于今年 RSNA 组委会决定将不断增长的人工智能陈列柜搬到位于北大厅低层的新空间。在某些方面,为这个不断扩大的领域提供一个更大的专用展厅是有意义的,而在另一些方面,则没有那么多。有这么多的创业公司,展位的回旋余地总是一个问题,然而人工智能与工作流程的整合应该是今年的一个关键主题, 这种有目的和不必要的隔离显然是徒劳的。

通过移动位置,人工智能初创公司的展厅变得更加难以找到, 随着许多供应商谈论他们的自然摊位客流量不如去年人工智能在楼上大男孩 OEM 玩家旁边时那么大。一位机智的评论家打趣道,找到它的唯一方法是 “跟随燃烧风险投资资金的气味,一直到底部”。事实上,在一个一周的平均步数很容易达到 30 英里或以上的会议上, 增加额外的几分钟步行很可能会减少一些步行次数。几位创业公司的首席执行官告诉我们,到达他们摊位的客户是少数几个专注于巩固现有交易的人,而不是寻求乌托邦未来一瞥的新的潜在客户。在初创企业迫切需要牵引力的时候,这可能会对这个尚未发展的行业产生灾难性的连锁反应。

然而,引起关注的不仅仅是增加的距离。通过将整个创业生态系统放在地下掩体中,人们有一种压倒性的感觉,即 RSNA 会议以某种方式将人工智能创业公司活埋在一个敞开的坟墓中。展览地板上肯定有几个墓碑 -- 应该有更大的展位的地方,被公司缩小了 -- 仔细检查了他们逐渐减少的风险投资资助的跑道。来自韩国和中国的僵尸模仿摊位也出现了,更重要的是,你遇到的第一个摊位不是别人深层放射学,一家如此笨拙的市场营销和难以形容的神秘,进入展厅感觉就像你进入了某种人工智能的黄昏地带,而不是 sparky, 这是去年热闹而乐观的展示。现在所有参加的人都应该清楚,高德纳的炒作曲线已经完全改变,我们正在迅速走向深深的幻灭。

继续阅读…

人工智能与结核病,第一部分

作者: 索拉布 · 贾,医学博士

贫民窟结核病

没有人知道是谁给了拉胡尔 · 罗伊肺结核。Roy's 作为一名成功交易员的迷人生活包括开着他的奔驰 C 级轿车在他位于孟买南部豪华奈潘海路的公寓和孟买证券交易所的办公室之间旅行。他不太关心孟买的天气。他很少摇下车窗 -- 他的环境氛围,为了他的舒适而优化,很少改变。

历史上,结核病,或被称为 “消费”,是一种波西米亚疾病; 长期的痛苦产生了一种产生美术的狂想曲。结核病在维多利亚时代的英国很流行,部分原因是消费,像贵族一样,被认为是遗传的。即使在罗伯特 · 科赫发现结核病的病因是杆状细菌 -- 结核分枝杆菌 (MTB) 之后,结核病仍有一种被其不道德的同类 -- 梅毒和不道德的表亲所否认的特殊状态, 麻风病。

结核病在二十世纪初变得平等,但保留了贵族贵族的特权。乔治·奥威尔为了了解贫困,自愿和矿工一起生活在拥挤肮脏的环境中,可能感染了肺结核。与奥威尔不同,罗伊没有与穷人团结一致的借口。对罗伊来说,感染结核病没有什么英雄气概。他感到尴尬不是因为结核病的传染性; 结核病疗养院已经成为过去。结核病标志着社会阶层的衰落。他认为感染结核病的是里克 · 沙瓦拉什,而不是商人。

继续阅读…

美国食品和药物管理局已经批准了基于人工智能的 PET/MRI “去噪”。这项技术有多安全?

作者: 卢克 · OAKDEN-RAYNER,医学博士

超分辨率 * 有望成为最有影响力的医学成像人工智能技术之一,但前提是它是安全的。

上周我们看到了美国食品和药物管理局批准第一款核磁共振成像超分辨率产品,来自去年获得类似宠物产品批准的同一家公司。这个消息似乎是我和许多其他人谈论这些系统的安全问题的好理由。

免责声明: 这篇文章的大部分是关于医学超分辨率的,而不是关于微妙的系统本身。那个特定的系统在接近尾声时被直接处理。

放大增强

从字面上来说,超分辨率是这篇文章顶部 gif 中的 “缩放和增强” CSI meme。你给电脑一个低质量的图像,它会把它变成一个高分辨率的图像。很酷的东西,尤其是因为它实际上有点管用。

然而,在医学成像领域,这总比酷好。你有没有想过为什么核磁共振成像花费这么多,而且可以有很长的等待时间?嗯,这是因为你只能每 20-30 分钟做一次扫描 (有些扫描需要一个小时或更长时间)。资本和运营成本每天只分散在一到二十几个病人身上。

那么,如果你能在 5 分钟内得到同样质量的核磁共振成像呢?扫描次数可能多两到五倍 (“让病人为扫描做好准备” 的时间成为瓶颈),这意味着成本更低,吞吐量更高。

这是医学超分辨率的梦想。

继续阅读…

通过解决隐藏分层来提高医疗人工智能安全性

Jared Dunnmon
卢克 · 奥克登-雷纳

作者: 卢克 · OAKDEN-RAYNER 医学博士,贾里德 · 邓蒙,博士

医疗人工智能测试是不安全的,而且这种情况不可能很快改变。

没有监管机构认真考虑在上市批准前实施针对 AI 的 “药物风格” 临床试验, 证据强烈表明,医疗人工智能系统的临床前测试不足以确保它们的使用安全。如中所述以前的帖子然而,从实验室效应到自动化偏差等各种因素都可能导致 AI 系统的临床前性能与下游医疗结果之间的严重脱节。因此,我们迫切需要机制来检测和减轻未经测试的医疗人工智能系统可能在临床中造成的危险。

在最近的预印合著,Jared Dunnmon来自Chris r é斯坦福大学的团队,我们为临床前测试和下游结果之间的差异提供了新的解释:隐层化。在解释这意味着什么之前,我们想通过说这种效果似乎是普遍的,未被充分认识的, 甚至在监管机构批准的人工智能系统中也可能导致严重的患者伤害。

但是这里也有好处。从隐性分层的角度来看临床前测试的失败可能会为我们提供一种使监管更加有效的方法, 不会推翻整个系统,也不会显著增加开发人员的合规负担。

继续阅读…

数量预言家的崛起

作者: 索拉布 · 贾,医学博士

尽管 ROC 曲线下的面积为 1,但卡珊德拉的预言从未被相信。她既没有回避也没有依赖追溯数据 -- 她的预测,如特洛伊战争,是前瞻性验证。在医学上,一种新型的卡珊德拉出现了 -- 一种用概率语言说话的人,在正确的概率和错误的可能性之间出现了不均匀的分叉。一个承认自己可能是绝对错误的人,从技术上讲是永远不会错的。我们称这些新的密涅瓦为 “预测”。密涅瓦的猫头鹰飞过它的分母。

深度学习 (DL) 承诺将预测行业从学术提升和任期的垫脚石转变为对病人床边的临床医生来说模糊有用的东西。经济学家研究人工智能认为人工智能是革命性的,像蒸汽机和互联网一样是革命性的,因为它能更好地预测。

最近发表于自然,一个复杂的 DL 算法能够通过从住院患者的电子健康记录 (EHRs) 中提取数据来连续预测急性肾损伤 (AKI)。该算法询问了退伍军人医院近百万 EHRS 患者。尽管他们的方法很有趣,但不如他们的结果有趣。对于 AKI 的每一个正确预测,都有两个假阳性。假警报会让卡珊德拉脸红,但它们对预后医学并不坏。DL 生成的 ROC 曲线位于代表随机性的对角线上方的头部和肩部。

研究人员使用了一种叫做 “消融分析” 的技术。“我不知道这是如何工作的,但听起来很聪明。让我做一个我自己的卑微的预言 -- 如果在床边释放特定的 AKI,DL 增强的卡珊德拉可以释放出一个人难以理解的大规模破坏。

撇开回顾性训练的算法的准确性在现实世界里不谈 -- 正如医生所知, 书本知识和实践知识之间存在差异 -- 主要问题是信息可用性对决策的影响。预测基本上是信息。信息改变了我们。

继续阅读…

思考盒子的 “燕麦”: 解决 “金发女孩数据困境” 的技术

Marielle Gross
罗伯特 · 米勒

作者: ROBERT C.MILLER,JR.和 MARIELLE S.GROSS,MD,MBE

这件作品是 “系列” 的一部分健康数据金发女孩困境: 分享?隐私?两者都有?”这探讨了在保持隐私的同时推进互操作性的可能性。查看该系列中的其他部分这里

粥的问题

今天,我们经常听到研究团队使用人工智能以比人类想象的更准确和更快的速度更早地检测和诊断疾病的故事。越来越多的人呼吁我们通过与制定这些算法的团队分享我们的数据来为这些努力做出贡献,有时是依靠利他动机的医疗保健组织。一批初创公司甚至似乎让你为此将数据货币化。但是考虑到你的健康数据的敏感性,你可能会对此持怀疑态度 -- 尤其是当你考虑到科技公司的隐私记录时。我们已经开始认识到我们当前隐私保护模式的缺陷,这种模式依赖于 “通知和同意” 的概念,这种概念不恰当地将责任数据管理置于那些在其对自己的数据进行有意义的控制的能力。

象征着更广泛的趋势,“健康数据金发女孩困境” 系列引起注意隐私和我们的现代医疗保健技术系统的目标之间的紧张和必要的权衡。完全不分享我们的数据会 “太冷”,但是自由分享会 “太热”。 “我们一直在寻找“ 恰到好处 ”的政策,在保护个人权益之间取得平衡,同时更容易从数据中学习,以促进整个社会的权益。

如果有一种方法可以让其他人从你的数据中学习而不损害你的隐私呢?

迄今为止, 实现这一平衡的一个主要策略涉及从已被消除的数据中分享和学习的实践 -- 由于相信个人分享数据的唯一风险是该数据的直接后果识别它们的能力。然而,人工智能正在使真正的去身份化过时,我们越来越认识到对那些被去身份化的数据被用于各种学术和商业环境学习的个人缺乏问责的问题。在目前的形式中,去身份识别只不过是一种花招,让我们对不受限制地使用我们的数据而不真正保护我们的利益感到更舒服。更多的是披着羊皮的狼,自我认同并不能解决金发女孩的困境。

救援技术!

幸运的是,有一个少数令人兴奋的新技术可能让我们完全摆脱金发女孩的困境,使我们能够在不放弃隐私的情况下从集体数据中获益。这听起来好得难以置信,所以让我解释三个最具革命性的问题: 零知识证明、联合学习和区块链技术。

继续阅读…

铁杆健康播客 | 第三集,首次公开募股,隐私,以及更多!

在第三集硬核健康Jess 和我首先讨论了所有的健康技术公司 IPOing (Livongo,Phreesiabetway体育中文网,health Catalyst),并讨论了这对整个行业意味着什么。Zoya Khan 讨论了 THCB 的最新系列,名为 “健康数据金发女孩困境: 分享?隐私?两者都有?”,接下来讨论国会今天通过的关于数据隐私和保护的立法。我们还对 Lemonaid Health 的首席执行官保罗·约翰逊进行了一次很好的采访,Lemonaid Health 是一个崭露头角的远程医疗平台,是虚拟医生办公室的一站式服务, 一个虚拟药房,和病人访问他们平台的实验室测试。在她的 WTF 健康部分,Jess 与 Jen Horonjeff 交谈,他是 Savvy Cooperative 的创始人兼首席执行官,这是第一个为患者提供在线市场的患者所有的公益合作社。最后但同样重要的是,Saurabh Jha 博士直接向医疗保健领域的人工智能供应商发表讲话,称他们的预测工具毫无用处,他们目前还不会取代医生-马修 · 霍尔特

马修 · 霍尔特是医疗保健博客的创始人和出版商,他仍然定期为该网站写作。betway总部

掠夺学家现在要见你了

作者: 里兹万 · 马利克,MBBS

2019,机器成像已经实现了他们的预言,并控制了所有放射科,使他们的有机前辈过时了。

一个这样迷失的灵魂试图决定如何重新配置他在曼彻斯特运河上狭窄的船上安装的诊断设备, 在他的晚餐期间,思考数字接管的程度 (当然是鳕鱼)。

我在这篇短文中寻求的不是重新审视人工智能、深度学习、机器学习或自然语言处理的老路, 支撑它们的数据科学也不局限于目前可用或待定的特定产品或算法。相反,我希望分享我的观点,在病人的旅程中,我认为 “人工智能” 在路径中可能有用途。

继续阅读…

最好的医疗人工智能研究 (你可能没听说过)

作者: LUKE OAKDEN-RAYNER

我在最近的帖子中一直在谈论我们测试人工智能系统的典型方法是如何不充分和潜在不安全的。特别是,我抱怨过到目前为止,所有引人注目的论文都只做受控实验,所以我们不知道人工智能系统将如何在真实患者身上运行。

今天我要强调的是一件没有受到太多关注的作品,但实际上 “一路” 进行了测试,并在临床实践中测试了一个人工智能系统,评估了临床结果。他们做了一个实际的临床试验!

大新闻…… 那你为什么没听说过呢?


西方的长城

可悲的是,这篇论文大多被忽视了。89 条推文 *,当你把它与许多其他有成百上千条推文和新闻文章的报纸进行比较时,这是非常令人难过的。但是有一个明显的原因; 我今天将要谈论的文章来自中国 (也有一些美国的合著者,不确定相关的贡献是什么, 但是这项研究是在中国进行的)。

中国很有趣。他们似乎正迅速成为包括医学在内的应用人工智能领域的世界领导者,但我们很少在媒体上听到任何关于那里发生的事情。当我去参加会议和在中国工作的人交谈时,他们总是告诉我许多公司在病人身上应用成熟的人工智能产品, 但是在媒体上,我们大多看到关于西方研究项目的头条新闻,这些项目离临床实践还有很多年。

这不应该是意料之外的。西方记者很少能接触到中国 * *,中国的医疗人工智能公司没有必要征求西方媒体的报道。他们已经获得了来自医疗管理和更广泛的政府的巨大市场、专业知识、数据、资金和强有力的支持。他们不需要我们。但是对我们西方人来说,这意味着我们对医疗人工智能的看法是狭隘的,就像一只青蛙从井底看天空。

继续阅读…

登记

忘记密码?