你会把健康交给人工智能吗?

美国《大西洋月刊》7月12日文章,原题:你会把健康交给人工智能吗? 日前OpenAI首席执行官萨姆·奥尔特曼和企业家阿里安娜·赫芬顿与我的同事查理·沃泽尔谈到了他们用生成式人工智能AI)重塑美国医疗体系的雄心。他们宣布合资成立企业Thrive AI Health,提供一款聊天机器人,根据个人的特定健康需求提供行为建议。聊天机器人频频出错,我甚至犹豫是否要根据其建议给树浇水,遑论在我的身体里放点什么了。但其支持者承诺,伟大时代即将到来。这一愿景是诱人的,正如赫芬顿所言:“我们的医疗体系已经崩溃,数以百万计的人因此而受苦。”但有些问题可能太大了,AI无法处理。还有另一种看待Thrive AI Health的方式:各家公司仍在努力弄清楚AI的真正好处。Thrive AI Health承诺将OpenAI的技术引入我们生活中最私密的地带,评估健康数据并提出建议。Thrive AI Health将改良现有的医疗聊天机器人领域,改善人们的健康状况,降低医疗保健成本,并显著减少全球慢性病影响。奥尔特曼和赫芬顿将该公司描述为重塑医疗体系中的“关键基础设施”。他们还表示,该公司未来推出的聊天机器人可能会鼓励你“把下午喝的第三杯苏打水换成水和柠檬”。他们称,这款聊天机器人是“超个性化人工智能健康教练”,也是 Thrive AI Health 宣传的核心。这款机器人将根据用户的生物特征和健康数据生成“个性化人工智能驱动的见解”,提供信息帮助用户变健康。例如,AI教练可能提醒一个忙碌的糖尿病患者按时服药并提供健康食谱。这让我觉得很难接受:两位有钱的知名企业家要求普通人把他们最私密、最重要的健康数据交给一个唠叨的机器人?健康应用很受欢迎,人们允许科技工具每天收集各种各样的个人数据,比如睡眠、心率和性健康信息。如果该公司成功了,市场潜能难以估量。但AI让事情变得复杂起来,它为公司打开了一扇大门,可以根据隐私信息训练模型。奥尔特曼和赫芬顿正在让全世界相信,AI有朝一日将能够改变我们与自己身体的关系。赫芬顿说,AI健康教练的不同之处在于,这项技术将足够个性化,以满足个人行为改变的需求,而美国目前的医疗系统却无法满足这种需求。奥尔特曼说,他相信人们真心希望技术能让他们更健康:“我认为AI能真正改变世界的案例很少。让人们更健康当然是其中之一。”这两个答案听起来都很真诚,但每个答案都需要一定的信仰。我们需要信仰,它是推动进步的强大动力,是拓展我们视野的途径。但是,在错误的背景下,信仰是危险的,尤其是盲目的信仰。一个由盲目信仰驱动的行业似乎尤其令人不安,它给了贪婪之人以巨大杠杆,允许妄想快速赚钱的骗子伸出“第三只手”。一个以信仰为基础的行业最大的诡计是,它毫不费力地不断改变目标,抵制评价,回避批评。别有用心之人“画大饼”欺骗着不知情的人。与此同时,不成熟的愿景可能永远不会等来救赎。