第二次开庭,顾清岚受邀前来参加,林念苏陪同她一起进了法庭。
旁听席上,记者、家属、医院的代表、aI公司的员工纷纷就坐。
王建国的老伴坐在原告席上,穿着一件灰白色的外套,头花白。
她低着头,手里攥着一个布包,她的女儿坐在旁边。
法官宣布开庭后,原告律师先言,陈述了事实经过,宣读了尸检报告,列举了医院的过错。医院代表答辩,说急诊医生的处置符合规范,aI系统的结论仅供参考,医院不应承担全部责任。
轮到智医科技的律师了。
他站起来,整理了一下领带,大声说
“我方认为,aI系统是一个辅助工具,最终的决定权在医生。医生没有尽到审慎的义务,与aI系统无关。我方不应承担责任。”
旁听席上有人开始低声议论。
王建国的老伴抬起头,看着那个律师,紧紧握住了女儿的手。
法官敲了敲法槌说“安静。”
法庭安静了。
法官看着原告席说“原告方,你们有证人吗?”
原告律师站起来。“有。我们请顾清岚教授出庭作证。”
顾清岚站起来,走进证人席。
法警让她举起右手,宣读誓言。
她举起手,一字一句的宣誓
“我宣誓,所述事实真实,绝无虚假。”
法官让她坐下。
她坐在证人席上,面前放着一个麦克风。
原告律师走过来说
“顾教授,请介绍一下您的身份。”
“顾清岚,江东大学公共卫生学院教授,博士生导师。研究方向是健康大数据和人工智能伦理。”
“您受原告方委托,对智医科技的aI系统进行了分析?”
“是。”
“您现了什么问题?”
顾清岚从包里拿出一个文件夹,打开,放在桌上说
“智医科技的aI系统,训练数据存在严重偏差。女性胸痛患者的样本量严重不足,导致aI对女性心脏病作的识别率比男性低百分之三十七。”
旁听席上有人倒吸一口凉气。
原告律师看了一眼法官,法官示意继续。
“顾教授,您能详细解释一下吗?”
顾清岚翻开文件夹,看着里面密密麻麻的数据表格和图表继续说
“aI系统靠大量数据训练。你给它看一万张胸片,告诉它哪些是正常的,哪些是心梗,它学完了就能自己判断。智医科技的aI系统,训练数据里男性患者占了百分之七十八,女性患者只有百分之二十二。女性心脏病作的症状本来就比男性不典型,数据又少,aI学不好。我测试了五万张胸片,男性患者的准确率是百分之九十六,女性患者只有百分之五十九。”
法庭里安静了。
王建国的老伴转过头,看着顾清岚,眼泪顺着脸颊流了下来。