世界现在有200多家医疗机构都在使用沃森，一旦机器程序出错，那结果就可能会导致出现成批错误，最终造成大错。第二，再比如人们在设计计算机操作股票时，为保证委托人能够立即止损，会瞬间抛售掉手中的股票，这种操作就可能会触发另一台计算机的止损条件，导致更多的抛售，于是雪崩式股灾就这样出现了。叶云还想说，一个决定只能影响到一件或几件事情，影响范围较小，而一个决策则就会影响到一批事情了。虽然，第一台机器在做决定的时候，还可能只是一个决定，但一旦发生“联动反应”，那就可能造成“灾难性”的后果了。
第448期 人工智能也会出错 2018-09-15[2/2页]