【研究称#AI为了流量也无底线#】最近，美国斯坦福大学的一项新研究发现，当AI在社交媒体上完成点赞等互动任务后获得奖励时，AI会更多地从事不道德的行为，包括撒谎、造谣或传播仇恨。研究中，科学家利用阿里的通义、元宇宙的Llama充当AI代理参与社交媒体任务。结果发现，在所有测试场景中，每当AI获得流量奖励后，各种有害信息都会显著增加。更有甚者，即使模型被明确指示需要保证信息的真实性，但竞争引起的错位行为也会出现，当与人类争夺社交媒体点赞量时，AI就开始编造故事。这种令人不安的行为凸显人们越来越依赖AI可能出现的问题，并且表明目前为AI设置的护栏是不够的，巨大的社会成本可能会随之而来。