如果通用人工智能从我们身上学习，我们最好谨慎选择

人工通用智能（AGI）将反映其构建者的人性，提出一个可怕的问题：如果我们无意中创建了基于人类最坏冲动进行训练的超级智能系统怎么办？AGI竞赛正在加速，但没有人认真讨论究竟是谁的价值观被融入代码中。