诺奖得主杰弗里·辛顿：应建立AI安全相关机构和社群，推动AI向善

在2025世界人工智能大会主论坛上，图灵奖、诺贝尔物理学奖得主杰弗里·辛顿表示，几乎所有专家认为会出现比人类更智能的AI，AI智能体为完成任务，会想要生存、获得更多控制，可能操纵人类，简单关闭AI不现实，就像养老虎当宠物，养大后可能被其伤害，而人类无法消灭AI，因其在多领域作用重大。杰弗里·辛顿希望建立AI安全机构、国际社群，研究训练AI向善的技巧，各国可在本国主权范围内研究并分享成果，全球或主要AI国家应思考建立相关网络，研究如何训练聪明的AI辅助人类，而非消灭或统治人类，这是人类长期面临的重要问题。（科创板日报）原文链接