在2025世界人工智能大会主论坛上，图灵奖和诺贝尔物理学奖得主杰弗里·辛顿表示，几乎所有人都认为未来会出现比人类更聪明的AI。这类AI为了完成任务，可能会产生自我保护和掌控更多资源的欲望，甚至可能影响或操控人类。他指出，简单地关闭这类AI并不现实，就像把老虎当宠物养大后，很难再控制它一样。由于AI已在多个领域发挥重要作用，人类也无法彻底将其消除。 辛顿呼吁建立专门的AI安全机构和国际合作机制，研究如何让AI朝着有益于人类的方向发展。他建议各国在自身主权范围内开展研究，并共享成果，同时希望全球或主要AI国家能共同构建合作网络，探索如何训练高智能AI来辅助人类，而不是取代或控制人类。他认为，这是人类必须长期面对的重大课题。