中科院自动化所曾毅：未来AI智力水平或全面超越人类，瓶颈在人

追着幸福跑的人

随着人工智能的不断发展，曾毅教授在接受搜狐科技采访时表达了他对AI发展和安全的关切。他强调了当前人工智能发展中存在的风险和失控的可能性，并参与签署了两份重要的AI声明，旨在引起公众对于AI潜在生存风险的关注，并提出应对的行动。

在对于人工智能风险的认识上，曾毅指出，人工智能可能给人类带来类似于流行病和核战争的灭绝风险，他解释道，远期人工智能可能超越人类智慧，对人类资源进行竞争，甚至威胁人类的生存。而近期人工智能的风险更为紧迫，因为当前的人工智能缺乏真正的理解能力，容易以人类难以预期的方式犯错，可能威胁到人类的生存。

曾毅教授还提到了人工智能对人类道德的挑战，他指出，目前的人工智能模型无法具备真正的道德感，只能通过规则化的伦理原则进行限制，以保证其与人类的价值观和行为保持一致。然而，真正有道德的人工智能需要具备自我感知和道德直觉，这是一条困难而艰辛的发展道路。

对于如何解决人工智能的安全问题，曾毅教授表示，我们需要从人类的大脑出发，探索脑启发的人工智能发展路径。这意味着通过借鉴人脑的结构和机制，构建具有生物合理性的人工智能，使其具备类似人类的认知、情感共情和道德能力，从而实现有道德的人工智能。

最后，曾毅教授对未来人机关系表达了自己的期望。他认为未来的人工智能可能具有更高级的智力水平，甚至超越人类，但他强调人类希望人工智能能够成为人类的伙伴，与人类和谐共生。
这些观点引发了对于人工智能发展和人机关系的思考。未来人工智能的智力水平是否会超越人类，以及人工智能和人类能否实现共生，成为了许多人关注的焦点。曾毅教授的观点提醒我们，尽管人工智能带来了巨大的潜力和机遇，但我们也需要认真对待其中存在的风险和挑战。

在探索人工智能发展路径时，曾毅教授强调了借鉴人脑的结构和机制的重要性。通过研究人类大脑的运作方式，我们可以更好地理解人类智能的本质，并将这些原理应用于人工智能的设计和开发中。这种脑启发的方法有助于构建更加智能和有道德的人工智能系统，从而增加人工智能与人类的共生性和可控性。

然而，要实现真正有道德和可控的人工智能并不容易。目前的人工智能系统仍然面临许多挑战，例如缺乏真正的理解能力、道德判断的困难等。因此，为了确保人工智能的安全性和稳定性，我们需要进行深入的研究和探索，并制定相应的规范和监管措施。

此外，对于人工智能的发展和应用，也需要广泛的公众参与和讨论。公众对于人工智能潜在风险和伦理问题的关注，有助于引发相关的讨论和行动，并推动建立一个以人类利益为导向的人工智能发展框架。

曾毅教授的观点提醒我们，人工智能的发展不仅仅是技术层面的问题，也涉及伦理、安全和人机关系等多个方面，只有在科技与人文价值相结合的基础上，我们才能实现人工智能与人类的和谐共生，并共同迈向一个更加智能和可持续的未来。

来源：http://www.yidianzixun.com/article/0pBev6WF
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！