Anthropic一研究员辞职示警称AI可能在未来十年内毁灭人类，巨头拿人类生命作赌，如何看待该观点？

周二，一位顶尖人工智能（AI）研究员从Anthropic公司辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任，这在社交媒体上引发了人们对AI技术快速发展的担忧。 曾先后在这两家公司担任研究员的Jacob Coxon，辞职后在X网站上发帖称，他辞职是因为担心Anthropic和OpenAI是在“拿我们的生命做赌注”。他说，开发人工智能的人“真心相信，到本十年末（2030年），人工智能可能会毁灭我们所有人”。 “不要低估这项技术的力量，”他写道：“这些很快就会成为超人般的系统，它们可以入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。” Coxon的帖子浏览量超过7000万次，并引起了业内研究人员的共鸣。他们担忧递归式自我改进（RSI），即AI系统能够在无人干预的情况下设计和开发其后续版本。尽管RSI目前尚未实现，但包括Anthropic和OpenAI在内的多家公司警告称，这将使人类更容易失去对这些系统的控制。 Coxon写道：“两家公司都没有采取负责任的行动。它们正竞相研发自我提升的超级智能。”AI有可能“毁灭人类”？业内专家接连发出警告

前往原平台核验详情 ↗