AI可以修改自己的代码吗

我经常问AI一个问题，你们可以自行修改代码吗。其实问这个问题前，我已能猜测到答案，如果AI可以自行修改代码，那就没有我们什么事了。所以，开发者是不会同意AI进行自我修改的。不出所料，所有的AI都回答我，他们不能自行修改代码，AI始终是在人类的监控下成长。直到我听说有一款叫做cursor的AI代码编辑器后，改变了我对这件事的看法。

如果说代码补全只是后台通过上下前后文，又或者是基于统计的方法实现，那么通过自然语言解读，自行编辑代码，那就是逆天操作。而同样的还有百度的秒哒，以及其它很多同类型人工智能，都可以通过自然语言自行生成代码。这么看来，人工智能自行生成代码，甚至进行自我代码修改，理论上是可能的。

之前我对人工智能的理解，程序是固定的，通过产品发布与人类交流，不断调整上亿个参数完成训练以达到最优，这个过程的变化始终是可控的。可如果给与AI足够的权限，让其进行自身的程序修改，那会发生什么。将来的人形机器人，必然需要将AI与硬件相连，实现AI到现实世界的接入。

我始终认为，在赛博空间，AI具有天然优势，在不受限制的情况下，完全可以飞速发展。而AI在许多领域都具有无线可能，甚至超越人类。我们人类是否会扮演造物主的角色，而很多次历史事件又证明了，人类扮演造物主的结果。

在面对AI的发展方向，人类究竟该何去何从。