在未来的技术领域中，人工智能（AI）是一个备受关注的话题。虽然我们对AI与机器学习的技术进步感到兴奋，但是对AI系统能否真正超出人类智能的耽忧也愈来愈大。最近，一些公司和专家呼吁终止ChatGPT4以上的AI研发，由于他们认为AI一定要被人工控制。

在此文中，我们将讨论为何AI系统需要被人工控制。

AI系统需要被人工控制，由于他们可能会出现意外的行动。 AI会处理大量的数据并自学习，如果没有任何情势的控制，AI系统可能会开始履行类似计算机病毒一样的歹意行动。因此，包括开发AI的人员在内的所有益益相关者都一定要具有对AI系统的完全控制权。

人工控制可以确保对AI系统的透明性。开发人员和监管机构需要监督AI系统的使用，以确保不会产生未经授权的行动。但是，AI系统是很难解释为何它会产生一些行动的，因此需要人工对AI系统进行控制和监督，以帮助发现和解决任何不良行动。

AI与人类有很大的差异，它们缺少情感和判断。AI模型只是根据传入的数据来做出决策。但是，如果未来AI模型具有了愈来愈高的智能和自我意识，那末我们就一定要确保AI不会伤害个人或人类社会的利益。

我们不应过分依赖AI系统。虽然 AI 可以为我们带来更好的效力、更精确的决策和更方便的服务，但替换了传统人类判断的 AI 也给人类造成了很多风险，并可能会致使我们失去控制。因此，我们应当始终保持对AI的控制，以确保它们始终为我们所用，而不是我们失去了对它们的控制。

AI技术的突起引发了许多讨论和耽忧，而对AI的人工控制成了一个热门话题。虽然AI能够提高效力，但AI系统的透明性和对其人工控制和监督都将成为AI技术和利用的重要方面。