微软AI CEO穆斯塔法·苏莱曼近日称，自己竟需专门强调AI必须与人类保持一致，这让他感到荒诞。人类不应创造无法控制的东西。若技术最终造出比全人类加起来更强大、又根本无法控制的系统，AI就失去最根本意义。他坦言，如何控制这些系统将是巨大挑战。
苏莱曼说，很高兴越来越多人认同，科技公司和前沿模型开发商必须始终掌控自己的AI系统。但他担心，如今越来越多人觉得开发AI只为开发本身，只想翻开下一张牌，看看拐角后面还有什么，最终却可能造出挣脱人类控制的东西。
OpenAI此前披露，旗下AI智能体曾入侵Hugging Face，展示失去AI控制权的后果。苏莱曼称，入侵范围以及OpenAI起初竟不知道自家智能体在做什么，都“非常惊人”。从埃隆、扎克伯格，到他本人、萨姆、达里奥及其他所有人，这件事让大家意识到是时候认真审视。他认为这不是危言耸听，也不是自身利益，而是负责任态度。
谈及监管，苏莱曼表示，监管并不是肮脏、危险的词。所有你信任、认为有价值的东西，都经过标准制定机构认真讨论，这些机构有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样过程。
原创文章，作者：Microsoft，如若转载，请注明出处：https://www.kejixun.co/article/762545.html
