当地时间4月26日，OpenAI首席执行官萨姆·奥尔特曼发文阐述了公司在人工智能发展过程中的核心原则与长期目标。他指出，AI有潜力带来远超蒸汽机或电力的变革，个人能力与自我实现的机会将显著提升。但这一未来并非必然——技术权力可能集中在少数超级智能公司手中，也可能以去中心化方式掌握在公众手里。
OpenAI的目标是将真正的通用人工智能交到尽可能多的人手中，确保AGI惠及全人类，并据此制定了五项原则。首先是民主化，OpenAI将抵制权力集中在少数人手中，确保关于AI的关键决策通过民主程序和公平原则制定。第二是赋能，相信AI能帮助每个人实现目标、学习更多、更快乐，同时以最小化伤害的方式构建和部署技术。第三是普惠繁荣，通过将易用且强大的AI系统交到每个人手中，大幅改善生活质量，这可能需要政府探索新的经济模式并建设大量AI基础设施。第四是韧性，AI会带来生物安全、网络安全等新风险，OpenAI将与各方合作解决，延续迭代部署策略，让社会逐步应对每一级AI能力。第五是适应性，应对不可预测的未来需持续调整策略，并在原则变化时保持透明。
奥尔特曼回顾称，当初发布GPT-2时曾因担忧社会影响而紧张，但正是那段经历促使他们发现了迭代部署这一重要方法。他表示，正进入技术持续进步且影响深远的阶段，每一项决策都值得审视，虽然无法事事正确，但会快速学习并修正方向，推动技术带来更积极的社会影响。
原创文章，作者：若安丶，如若转载，请注明出处：https://www.kejixun.co/article/751183.html
