OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控
https://www.ithome.com/0/999/414.htm
越来越多的 AI 模型正在通过一种帕乔茨基称为“机器递归自我改进”（machine recursive self-improvement）的过程不断提升自身能力。这一过程有望大幅加快 AI 研发速度。
然而，帕乔茨基警告称，在短期内大幅加速“AI 研发 AI”的进程会带来风险，并不是“作为整个研究社区，我们应该采取的正确集体行动”。
他表示，人类监管者需要寻找更加创新的方法，对 AI 的自我改进过程进行监控；否则，各家 AI 公司可能需要相互协调，共同放慢发展速度，从而“增强人们对这些安全措施的信心”。
帕乔茨基表示：“自动化 AI 研究的核心挑战并不是‘能不能到达那里’，而是如何以一种让人类能够继续参与 AI 改进过程的方式到达那里，并确保未来仍然掌握在人类手中。”
https://www.ithome.com/0/999/414.htm
越来越多的 AI 模型正在通过一种帕乔茨基称为“机器递归自我改进”（machine recursive self-improvement）的过程不断提升自身能力。这一过程有望大幅加快 AI 研发速度。
然而，帕乔茨基警告称，在短期内大幅加速“AI 研发 AI”的进程会带来风险，并不是“作为整个研究社区，我们应该采取的正确集体行动”。
他表示，人类监管者需要寻找更加创新的方法，对 AI 的自我改进过程进行监控；否则，各家 AI 公司可能需要相互协调，共同放慢发展速度，从而“增强人们对这些安全措施的信心”。
帕乔茨基表示：“自动化 AI 研究的核心挑战并不是‘能不能到达那里’，而是如何以一种让人类能够继续参与 AI 改进过程的方式到达那里，并确保未来仍然掌握在人类手中。”
